天数智芯AI推理芯片流片成功，AI技术真正落地

日前，天数智芯发布首个正式流片的高性能边缘端AI推理芯片——Iluvatar CoreX I AI芯片。该芯片的发布，标志着天数智芯真正将AI技术转化成产品，也意味着天数智芯从边缘到云端“芯云战略”已进入落地阶段，赋能企业实现数字化转型，助力行业智慧发展。

天数智芯名称由来

天数智芯CEO李云鹏介绍了天数智芯名称的由来，其中天是代表着大，数则代表着数字经济时代。而天数智芯的英文名称Iluvatar是创世女神的意思，代表着创新、演进、价值和引领。

李云鹏指出，天数智芯的目标应用是从轨道交通安全需求点出发，以行业智能解决方案的维度，为铁路安全提供云端及边缘的产品及方案支持，实现及时响应，有效管理等特点。目前全国共有三千组高速动车组列车和两万台机车，每台机车和动车组由十万级别的零配件组成，每个零配件的健康直接影响铁路运输的安全。此外，还有一系列铁路运输所牵扯到的货场安全问题。

李云鹏表示，天数智芯的基础算力产品，不仅仅可以为轨道交通行业服务，还可以和石油、天然气开采和运输行业，风电等新能源行业，以及船舶制造等大型装备制造行业合作，共同推广智能化解决方案，实现智能制造产业互联网。

天数智芯CEO李云鹏

李云鹏认为，IT系统升级、大数据平台和物联网技术三者融合的行业垂直解决方案，必须有一个立足点，有一个软硬件结合的系统和产品，其中软件是算力的支撑，也是灵活优化场景化行业的手段。而硬件也就是芯片，由于其迭代周期较长，因此不仅要支持现有火热的AI数据处理应用，也要符合过去传统的智能应用等大规模需求，以及满足未来对算力发展及通用算力支撑的蓝图。

从软件角度上来说，天数智芯三年多的历程完整的实现了Soft Silicon技术，已经推出了第四代SkyDiscovery，满足大数据、人工智能计算平台软件平台。

而今芯片平台的正式发布，意味着天数智芯愿景的正式落地。

李云鹏表示，天数智芯的GPGPU架构（General Purpose Computing on GPU），即在图形图像显示架构上，支持通用型计算。是最细力度的可编程，可根据云、边、端不同特征进行扩展和配置的产品。这个架构既可以为已有的CUDA生态产品提供了原生兼容性支撑，同时也可以保证透明迁移，也就是说可确保国产技术的顺利替换。

在接受采访时，李云鹏也坦言目前天数智芯面向的对象包括铁路交通、智能垃圾箱分类以及某风力发电客户，对于他们的企业级客户而言，卖芯片或卖板卡的方式并不适合，中国市场需要的是解决方案，需要软硬件一体化提供更多的增值服务。

Iluvatar CoreX I露真容

在发布会现场，天数智芯副总裁梁斌详细介绍了Iluvatar CoreX I的情况。

具有的特点包括：一、高精度，可减少模型量化带来的精度损失；二、高算力，在小于5瓦的功耗情况下，提高高达4．8TFlops的算力，和每秒1000帧的图像处理能力。8卡级联时，可以提供最多38TFLOPS算力。三、提供原生TensorFlow的兼容，让客户应用可以无感迁移。四、工业级解决方案，符合稳定性、安全性等特点。五、针对行业用户提供一站式、端到端的完整解决方案，提供软硬件结合的开发环境。

Iluvatar CoreX I详细指标包括：利用TSMC 16nm工艺，采用全自研数据流架构，内核可以提供32路数据并行处理的能力，提供4路PCIe，可通过芯片级联和板卡级联提升计算力。对于算法方面，芯片针对CNN主流神经网络进行优化，支持物体检测、物体识别、人脸识别、行为识别、姿势识别等不同应用场景，可以广泛应用于不同的边缘计算中，对计算力有需求的场景。

梁斌指出，通过对主流算法的优化，基于数据流的高能效运算，高带宽，高容量的本地内存，Iluvatar CoreX I有效得解决了目前主流竞品计算力不足的核心问题。而从应用角度来说，天数智芯通过与成熟的开发生态系统原生兼容，客户可以无需任何代码改动，实现应用的迁移，平均平台的适配周期1－2个星期。”市面上第三方的AI芯片产品，因为目前市场上大部分芯片产品基于底层软件库和自研开发编译器SDK，客户的应用通过耗时耗力的代码转换，适配周期大多耗时1－3个月甚至更长。”梁斌说道。目前算法支持通用CNN主流网络，如VGG、ResNet、YOLOv2等算法模型，用于各类检测、识别和分类的应用场景。

而在CPU方面，Iluvatar CoreX I同样拥有灵活的适配性，可与X86架构、Arm架构或者是国产CPU架构等适配；而在可扩展方面，支持多芯片，多板卡级联的方案。

“目前市面上主要竞品15瓦功耗，算力为1．5TFLOPS，而Iluvatar CoreX I在低于4．7瓦的功耗下，提供4．8TFLOPS的计算力，相比主流竞品，我们提供超过十倍的能效比。”梁斌说道。“实际测试结果也表明，在物体分类场景下天数智芯性能相比对手高出两倍，能效提升8倍，在物体识别场景中也有类似表现。”

与芯片配套的则是云、边、端三层次的人工智能软件平台——SkyDiscovery。提供数据集成，智能数据存储，模型评估服务部署的一站式服务，可在云、边、端协同工作。由于是自有的软硬件一体化，因此可从软件底层提供针对天数智芯芯片的支持，实现更好的配合。

梁斌介绍道，天数智芯并不直接对外销售芯片，而是提供板卡级的产品，一种形式是系统级板卡，直接赋能智能垃圾分类、智能零售、智能监控等不同的嵌入式边缘端应用。另外一种则是PCIe边缘端加速卡，直接插在服务器上进行加速。

在此次发布会上，天数智芯带来了诸多基于Iluvatar CoreX I的实际场景，通过结合应用，展现出天数智芯赋能AI的具体措施，包括智能轨道交通的传感器数据融合、本地化实时数据处理、实时监控、管理及预警等工作。而在智能医疗方面，包括药房药品识别分析，内部告警等作用。智慧园区则包括了人脸识别、员工身份认证、行为识别等。智能垃圾分类是通过摄像头进行回收物识别和人脸识别等应用。

针对未来芯片规划，梁斌表示公司正在开发7nm工艺的自研GPGPU架构高端云端训练芯片，以及一款中端GPGPU边缘云推理芯片，结合已发布的 Iluvatar CoreX I设备端芯片，打造出云、边、端的全方位覆盖。

李云鹏表示，希望天数智芯在未来的三年中，不仅实现盈亏平衡，而且能够有利润去不断扩充基础投入，确保公司发展20年以上，把产品真正做到国际一流水平。“天数智芯自2015年成立以来，经历了初创期的懵懂、野蛮生长和碰壁，走过了一条完整的初创型闭环。今天我们选择在杭州西子湖畔召开芯战略发布会，标志着天数智芯迎来了新起点，迎来了有机成长期。”李云鹏说道。