从端到云 寒武纪发布云端AI芯片和终端IP产品

5月3日，AI芯片“独角兽”寒武纪在上海发布终端智能处理器IP产品、云端智能芯片MLU100及其板卡，联想、曙光、科大讯飞现场发布基于寒武纪芯片的应用产品。

“我们要让人工智能的公司少花钱、多出活，没有难看的财务报表。” 寒武纪公司创始人兼CEO陈天石说。

以通用性应对多种决策场景

2016年，寒武纪发布“全球第一款商用终端智能处理器IP产品”寒武纪1A并成功入选第三届世界互联网大会评选的“世界互联网领先科技成果”，全球首款内置独立NPU麒麟970正是搭载了寒武纪1A模块，并应用于华为Mate10、P20和荣耀10等智能终端。本次发布的寒武纪1M，是寒武纪第三代IP产品，基于台积电7nm制造工艺，提供2Tops/4Tops/8Tops三种规模的处理器核，可通过多核互联进一步提高性能。

随着AI渗透各行各业，特定场景下的定制化AI芯片受到追捧。如亚马逊早先传出为智能音箱Echo定制AI芯片，英特尔也为开放环境下最复杂的决策场景之一——自动驾驶开发EyeQ系列。而寒武纪1M聚焦于通用性和卓越性。据陈天石介绍，寒武纪1M的处理器核支持CNN、RNN、SOM等多样化的深度学习模型，并更进一步支持SVM、k-NN、k-Means、决策树等经典机器学习算法，支持本地训练，为视觉、语音、自然语言处理以及各类经典的机器学习任务提供了灵活高效的计算平台。

“通过多核处理器集成的方式带来更强的性能，将赋予下游厂商更多的自由度。比如做手机或者是智能音箱，用一个处理器核就可以完成，如果做比较复杂的智能驾驶，可能需要好几个核同时处理多路、复杂的视觉信息。”陈天石说。

相比在云端处理数据再回传到设备的信息处理方式，在终端进行本地训练有利于个性化学习、隐私保护并减轻云端数据中心的负载和开销。陈天石透露，寒武纪1M是全球首款支持本地训练的终端智能处理器产品，能快速赋予芯片客户智能处理能力。

“有了寒武纪1M，就不再有难做的智能终端芯片。”陈天石说。

端云结合打造智能生态

智能芯片是人工智能产业的基石。随着数据中心、高性能计算、云计算对算力要求的不断提升，国际科技巨头已经在云端AI芯片展开角逐。如集成到谷歌数据中心的TPU处理器，英伟达用于超算和云计算的Tesla GPU系列，成为微软深度学习平台Project Brainwave的关键加速器的英特尔FGPA芯片等。

本次发布会，寒武纪推出了基于台积电16nm工艺，高性能模式下的等效理论峰值速度达每秒166.4万亿次定点运算、峰值功耗不超过110瓦的MLU100云端智能芯片。据陈天石介绍，MLU100芯片的软件平台是基于寒武纪已经发布的平台，以寒武纪处理器为基础，配合寒武纪的编译器、机器学习支持库，可以支持已有的深度学习主流框架，未来，寒武纪还将发布自己的编程语言。

“MLU100本身可以高效完成多任务、多模态、低延时、高通量的复杂智能处理任务，还可以与寒武纪1A/1H/1M系列终端处理器完美适配，以端云协作的方式为广大客户提供前所未有的智能应用体验。”陈天石说。

会上，联想、曙光、科大讯飞公布了基于寒武纪芯片的应用方案。联想集团推出了基于MLU100智能处理卡的ThinkSystem SR650，打破了37项服务器基准测试的世界记录，将全面支撑起联想客户在机器学习/VDI/虚拟化/云/数据库/分析/SAP等方向上的业务需求。

中科曙光推出了基于Cambricon MLU100智能处理卡的服务器产品系列“PHANERON”，支持2-10块寒武纪MLU处理卡，PHANERON-10单台服务器可集成10片寒武纪人工智能处理单元，为人工智能训练应用提供832T半精度浮点运算能力，为推理应用提供1.66P整数运算能力，典型场景下的能效提升30倍以上。此外，中科曙光还披露了人工智能管理平台SothisAI，可以与寒武纪的芯片及其开发环境实现深度融合。

科大讯飞公司也在发布会上披露了与寒武纪芯片的深度合作研发项目。根据介绍，一小时的语音数据在一个传统处理器上进行智能应用处理，需要一万小时才能完成，而科大讯飞于发布会上披露的测试结果表明，寒武纪的智能处理器在语音智能处理上交出了优异的答卷，能耗效率领先竞争对手的云端GPU方案达5倍以上。寒武纪智能处理器支持手机本地端处理更加复杂的机器学习算法，使得语音本地识别准确率相对于传统处理器领先了9.8%%，显著提高了用户体验。

“寒武纪将以处理器IP授权的形式与全世界同行共享技术成果，使全球客户能够快速设计和生产具备人工智能处理能力的芯片产品，让终端和云端在统一的智能生态基础上协同完成复杂的智能处理任务。”陈天石说。