Arm全新AI 技术为物联网终端设备带来空前智能

2月11日，Arm宣布其人工智能（AI）平台新增重要生力军，包括全新机器学习（ML） IP：Arm Cortex－M55处理器和Arm Ethos－U55神经网络处理器（NPU），后者也是针对Cortex－M平台推出的业界首款微神经网络处理器（microNPU）。

这样的设计（Cortex－M55结合Ethos－U55）为微控制器带来480倍的机器学习性能飞跃。全新的IP与搭配的开发工具，能够让AI硬件与软件开发人员以更多的方式进行创新，从而为数十亿个小型、低功耗的物联网与嵌入式设备带来前所未有的终端机器学习处理能力。

Arm 资深副总裁暨车用与物联网事业部总经理Dipti Vachani表示：“要让AI无所不在，设备制造商与开发人员必须在数十亿、乃至数万亿个设备上实现终端机器学习能力。我们的AI平台增添这些生力军后，即便在最小的设备上，终端机器学习也将成为新常态，不会再有遗珠之憾，从而让AI的潜力可以在范围宽广的、正在改变我们生活的应用当中得以安全、有效地发挥。”

随着物联网的发展与AI和5G的发展相互交织，更多的终端智能意味着更小型且成本敏感的设备会愈来愈智能、功能也愈来愈强，同时因为对云端与网络的依赖较小，也将具备更高的隐私性与可靠度。Arm通过新的设计为微处理器带来安全的智能，为想要有效提升终端数字信号处理（DSP）与机器学习能力（ML）的产品制造商降低芯片与开发成本，同时加快他们的产品上市速度。

Arm Cortex－M55： Arm人工智能能力最强大的Cortex－M处理器

Cortex－M处理器已经成为开发人员运算平台的最佳选择，Arm的合作伙伴已经出货超过500亿片基于Cortex－M的芯片，用于各种客户应用。新增的Cortex－M55是Arm历来AI能力最为强大的Cortex－M处理器，也是首款基于Armv8．1－M架构、内建Arm Helium向量处理技术的处理器，它可以大幅提升DSP与ML的性能，同时更省电。与前几代的Cortex－M处理器相比，Cortex－M55的ML性能最高可提升15倍，而DSP性能也可提升5倍，且具备更佳的能耗比。

此外，客户也可以使用Arm Custom Instructions （Arm自定义指令集）延伸处理器的能力，对特定工作负载进行优化，而这也是Cortex－M处理器的全新功能。

Ethos－U55： Arm针对Cortex－M推出的首款microNPU

针对需求更高的ML系统，可将Cortex－M55与Ethos－U55搭配，后者是Arm首款微神经处理器（microNPU），与现有的Cortex－M处理器相比，两者结合后可使产品ML性能提升480倍。

Ethos－U55具有高度的可配置性，旨在加速空间受限的嵌入式与物联网设备的ML推理能力。它先进的压缩技术可以显著节省电力并缩小ML模型尺寸，以便运作之前只能在较大型系统上执行的神经网络运算。

简化的软件使得所有开发人员都能获取安全的AI功能

Arm非常清楚，开发人员的经验对于推动AI革命是至关重要的。因此，Cortex－M55与Ethos－U55得到了Arm业界领先的Cortex－M软件开发工具链的全力支持。如此一来，我们针对传统DSP与ML等工作负载，有了一致的开发流程；同时从TensorFlow Lite Micro开始，针对先进机器学习框架进行特定的整合与优化，确保开发人员拥有无缝的开发体验，并能够在任何一种Cortex－M与Ethos－U55的配置上，获取最佳性能。

Arm认为安全不应该是事后弥补措施，它对于物联网的普及极为重要。为了确保最安全的设计并顺利通过PSA认证，这些处理器和搭配的Corstone参考设计都可以与Arm TrustZone一起工作，以确保安全性可以更为简易地整合到完整的片上系统中。

赋能生态系统

全新的Cortex－M CPU与Ethos microNPU凸显了Arm对推动物联网发展的承诺：致力于协助芯片设计人员与设备制造商，即便在最小的终端设备上，也能利用Arm架构进行创新，并为物联网点燃新一波创造力与创新性。这一技术正获得生态系统合作伙伴与业界的广泛支持，其中包括亚马逊（Amazon）、Alif半导体（Alif Semiconductor）、恒玄科技（Bestechnic）、赛普拉斯（Cypress）、杜比（Dolby）、Google、恩智浦半导体（NXP）、三星（Samsung）、意法半导体（STMicroelectronics）等。

合作伙伴证言

Alif半导体

“要让分布式智能发挥效果，每个终端就必需具备更强的处理能力，以降低云端流量、运行AI推理、提升安全性，并及时响应。我们已经采用全新的Cortex－M55，因为它具备高效涵盖各式任务的能力。这一全新的处理器，从超长的电池寿命到最大处理性能，表现都可圈可点。”

Alif半导体总裁兼联合创始人Reza Kazerounian

Au－Zone

“OEM厂商已充分了解将AI工作负载从云端移至移动设备与嵌入式物联网设备后，对降低迟延与提升隐私与安全性的好处。这一趋势将影响各类市场，但转型成功的关键在于具备能够支持这类工作负载的运算群集（compute clusters）的能力，如Arm全新Cortex－M55 与Ethos－U55等，以及生产等级的ML开发工具。 ”

Au－Zone首席执行官Brad Scott

恒玄科技

“影响AI部署的因素包括成本、功耗、性能和软件支持等限制。Arm推出的这一新技术，将加速在恒玄科技的蓝牙音频片上系统中的AI创新：我们能够在严苛的成本和功耗预算下实现更强的数字信号处理和机器学习技术，从而为智能设备提供更自然的语音交互，例如在真无线耳机上实现语音助理功能。”

恒玄科技首席执行官张亮

赛普拉斯

“赛普拉斯公司的解决方案协助设计人员创造智能、安全的物联网边缘设备。随着ML环境的快速演进，我们明确看到了实时、灵活的终端解决方案所具有的机会。全新的Arm Cortex－M55处理器提供ML工作负载所需的高效计算平台，同时也能适应这些应用所具有的功耗与尺寸限制。”

赛普拉斯ICW事业单位资深副总裁Vikram Gupta

杜比

“外型小巧的扬声器，例如智能音箱，要提供沉浸式的音效体验，信号处理极为关键。Arm Cortex－M55处理器拥有更高的数字信号处理性能与能耗效率，能够协助杜比为娱乐带来革命性的进展，并让芯片制造商与OEM厂商将Dolby Atmos导入至他们旗下更多的产品中。”

杜比音讯事业部副总裁Mahesh Balakrishnan

Google

“Google持续与Arm携手合作，在Arm架构上完全优化TensorFlow，并为需要极度省电、成本敏感且往往被部署在缺乏网络环境的嵌入式设备带来机器学习能力。来自Arm的这一全新IP，进一步推进了我们通过在终端设备上实现ML，以达成数十亿个具备TensorFlow功能设备的共同愿景。仅依靠电池，这些设备就能运行神经网络模型达数年之久，并可直接在终端设备上实现低迟延的推论。”

Google微控制器用TensorFlow Lite部门产品经理Ian Nappier

恩智浦半导体

“在全新的AI典范、以及云端处理所面临的成本、低迟延、可靠性与隐私等挑战的推动下，‘强化边缘计算’已经变成新的大趋势。Arm的全新终端ML技术，将协助恩智浦半导体众多的微控制器开发人员，在体积与电量受限的设备上加速边缘推理的研发。”

恩智浦半导体边缘处理资深副总裁Geoff Lees

Qeexo

“我们的QeexoAutoML平台可以自动打造‘TinyML’解决方案，这种轻量级的机器学习解决方案可为各种小型设备赋予智能能力。Arm全新的Cortex－M55与Ethos－U55处理器，让Qeexo能够结合空前的高性能和低迟延，更轻松地为微控制器开发机器学习功能，从而进一步为终端设备推出创新的嵌入式ML解决方案。”

Qeexo首席执行官Sang Won Lee

Shoreline IoT

“Arm的Cortex－M55与Ethos－U55处理器带来的灵活性、性能提升与开发便利性，将让Shoreline IoT能够直接为终端设备提供使电池寿命显著提升且具备更复杂、更快速、更先进的ML算法的解决方案。”

Shoreline IoT联合创始人兼首席执行官Kishore Manghnani

意法半导体

“全新的Arm Cortex－M55技术为意法半导体的下一代微控制器带来所需的ML性能与效率提升。它对STM32Cube．AI工具与生态系统的支持，意味着这一全新技术对于STM32开发人员在使用上将极为简单、快速且更优化，从而进一步提升他们已经能够广泛使用的各项AI应用。”

意法半导体微控制器部门总经理Ricardo De Sa Earp