Arm持续创新计算范式拥抱AI新时代
发布日期：2023-12-14
来源：Arm
编者按：日前Arm Tech Symposia 年度技术大会（北京站）圆满举行，Arm 高级副总裁兼基础设施事业部总经理 Mohamed Awad先生详细地介绍了Arm为迎接AI计算新时代所做的一系列创新举措。
众所周知，Arm以高性能、低功耗的计算性能和灵活的商业模式，开创并引领了移动计算时代。如今AI时代已然来临，人工智能技术深刻影响着边缘计算、移动计算和基础设施领域的变革。
值得关注的是，近年来Arm 已成功转型为一家计算平台公司，在致力于IP 授权业务的同时，也专注于通过完整且全面的解决方案，为合作伙伴带来选择的灵活性，帮助他们更快地将产品推向市场。
Arm 为移动、基础设施、物联网，以及汽车领域推出对应的计算平台，可以加速合作伙伴产品上市进程
Arm 全面计算解决方案 (Arm Total Compute Solutions)、Arm Neoverse平台、Arm Corstone 以及 SOAFEE 等，都是 Arm 的计算平台分别在移动、基础设施、物联网与汽车等市场当中得以广泛应用的例证，这些平台可以帮助Arm向生态伙伴提供完整、集成的解决方案，助力客户快速采用并推出解决方案。
Arm 高级副总裁兼基础设施事业部总经理 Mohamed Awad表示，人工智能 (AI) 正处于快速发展中，对云计算基础设施来说，目前最大的挑战之一是内存带宽发挥最佳性能，为设备提供更好的支持。AI时代的基础设施需要一个新的系统架构来实现更多的内存带宽和内存一致性和足够的灵活性，Arm 凭借其兼具灵活性和设计的独特模式，以及强大的生态系统，正在赋能合作伙伴共赢挑战。
在传统的服务器系统架构中（如下图所示），中间是一个标准的现成 CPU，有标准化的总线，还有几个连接到同一个 CPU 的不同加速器。这样的传统架构一直适用了几十年，但在 AI 时代，这样的架构已经不堪重用。
Mohamed Awad表示，由于无法获得足够的内存，它很难跟上 AI 应用所需的数据和计算量。而解决方案就是研究如何构建一个新的系统架构，使我们能够跟上 AI 时代的步伐。只有通过灵活地调整和重新构建系统的各个方面，才能做到这一点。
基础设施领域的传统系统架构
Arm协同合作伙伴正在创新着一种以“定制的 CPU”为核心的现代化系统架构，以此来满足AI时代基础设施高速率和大带宽的需求。
面向新的应用需求，基础设施领域出现了现代化的系统架构
在新的架构里，围绕定制的CPU，利用现代强大的软件生态系统，直接连接到每个加速器，在加速器和 CPU 之间建立高性能连接，并在整个设备间实现内存一致性。
Mohamed Awad表示，基于 Arm 建立的计算平台，合作伙伴可以创建定制化的 CPU，通过利用所有的投资和庞大的软件生态系统，可以打造出新的产品来解决各类新的问题，而这正是 AI 世界所需要的。
以NVIDIA GH200 Grace Hopper 超级芯片为例，它基于 72 颗Arm Neoverse内核，加上来自 NVIDIA 的 GPU的组合，其AI 性能较基于x86架构的系统可提升 10 倍。
NVIDIA GH200 Grace Hopper 超级芯片采用 Arm Neoverse 搭配 NVIDIA GPU，满足 AI 性能的需求
另一个典型案例来自于亚马逊（AWS）公司。
AWS 发布的第四代基于 Arm Neoverse 平台的处理器——Graviton4。该处理器专为基础设施领域设计。与 Graviton3 相比，Graviton4 的处理速度提高了 30%，核心数量增加了 50%，内存带宽增加了 75%。
AWS 发布第四代基于 Arm Neoverse 平台的处理器 Graviton4
诚然，具备NVIDIA和AWS资源和实力的公司屈指可数，为了推动更多企业迎接AI计算时代，Arm也想到了解决办法。
据Mohamed Awad介绍，为帮助更多中小客户加速部署基于Neoverse平台的系统，Arm特别推出了Neoverse 计算子系统 (CSS) ，合作伙伴可以直接采用，也可按需选用，从而加速产品的上市进程。
实际案例证明，Neoverse CSS 能够帮助合作伙伴进一步降低投资，据其中一个合作伙伴反馈，通过使用 Neoverse CSS，节省了长达 80 人/年的工程师时间；也有合作伙伴反馈通过使用Neoverse CSS，助力他们的项目从概念到流片仅耗时 13 个月。
Arm Neoverse 计算子系统 (CSS)
在 Neoverse CSS 的基础之上，Arm 推出了 Arm 全面设计 (Arm Total Design) 生态项目，进一步结合生态系统的力量，包括专用集成电路 (ASIC) 设计公司、IP 供应商、EDA 工具提供商、代工厂和固件开发厂商等，共同助力简化定制芯片的开发流程，并且让交付变得更加容易、便捷。进一步提高了 Neoverse CSS生态系统中可供合作伙伴使用的可能性，能够帮助合作伙伴进一步加速他们的解决方案开发。
Arm 全面设计 (Arm Total Design) 生态项目助力合作伙伴加速基于 Neoverse CSS 的芯片开发
Mohamed Awad最后表示，Arm非常高兴能够和中国本地的厂商合作推动AI计算进步。阿里巴巴的倚天 710 就是基于 Arm Neoverse 平台打造的 CPU；鸿钧微电子、遇贤微电子以及云豹智能，正在基于 Arm 平台分别打造服务器 SoC 解决方案与云计算和数据中心的DPU解决方案；联想将基于Arm架构的解决方案部署到 5G 领域。
因此，通过携手中国本土的强有力的合作伙伴，Arm深度融入中国AI计算产业，将为中国人工智能技术发展贡献力量。
