Rambus助力新一轮人工智能应用浪潮

更新日期:2022年06月23日

       RambusIP 核心产品营销高级总监 Frank Ferro 目前, 随着人工智能/机器学习(AI/ML)的迅速崛起, 智能技术正在广泛应用于制造、交通、医疗、教育和金融等各个领域, 而人工智能将掀起下一次工业革命。作为全球人工智能发展最快的国家之一, 中国备受关注。根据德勤最新发布的统计预测数据, 2020年全球人工智能市场规模将达到6800亿元, 复合增长率(CAGR)为26%。中国人工智能市场表现尤为突出。预计到2020年市场规模将达到710亿元, 2015-2020年五年复合增长率高达44.5%。近年来, 我国积极推进人工智能与实体经济的融合,

实现产业优化升级。 2017年7月, 国务院发布了《新一代人工智能发展规划》, 与2015年5月发布的《中国制造2025》共同构成了中国人工智能战略的核心。这一具有里程碑意义的规划战略部署了人工智能的发展, 力争到2030年将中国建设成为世界主要的人工智能创新中心。此外, 2020年是中国新基建开局之年, 人工智能作为重点领域, 必将成为新基建的核心支撑。在此背景下, 2019年底中国人工智能产业规模将达到510亿人人民币, 其中人工智能公司超过2600家。随着中国加速利用人工智能引领经济增长, 这一趋势将推动计算机硬件和软件各方面的快速发展。 Rambus 在新发布的白皮书中探讨了内存带宽对 AI/ML 的关键作用, 特别关注 HBM2E 和 GDDR6 内存优势和设计注意事项。白皮书还解释了每种内存在整体 AI/ML 架构中的适用性, 以及如何使用 RambusHBM2E 和 GDDR6 接口解决方案实现完整的内存子系统。以下是白皮书的一些重要内容: AI/ML 已进入快速发展期。
       作为AI/ML的关键应用场景, 训练和推理能力的发展在一定程度上代表了人工智能的快速发展。从 2012 年到 2019 年, AI 训练集增长了 30 万倍, 需要在 AI 计算机硬件和软件的各个方面不断快速改进。
       与此同时, 人工智能推理正在网络边缘和广泛的物联网设备中采用, 包括汽车/ADAS。支持这种发展速度需要的改进远远超过摩尔定律所能达到的水平, 摩尔定律在任何情况下都在放缓, 这需要人工智能计算机硬件和软件的各个方面不断快速地改进。内存带宽是影响人工智能发展的关键因素 内存带宽将是人工智能持续增长的重点领域之一。配备高级驾驶辅助系统 (ADAS)例如, 3 级及更高级别系统上的复杂数据处理需要超过 200GB/s 的内存带宽。这些高带宽是复杂 AI/ML 算法的基本要求, 这些算法需要在自动驾驶过程中快速执行大量计算并安全地执行实时决策。在 5 级, 完全自动驾驶, 车辆可以独立对交通标志和信号的动态环境做出反应, 并准确预测汽车、卡车、自行车和行人的运动, 将需要超过 500GB/s 的内存带宽.随着新一代 AI/ML 加速器和专用芯片的快速发展, 高带宽内存(HBM、HBM2、HBM2E)和 GDDR6 SDRAM(GDDR6)等新型内存解决方案逐渐被采用, 以提供所需的带宽。 HBM2E 和 GDDR6 助力新一波人工智能应用 鉴于 AI/ML 需求分裂的特点, 内存的选择取决于应用:训练或推理。
       高带宽内存 HBM2E 和 GDDR6 都可以发挥至关重要的作用。对于培训, 带宽和容量是关键要求。特别是考虑到训练集的大小每 3.43 个月翻一番。此外, 在数据中心运行的训练应用程序越来越受到电力和空间的限制, 因此拥有一个能提供更高能效和更小尺寸的解决方案是一大优势。考虑到所有这些需求, HBM2E 是 AI 训练硬件的理想内存解决方案。在推理的情况下,

带宽和延迟对于实时操作的需求至关重要。
       对于越来越具有挑战性的 AI 推理领域, GDDR6 是一个理想的解决方案。建立在经过验证的制造工艺之上, 其出色的性价比使其适合广泛采用。 Rambus 提供全面且现成的 HBM2E 和 GDDR6 内存接口解决方案, 可集成到 AI/ML 训练和推理 SoC 中。最近, 该公司的 HBM2E 内存接口解决方案实现了创纪录的 4Gbps 性能。该解决方案由一个完全集成的 PHY 和控制器与 SKhynix 以 3.6Gbps 的速度运行的业界最快的 HBM2EDRAM 组成, 可以从单个 HBM2E 设备提供 460GB/s 的带宽。这种性能满足最苛刻和最先进的 AI/ML 训练和高性能加速器计算 (HPC) 应用程序的 TB 级带宽要求。一般来说, 训练和推理具有独特的应用需求, 可以通过定制内存解决方案来支持。 HBM2E 非常适合 AI 训练, GDDR6 非常适合 AI 推理。
       设计人员可以通过与 Rambus 合作来克服这些架构中固有的设计挑战, 从而实现这些高性能存储器的优势。

Copyright © 2001-2022 山特电子有限公司 shantedianziyouxiangongsi ,All Rights Reserved (www.creolestakeout.com)