明尼苏达大学双城分校的工程研究人员展示了一种最先进的硬件设备，可以将人工智能(AI)计算应用的能耗降低至少1000倍。

这项研究发表在npj非常规计算杂志上，题为“基于磁隧道结的计算随机存取存储器的实验演示”。研究人员在该设备中使用的技术拥有多项专利。

随着对人工智能应用的需求不断增长，研究人员一直在寻找创造更节能工艺的方法，同时保持高性能和低成本。通常，机器或人工智能过程在逻辑(系统内处理信息的地方)和内存(存储数据的地方)之间传输数据，消耗大量的电力和能量。

明尼苏达大学科学与工程学院的一组研究人员展示了一种数据永远不会离开存储器的新模型，称为计算随机存取存储器(CRAM)。

“这项工作是CRAM的第一次实验演示，其中数据可以完全在存储器阵列内处理，而不需要离开计算机存储信息的网格，”明尼苏达大学电子与计算机工程系博士后研究员、论文的第一作者吕阳说。

国际能源署(IEA)在2024年3月发布了一份全球能源使用预测，预测人工智能的能源消耗可能会从2022年的460太瓦时(TWh)增加到2026年的1000太瓦时。这大约相当于整个日本的用电量。

根据这篇新论文的作者，基于cram的机器学习推理加速器估计可以实现1000倍的改进。另一个例子显示，与传统方法相比，节能2500倍至1700倍。

这项研究已经进行了20多年。

“20年前，我们将存储单元直接用于计算的最初概念被认为是疯狂的，”该论文的资深作者、明尼苏达大学电子与计算机工程系杰出麦克奈特教授和罗伯特·f·哈特曼主席王建平说。

“自2003年以来，随着不断发展的学生群体和明尼苏达大学建立的真正的跨学科教师团队-从物理学，材料科学与工程，计算机科学与工程，到建模和基准测试，以及硬件创造-我们能够获得积极的成果，现在已经证明这种技术是可行的，并且已经准备好纳入技术，”王说。

这项研究是建立在王和他的合作者对磁隧道结(MTJs)设备开创性的专利研究基础上的持续和长期努力的一部分，这是一种纳米结构的设备，用于改进硬盘驱动器，传感器和其他微电子系统，包括磁随机存取存储器(MRAM)，它已用于嵌入式系统，如微控制器和智能手表。

CRAM架构使真正的计算能够在内存中进行，并打破了计算和内存之间的墙，这是传统冯·诺依曼架构的瓶颈，这是一种存储程序计算机的理论设计，几乎是所有现代计算机的基础。

“作为一种非常节能的基于内存的数字计算基板，CRAM非常灵活，可以在内存阵列的任何位置执行计算。因此，我们可以重新配置CRAM，以最好地满足各种人工智能算法的性能需求，”计算架构专家、论文合著者、明尼苏达大学电子与计算机工程系副教授乌利亚·卡尔普兹库(Ulya Karpuzcu)说。

“它比当今人工智能系统的传统构建模块更节能。”

Karpuzcu解释说，CRAM直接在存储单元内执行计算，有效地利用了阵列结构，从而消除了对缓慢且能源密集型数据传输的需求。

最有效的短期随机存取存储器(RAM)设备使用4到5个晶体管来编码1或0，但一个MTJ，一个自旋电子设备，可以用一小部分能量执行相同的功能，速度更快，并且对恶劣环境具有弹性。自旋电子器件利用电子的自旋而不是电荷来存储数据，为传统的基于晶体管的芯片提供了一种更有效的替代方案。

目前，该团队正计划与包括明尼苏达州在内的半导体行业领导者合作，提供大规模演示并生产硬件，以推进人工智能功能。

除了Lv、Wang和Karpuzcu，该团队还包括明尼苏达大学电气与计算机工程系的研究人员Robert Bloom和Husrev Cilasun;杰出麦克奈特教授和罗伯特和马乔里·亨利主席Sachin Sapatnekar;以及前博士后研究人员Brandon Zink、Zamshed Chowdhury和Salonik Resch;以及来自亚利桑那大学的研究人员:Pravin Khanal, Ali Habiboglu和Weigang Wang教授。

更多资料:杨璐等，基于磁隧道结的计算随机存取存储器的实验演示，npj非常规计算(2024)。DOI: 10.1038/s44335-024-00003-3由明尼苏达大学提供引文:工程师开发基于磁隧道结的设备，使人工智能更节能(2024,July 26)检索自https://techxplore.com/news/2024-07-magnetic-tunnel-junctionbased-device-ai.html。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。内容仅供参考之用。

点击分享到