OISMA：一种用于近似矩阵乘法的即时内存随机乘法架构

《IEEE Journal on Exploratory Solid-State Computational Devices and Circuits》：OISMA: On-the-fly In-memory Stochastic Multiplication Architecture for Approximate Matrix-Multiplication

　　

摘要：

目前，人工智能模型的发展主要依赖于其复杂性的显著提升，其中大规模的矩阵乘法运算成为计算性能的瓶颈。为了解决冯·诺依曼架构的局限性，人们提出了基于内存的计算架构。然而，无论是基于数字/二进制的还是模拟的内存计算架构都存在诸多限制，这些限制严重影响了性能和能效的提升。本文提出了一种名为OISMA的节能型内存计算架构，该架构利用准随机计算领域（Bent-Pyramid系统）的计算优势，同时保持了数字存储器的效率、可扩展性和生产力。OISMA将常规的内存读操作转换为几乎无成本的随机乘法操作，然后通过专门的累加外围设备来收集乘法结果，从而实现矩阵乘法功能。一个4KB、1T1R的OISMA阵列采用了商用180nm工艺技术和自主研发的RRAM技术实现。在50 MHz的工作频率下，该阵列的能效达到0.789 TOPS/W，面积效率达到3.98 GOPS/mm2，有效计算面积为0.804241 mm2。将OISMA技术升级到22nm工艺后，其能效提高了两个数量级，面积效率提高了一个数量级，相比传统的密集型矩阵乘法内存计算架构具有显著优势。