阳明交大与工研院合作,开发全世界最高能效内存内运算加速芯片

阳明交通大学电子研究所教授侯拓宏领导的团队深耕内存内运算技术多年,通过内存组件、内存电路、人工智能算法的跨层级共同设计,一步步提升内存内运算的性能,以商用化的28纳米制程技术,发布全世界最高能效的三元卷积神经网络(ternary CNN)内存内运算加速芯片。

内存是各种计算机系统中存储数据不可或缺的硬件单元,但现在新一代的智慧内存有更多的应用,可以存储数据,并进行庞大的数据运算,能如人脑一般结合存储与运算于一体,这样的内存内运算(in-memory computing)架构模仿人脑神经网络的架构,是未来实现高性能、低耗电人工智能的希望所在。

今年的IEEE亚洲固态电路会议(IEEE A-SSCC)中,阳明交大与工研院电光系统所团队共同合作,以商用化的28纳米制程技术,发布目前全世界最高能效的三元卷积神经网络(ternary CNN)内存内运算加速芯片。

全世界最高能效的三元卷积神经网络内存内运算加速芯片。 (Source:阳明交大)

三元卷积神经网络内存内运算加速芯片,每瓦功耗每秒可进行超过两万万亿次的运算(20943 TOPS/W),较过去的技术大幅提升3.7倍,面积使用效率也提升4.5倍,树立全新的内存内运算性能里程碑。

通过跨层级共同设计技术,三元卷积神经网络内存内运算加速芯片,克服内存内运算中存在的计算误差,展示极低耗电且高准确的语音关键字识别能力,目前与工研院的团队正积极将该技术导入商业用“即呼即醒”的智慧蓝牙耳机中。

侯拓宏表示,人工智能的瓶颈之一在于运算硬件的性能,也是人工智能运算无法由数据中心全面普及到个人移动设备的主要原因,内存内运算因为其高能效的特性,是目前全世界各大IC设计公司与内存公司关注的破坏性技术,但真正的潜力仍未被完整的实现。

侯拓宏强调,这次的研发成果充分展现内存内运算的进步性,而使用商业化的半导体技术,让该技术的商品化导入更加容易,相信再经过几年的努力,打造如人脑一般高效的人工智能运算硬件将不再是遥不可及的梦想。

(首图来源:阳明交大)