最近，美国人工智能芯片初创公司Syntiant公布了一款超低功耗芯片，可以在1mW的功耗下玩《毁灭战士》。
一个1毫瓦的机器学习芯片可以做很多事情，不过像玩《毁灭战士》（Doom）这样充满想象力的做法却很少见。
最近几日，在旧金山举行的2023 IEEE ISSCC（International Solid State Circuits Conference）大会上，总部位于加州欧文的AI芯片初创公司Syntiant详细介绍了他们的产品NDP200—— 一款超低功耗芯片，主要用来运行监控视频的神经网络，并在发现重要事件时唤醒其他系统。
如下为NDP200（Neural Decision Processor）玩《毁灭战士》的展示视频。
Syntiant使用了基于Doom的AI研究平台VizDoom，这在AI研究中很受欢迎。团队使用强化学习来训练多层神经网络，其中第一层负责理解网络看到的内容，而最后一层负责采取回应行动。整体来说，这个网络由大约60万个参数组成。虽然没有ChatGPT所需的亿级规模参数，但仍然要比监听“OK, Google”这类关键短语所需的10000个参数强大得多。NDP200有640 kilobytes的板载内存用于神经网络参数。
图源：https://www.syntiant.com/ndp200
如上展示的片段中的游戏关卡叫做“保卫圆圈”，它让玩家在一个圆形房间内移动，射击面前的怪物。IEEE Fellow、前Syntiant高级工程师副总裁David Garrett表示，在训练中，神经网络必须首先识别怪物，然后学习射击它们。在第一次杀死猎物后，系统会卸载clip（可以理解为一种文件类型），但后来发现这不是一个好办法。因此，系统很快就学会了节省弹药。
尽管《毁灭战士》的示范非常精彩，但NDP200还有更多实际用途。Garrett指出，它有能力进行人体轮廓检测，这是一项通常由更强大的处理器完成的关键任务。Syntiant芯片可以运行人体检测，作为家庭或汽车安全系统的节能步骤。
为了展示其能源效率，Syntiant将NDP200与基于Arm Cortex A53的处理器进行了比较，该处理器运行了20万个参数版本的MobileNetV1，这是MLPerf用来判断系统对视觉唤醒词回应情况的测试。NDP200每次扫描图像只使用166微焦耳，大约是Arm处理器的1/100。因此，Syntiant芯片每秒可以扫描6格视频，而耗电量为1毫瓦。
这款芯片并没有那么神秘，它有一条定制的路径，资料在芯片的神经决策处理器中流动。据Garett介绍，它尽可能充分利用了芯片的乘法累加单元，即机器学习计算的核心，将高达每秒9 gigabytes的资料带宽传输到神经核心。
Garrett不愿透露Syntiant下一步的技术发展，但他表示会有更多有趣的应用。他说：50万个参数足够做出真正的好东西了。
数据源：