清华大学集成电路学院尹首一教授团队在新型人工智能（AI）芯片方向取得突破。该团队设计的可演化AI芯片Evolver，超越传统AI芯片的神经网络推理功能，实现了任务自适应的强化学习和架构重构能力，为机器智能的自我演化提供了硬件基础。2021年2月，该研究成果以“Evolver: A Deep Learning Processor With On-Device Quantization–Voltage–Frequency Tuning”为题发表于集成电路领域顶级期刊IEEE Journal of Solid-State Circuits（JSSC）。
近年来，AI芯片在学术界和工业界被深入研究，广泛应用于智能手机、车载系统、物联网等各种终端设备。当前终端AI芯片的本质是“推理（Inference）”芯片，即运行预先训练好的神经网络模型，完成针对应用场景输入的推理计算。因此，当前终端AI芯片的能力受限于已训练好的神经网络，无法自适应不断变化的任务目标和应用场景。这里的“能力”是多维度的，既包括神经网络的准确度、延时、能耗等指标，也包括模型能完成的智能任务。
可演化AI芯片Evolver在设计时借鉴了大脑的强化学习机制和可塑性结构特点。大脑的神经网络在人的成长过程中持续演化，主要源于以下两个特点：（1）从学习方式上看，大脑通过强化学习（RL）的机制与环境反复交互，逐渐强化适应环境的能力，完成自我演化；（2）从大脑结构上看，新能力的学习体现在神经网络的可塑性。面向任务目标，通过修剪无用的神经突触，增强有用的神经突触，大脑的神经网络持续改变其结构以实现终身学习，提高能力。图1展示了Evolver芯片的自我演化机制：在终端环境变化时，Evolver芯片从环境获取反馈并收集数据，通过自身的学习能力改变网络结构和硬件架构，提高在不同环境下完成智能任务的能力。

图1. Evolver芯片的自我演化机制.
在AI芯片上实现自我演化主要有以下难点：（1）如何实现灵活的强化学习机制以适应不同任务目标和应用环境的需求？（2）如何高效计算不同神经网络模型？针对这两大难点，Evolver芯片创新地设计了（1）可配置强化学习引擎以驱动自我演化，通过和环境交互使演化向目标方向调整；（2）可重构计算引擎和片上配置编译器，为神经网络的可塑性提供高效灵活的硬件支撑。Evolver芯片架构和显微照片如图2所示，采用28 nm 1P8M CMOS工艺实现，芯片面积5.64 mm2，峰值性能和能效可以分别在0.137-2.195 TOPS和3.8-172.8 TOPS/W的范围内调节，提供充分的自我演化空间。Evolver的输入和权重精度均支持INT2/4/8比特，其可重构计算引擎通过在线配置可以支持各种网络结构和规模。图3所示的例子中，Evolver芯片以“能效优先”为任务目标，通过强化学习为ResNet34模型搜索最优的“量化位宽-电压-频率”部署方案。随着搜索次数增加，部署方案也不断演化，能效优先综合指标逐步提高。由于强化学习的引导，Evolver的片上自我演化相比于离线调节可以使用更少的搜索次数获得更好的运行效果。当任务目标由“能效优先”更改为“速度优先”等其他目标时，Evolver可以演化出不同的部署策略，实现对任务目标和环境变化的适应能力。

图2. Evolver芯片架构和显微照片.

图3. Evolver芯片的自我演化能力实验：ResNet34的“量化位宽-电压-频率”自动调节.
论文链接：https://ieeexplore.ieee.org/document/9209075