原始创新再攀高峰：芯粒集成的解决方案与高效的流水线芯片架构登上国际顶会

近日，国际计算机体系结构大会ISCA(International Symposium on Computer Architecture)2021公布了论文入选结果。由图灵奖得主、中科院院士、清华大学交叉信息研究院院长姚期智与西安市合作共建，设立于西安高新区的交叉信息核心技术研究院（以下简称：交叉信息核心院）共有两篇论文被录用：前沿构架与智能芯片研究中心领衔教授马恺声研究组、安全计算硬件系统研究中心领衔教授高鸣宇研究组各入选一篇。两篇论文分别展示了在Chiplet（芯粒）集成的解决方案和高效的流水线芯片架构方面的创新研究成果。

Chiplet集成的解决方案：解决芯片领域“卡脖子”技术难题

NN-Baton:DNN Workload Orchestration and Chiplet Granularity Explorationfor Multichip Accelerators一文是继2020年交叉信息核心院牵头成立Chiplet产业联盟后，马恺声教授研究组在Chiplet方向研究由0到1的关键一步。NN-Baton首次解决了面向Chiplet系统的神经网络硬件映射问题，并探讨了从传统的SoC芯片拆分成Chiplet的粒度问题。

随着基于人工智能新应用的发展，越来越多的厂商都在系统芯片中集成了面向深度学习计算的专用模块NPU，例如在华为、三星和苹果的手机芯片中都有它的影子。为了适应日趋复杂的算法，硬件的算力需求也因而越来越大，导致芯片面积的开销非常大，例如NVIDIA,华为，特斯拉，阿里巴巴的AI芯片，单裸片（Die）面积已从260mm上升至709mm（已接近光刻机单次流片的面积上限）。借鉴十年前由于功耗限制无法继续提升频率而提出的“功耗墙”概念，该文针对当前由于面积限制无法继续增大单裸片面积而提出“面积墙”的概念，并指出Chiplet集成的解决方案势在必行。

通过实验，该论文采用NN-Baton得到的最优映射最高为：可以进行近20倍的优化，并且非常方便地搜寻到最优的映射策略。同时，研究组进一步比较了Simba——NVIDIA的一款基于Chiplet的深度学习计算系统，采用该研究组的最优数据流可以实现22.5%-44%的能耗优化。