ai芯片的未来靠什么

AI芯片的未来发展趋势是什么？

从NVIDA和Goolge的设计实践我们可以看出云端AI芯片在架构层面，技术发展呈现三大特点和趋势：

（1）存储的需求（容量和访问速度）越来越高。未来云端AI芯片会有越来越多的片上存储器（比如Graphcore公司就在芯片上实现的300MB的S RAM ），以及能够提供高带宽的片外存储器（HBM2和其它新型封装形式）。

（2）处理能力推向每秒千万亿次（PetaFLOPS），并支持灵活伸缩和部署。对云端AI芯片来说，单芯片的处理能力可能会达到PetaFLOPS的水平。实现这一目标除了要依靠CMOS工艺的进步，也需要靠架构的创新。比如在Google第一代TPU中，使用了脉动阵列（SystolicArray）架构，而在NVIDA的V100GPU中，专门增加了张量核来处理矩阵运算。

（3）专门针对推断需求的FPGA和ASIC。推断和训练相比有其特殊性，更强调吞吐率、能效和实时性，未来在云端很可能会有专门针对推断的ASIC芯片（Google的第一代TPU也是很好的例子），提供更好的能耗效率并实现更低的延时。