目前，AI芯片的大规模应用场景主要还是在云端。在云端，互联网巨头已经成为了事实上的生态主导者，因为云计算本来就是巨头的战场，现在所有开源AI框架也都是这些巨头发布的。工业主板
从应用场景看，AI芯片主要有两类，一是部署在以数据中心为代表的云端，其特点是高性能，功耗随之也偏高；另一个是部署在消费级和物联网的终端，其最大特点就是低功耗。
云端AI芯片已经被各大巨头把控，但是在终端上，由于还没有一统天下的事实标准，芯片厂商可以八仙过海各显神通。目前，AI芯片在终端的应用场景主要还是手机，各大手机处理器厂商都在打AI牌，生怕错过了热点。
产学研各界的众多企业和科研机构在最近两年纷纷投入人力和财力，进行低功耗AI芯片的研发，以期在竞争中占得先机。一些传统AI服务厂商将自己的服务进行垂直拓展，比如的自然语音处理厂商云知声从自己的传统语音业务出发，开发了UniOne语音AI芯片，用于物联网IoT设备。相对于语音市场，安防更是一个AI芯片扎堆的大产业，如果可以将自己的芯片置入摄像头，是一个不错的场景，也是很好的生意。
在计算机体系结构顶级会议ISSCC 2018，“Digital Systems: Digital Architectures and Systems”分论坛主席Byeong-GyuNam对AI芯片，特别是深度学习芯片的发展趋势做了概括，去年，大多数论文都在讨论卷积神经网络的实现问题，今年则更加关注两个问题：一，如果更高效地实现卷积神经网络，特别是针对手持终端等设备；二，关于全连接的非卷积神经网络，如RNN和LSTM。
为了获得更高的能效比，越来越多的研究者把精力放在了低精度神经网络的设计和实现上，如1bit的神经网络。这些新技术使深度学习加速器的能效比从去年的几十TOPS/W提升到了今年的上百TOPS/W。有些研究者也对数字+模拟的混合信号处理实现方案进行了研究。对数据存取具有较高要求的全连接网络，有些研究者则借助3D封装技术来获得更好的性能。相信随着5G和物联网的大面积铺开，低功耗AI芯片将是未来的主要发展方向，只要相关标准能够确定，则商机无限。
总之，AI芯片在终端侧的发展潜力巨大，且应用场景众多，品类也多，这就更适合众多初创的、中小规模AI芯片企业的胃口。
