12月17日， GTC China 2020大会上，阿里云异构计算产品负责人潘岳表示，人工智能行业需求发生了明显的变化，云上AI业务的推理需求占比首次超过50%，阿里云GPU云服务器从四年前的gn4到今年新发布的gn7，单实例异构算力提升了100倍。
异构计算是最能发挥AI效率的计算方式。潘岳介绍，阿里云提供了超大规模的云上异构计算集群，每秒可支撑100亿亿次的异构运算，能够在1秒内看懂超过5.3亿张图片；识别3.3亿秒/9.2万小时长的语音，相当于听写了1723本《红楼梦》长篇小说或者26万篇短篇小说；1秒内可以翻译4千万句话，相当于翻译了42本《哈姆雷特》。
4年前，云上80%的AI需求来自训练业务。但在2020年，云上AI推理业务的占比已经超过一半。潘岳表示，这也标志着阿里云异构计算进入新的阶段，即软硬一体的云上异构基础设施。
具体来说，用户不仅需要深度学习框架软件，更需要与之适配的硬件来发挥GPU的算力，例如阿里云神龙AI加速引擎 AIACC 和FastGPU等极速部署工具，就通过池化算力带来灵活的计算调度，云服务器从特定配置向serverless方向发展。可帮助客户在训练场景下提升2倍到10倍的性能，在推理场景下提升2倍到4倍的性能，节省至少50%的成本。
以知名人工智能芯片企业地平线为例。阿里云AIACC团队，和地平线研发团队紧密合作，将基于阿里云异构计算的分布式训练性能提升4倍，让地平线算法研发效率得以显著的提升，成本得以大幅下降。
“AI业务从最早的推理占比不到20%，到今天占比过半；原来只有人工智能初创公司探索，到落地各行各业；云上异构业务从单一深度学习训练场景，到今天的训练推理、云桌面、图形图像设计等多元化场景。阿里云异构计算是企业数字化、智能化转型的见证者，也是实践者。”潘岳表示。
