今年9月，阿里巴巴正式发布了第一版AI硬件测评的Benchmarks --- AI Matrix。
其两个主要定位，一方面面向于阿里巴巴以及行业AI软硬件开发者做硬件选型和测评，为芯片应用产品化提供输入，它是一项可以为硬件打分的测试集。另一方面，希望将 AI Matrix作为AI 硬件的基准测试，让更多的开发者一起参与。
在近日举行的AIIA人工智能开发者大会、2018 中国计算机大会 (CNCC2018)两场大会上，阿里巴巴AI Matrix架构师魏巍在开源推进组论坛分享了AI Matrix的发展近况，从AI Matrix的创立目标、应用内容、以及接下来的推进计划，希望有更多志同道合的开发者能一起加入。
“阿里巴巴在数据和算法上有明显的积累和优势，同时有非常丰富的业务应用场景。而厂商的产品设计和规划，必须要结合应用场景需求，做到Domain Specific软硬件的完美结合，这就要定出一套合理的评估衡量标准，这样的Benchmark是AI硬件产品化一个硬需求。” 阿里巴巴AI Matrix构架师魏巍表示。
阿里巴巴的大规模业务需求就已经对Benchmarks提出了前所未有的挑战，AI Matrix团队认为，Benchmarks不应该仅仅是一些简单的搜集和罗列，不仅需要有代表性，能够真实的反映业务的情况，而且要有灵活性和适应性，能够跟踪业务的变化，随之不断的推陈出新。
因此，AI Matrix 架构师魏巍设定了平台化，灵活性，专业性以及可移植性四个主要方向，并创新性地提出了合成模型StatsNet来帮助开发者实现信息及时灵活以及轻量级地落地，促进AI加速器及时准确的迭代。
合成模型是AIMatrix中的重要一环，它利用统计的方法并结合基因算法寻找最优解，从而自动化的生成一个能从统计量上代表整个模型池的深度神经网络模型。关于合成模型的方法论也得到了相关领域内专家的认同，论文的poster也由架构师魏巍在达拉斯举行的SC18超算大会上分享给大家。
AI Matrix可以帮助阿里巴巴以及开发者解决以下四个关键性问题：
- 通过调研和集群信息收集，真实反应阿里巴巴AI应用和模型使用的现实情况
- 基于现有信息，对包括AI加速器解决方案的评估和选型制定一个标准
- 利用这些头部用例进一步推进软硬件融合，提高硬件的利用率
- 结合行业前沿的算法，对AI加速器的架构瓶颈给出建议
AI Matrix的定位将不仅仅是一个简单的测试集，而是在将来提供完整的工具链以及解决方案。在定位上，除了在做好Benchmark本身最基本的评测功能之外，阿里巴巴也会把它拓展到应用和资源优化的领域，不仅做到Domain Specific软硬件结合，同时也能做到Agile Design架构的快速迭代。
根据权威的行业分析报告，AI芯片的市场将会从今年的70亿美金增长到2025年600亿美金的市场。我们相信AI Matrix将会帮助芯片厂商更好贴合应用需求，改进和提高AI 芯片具备更好的产品化能力和竞争力。
