昨天的媒体交流会上,吴韧全程带笑。
和气、稳重是吴韧给人留下的第一印象。自2015年百度离职创立异构智能以来,这位CEO很少出来发声,异构智能也因此被打上了“神秘”的标签。
与其说这场名为《异构智能拥抱人工智能大势》的分享是场媒体交流会,倒不如说是场吴韧揭秘他与异构智能近况的恳谈。
“异构智能有芯片、模型,有超级计算机,希望将模型脱离云端,带到本地和终端,让终端变得智能。”吴韧一开始就表达了公司愿景。
△ Novumind(异构智能)创始人兼CEO吴韧博士(右),及先烽资本创始人廖志宇(左)
智能终端
“(云端)物联网是个伪命题,是难以实现的。”吴韧说。
目前的现状是,看似魔术般连接起来的物联网,实际需要通过很多海底和底下光缆从分支道路连接到主干道。接入的分支道路呈指数级增长,已经远远超出主干道增长的速度。
因为传统的物联网的云端架构难以处理未来的海量数据,异构智能开始考虑将人工智能的能力从云端拿到终端,让边缘设备学会“思考”。将边缘设备思考的结果通过网络与世界连接,就是实现了吴韧口中的智联网(I2oT)。
“在本地做人工智能是未来的方向,异构智能将为这个方向的公司赋能。”吴韧说。
将AI放于终端对芯片提出了一高一低两点挑战。“高”在于,AI芯片主要有足够强大的高性能支持复杂的人工智能计算,“低”是指芯片需足够低功耗才能置于边缘的小物体上。
“是挑战,也是机会,”吴韧的声音中带着坚定,“异构智能的决定是take the challenge and seize the opportunity(接受挑战,抓住机遇)。”
高性能-低能耗
在此情境下,异构智能选择放弃芯片的通用性,为AI场景设计一款专用芯片,以追求最高的性能功耗比。
吴韧表示,目前的人工智能芯片真正起效需要10TOPS(万亿次运算/秒)的计算力,谷歌等公司的顶级芯片计算力高但能耗也高,不满足本地落地的条件,而高通、寒武纪麒麟970等芯片虽然低能耗,但计算力却达不到。
相比之下,NovuTensor V1仅用5W的用电量,就能实现15TOPS的性能。能耗低,且满足计算需求。
△ NovuTensor优势对比
5W是什么概念呢?吴韧现场形象化地表示,5W是USB可以提供的电量。
“这就是从云端突破到终端的能力。”吴韧说。
专利后的全栈解决方案
“人工智能的核心计算是三维张量的卷积计算,小立方体和大立方体重合的部分做点乘,”吴韧开始谈到芯片背后的技术,“异构智能的芯片在三维层面做操作,并且有四项专利保护。”
△ NovuTensor核心技术
这四项专利包括三维张量卷积用硬件的直接实现,对数据的调度与分配、归并和处理器间的协作。
只看到机会还不够,异构智能最早找到办法把芯片和算法设计出来并加以实现,辅之以专利保护。这样看来,异构智能走得早,也走得稳。
“想为其他公司赋能。”吴韧不止一次提到这句话。
赋能,也就是帮助其他公司训练出更聪明的模型、更复杂的网络结构,让数据集发挥更大的作用。
通过为人工智能定制的超级计算机进行训练,异构智能的芯片能用最高的性能功耗比实现设计模型,为不同行业,提供全栈式的服务。甚至可以为非AI公司提供计算和智能的能力,帮助人工智能落地。
△ 异构智能的全栈解决方案
未来
异构智能的本地智慧模块NovuBrain主要落地方向包括安防、制造、家居、医疗器械、智慧城市和智能驾驶,目前已经与HP、KUKA合作。
“通过把技术能力赋给顶级的大公司,这些公司把这些能力赋予给他们的用户,异构智能就不需要在每一个行业、对每一个用户、每一个应用来做这些事情。”吴韧说。
据量子位了解,目前28nm的ASIC芯片已经进入流片阶段,16nm和7nm芯片同步推进,预计明年生产。
当被问及明年推出16nm芯片是否时间紧张时,吴韧表示公司团队人才积累丰厚,对最新技术的把控很有信心。技术团队的李淼(Mike Li)之前在Inphi负责过两款16nm的芯片,对它的制程基本有100%的信心。
“未来的世界一定是智能物联网领先。异构智能的定位是让万物互联转到万物智能,为转折提供所有的技术,随着智联网的长大,公司也将长大,成为伟大的公司。”吴韧说。
— 完 —