吴韧谈异构智能芯片:比谷歌能耗低,比华为寒武纪计算力高

简介:
本文来自AI新媒体量子位(QbitAI)

昨天的媒体交流会上,吴韧全程带笑。

和气、稳重是吴韧给人留下的第一印象。自2015年百度离职创立异构智能以来,这位CEO很少出来发声,异构智能也因此被打上了“神秘”的标签。

与其说这场名为《异构智能拥抱人工智能大势》的分享是场媒体交流会,倒不如说是场吴韧揭秘他与异构智能近况的恳谈。

“异构智能有芯片、模型,有超级计算机,希望将模型脱离云端,带到本地和终端,让终端变得智能。”吴韧一开始就表达了公司愿景。

 Novumind(异构智能)创始人兼CEO吴韧博士(右),及先烽资本创始人廖志宇(左)

智能终端

“(云端)物联网是个伪命题,是难以实现的。”吴韧说。

目前的现状是,看似魔术般连接起来的物联网,实际需要通过很多海底和底下光缆从分支道路连接到主干道。接入的分支道路呈指数级增长,已经远远超出主干道增长的速度。

因为传统的物联网的云端架构难以处理未来的海量数据,异构智能开始考虑将人工智能的能力从云端拿到终端,让边缘设备学会“思考”。将边缘设备思考的结果通过网络与世界连接,就是实现了吴韧口中的智联网(I2oT)。

“在本地做人工智能是未来的方向,异构智能将为这个方向的公司赋能。”吴韧说。

将AI放于终端对芯片提出了一高一低两点挑战。“高”在于,AI芯片主要有足够强大的高性能支持复杂的人工智能计算,“低”是指芯片需足够低功耗才能置于边缘的小物体上。

“是挑战,也是机会,”吴韧的声音中带着坚定,“异构智能的决定是take the challenge and seize the opportunity(接受挑战,抓住机遇)。”

高性能-低能耗

在此情境下,异构智能选择放弃芯片的通用性,为AI场景设计一款专用芯片,以追求最高的性能功耗比。

吴韧表示,目前的人工智能芯片真正起效需要10TOPS(万亿次运算/秒)的计算力,谷歌等公司的顶级芯片计算力高但能耗也高,不满足本地落地的条件,而高通、寒武纪麒麟970等芯片虽然低能耗,但计算力却达不到。

相比之下,NovuTensor V1仅用5W的用电量,就能实现15TOPS的性能。能耗低,且满足计算需求。

 NovuTensor优势对比

5W是什么概念呢?吴韧现场形象化地表示,5W是USB可以提供的电量。

“这就是从云端突破到终端的能力。”吴韧说。

专利后的全栈解决方案

“人工智能的核心计算是三维张量的卷积计算,小立方体和大立方体重合的部分做点乘,”吴韧开始谈到芯片背后的技术,“异构智能的芯片在三维层面做操作,并且有四项专利保护。”

 NovuTensor核心技术

这四项专利包括三维张量卷积用硬件的直接实现,对数据的调度与分配、归并和处理器间的协作。

只看到机会还不够,异构智能最早找到办法把芯片和算法设计出来并加以实现,辅之以专利保护。这样看来,异构智能走得早,也走得稳。

“想为其他公司赋能。”吴韧不止一次提到这句话。

赋能,也就是帮助其他公司训练出更聪明的模型、更复杂的网络结构,让数据集发挥更大的作用。

通过为人工智能定制的超级计算机进行训练,异构智能的芯片能用最高的性能功耗比实现设计模型,为不同行业,提供全栈式的服务。甚至可以为非AI公司提供计算和智能的能力,帮助人工智能落地。

 异构智能的全栈解决方案

未来

异构智能的本地智慧模块NovuBrain主要落地方向包括安防、制造、家居、医疗器械、智慧城市和智能驾驶,目前已经与HP、KUKA合作。

“通过把技术能力赋给顶级的大公司,这些公司把这些能力赋予给他们的用户,异构智能就不需要在每一个行业、对每一个用户、每一个应用来做这些事情。”吴韧说。

据量子位了解,目前28nm的ASIC芯片已经进入流片阶段,16nm和7nm芯片同步推进,预计明年生产。

当被问及明年推出16nm芯片是否时间紧张时,吴韧表示公司团队人才积累丰厚,对最新技术的把控很有信心。技术团队的李淼(Mike Li)之前在Inphi负责过两款16nm的芯片,对它的制程基本有100%的信心。

“未来的世界一定是智能物联网领先。异构智能的定位是让万物互联转到万物智能,为转折提供所有的技术,随着智联网的长大,公司也将长大,成为伟大的公司。”吴韧说。

本文作者:安妮
原文发布时间:2017-10-25
相关实践学习
钉钉群中如何接收IoT温控器数据告警通知
本实验主要介绍如何将温控器设备以MQTT协议接入IoT物联网平台,通过云产品流转到函数计算FC,调用钉钉群机器人API,实时推送温湿度消息到钉钉群。
阿里云AIoT物联网开发实战
本课程将由物联网专家带你熟悉阿里云AIoT物联网领域全套云产品,7天轻松搭建基于Arduino的端到端物联网场景应用。 开始学习前,请先开通下方两个云产品,让学习更流畅: IoT物联网平台:https://iot.console.aliyun.com/ LinkWAN物联网络管理平台:https://linkwan.console.aliyun.com/service-open
相关文章
|
机器学习/深度学习 人工智能 供应链
聊聊芯片技术趋势
今年我们看到很多芯片领域出现的“新现象”,也有不少会让你“陷入沉思”的时刻。对我个人来说,苹果M1可能是冲击最大的一个。我从04年开始做手机SoC,08年开始接触ARM,断断续续做到16年。在苹果M1之前,我从来没想过基于ARM的架构可能在性能上超越X86。
107 0
聊聊芯片技术趋势
|
人工智能 数据库 数据中心
阿里巴巴建成全球超大规模数据中心内“RDMA高速网”,以支撑人工智能科学计算
阿里巴巴数十个数据中心支持RDMA网络,延时可显著降低90%,最大程度满足人工智能、科学计算等场景需求。
3969 0
|
存储 机器学习/深度学习 人工智能
CPU将进入新时代:押注计算芯片的极限协同设计
我们现在进入了一个时代,那就是IT行业的计算引擎将需要比以往任何时候都更需要更低的价格,更好的性能以及更好的散热特性。这将需要一种在更大范围的工作负载和设备上进行协同设计系统(co-designing systems )的进化方法。