清华天眸芯登Nature封面:全球首款类脑互补视觉芯片

简介: 【6月更文挑战第9天】清华大学电子工程系团队研发的全球首款类脑互补视觉芯片“天眸”登上Nature封面。这款芯片模拟人脑视觉处理机制,集成感知和行动两条通路,实现高效低耗的智能视觉系统。适用于开放世界感知和物联网领域,但面临实际应用挑战、制造成本及良率等问题。[论文链接](https://www.nature.com/articles/s41586-024-07358-4)

近日,清华大学电子工程系黄翊东教授团队的研究成果“A vision chip with complementary pathways for open-world sensing”(一种具有互补通路的视觉芯片,用于开放世界的感知)登上了国际顶级科学期刊《自然》(Nature)的封面。这项研究被誉为全球首款类脑互补视觉芯片,为人工智能和计算机视觉领域带来了重大突破。

该视觉芯片被命名为“天眸”,它的独特之处在于模拟了人脑的视觉处理机制。人脑通过不同的通路来处理视觉信息,包括用于感知物体和场景的腹侧通路,以及用于指导运动的背侧通路。天眸芯片采用了类似的设计理念,集成了两条互补的视觉通路,分别用于感知和行动。

首先,让我们来看看天眸芯片的感知通路。这条通路采用了一种新型的事件相机传感器,能够实时捕捉场景中的动态变化。与传统的帧相机不同,事件相机只对场景中的亮度变化做出响应,而不会受到帧率的限制。这意味着天眸芯片可以以极低的功耗和极高的效率感知场景中的运动和变化。

感知通路的输出被送入一个类脑的神经网络,用于识别和分类场景中的物体和事件。这个神经网络采用了一种稀疏编码的机制,只对与任务相关的信息进行编码和处理。这种设计使得天眸芯片能够在复杂的场景中快速准确地识别目标,而不会受到无关信息的干扰。

其次,天眸芯片的行动通路也非常值得关注。这条通路采用了一种基于强化学习的决策机制,能够根据感知到的信息做出最佳的行动决策。行动通路的输出可以用于控制机器人或其他智能设备,使其能够自主地适应环境并完成任务。

天眸芯片的互补通路设计使得它能够同时具备感知和行动的能力,从而实现真正的智能视觉系统。这种设计理念与传统的计算机视觉方法有很大的不同,后者通常将感知和行动视为两个独立的任务,分别进行处理。

天眸芯片的成功研发对于人工智能和计算机视觉领域具有重要的意义。首先,它为解决开放世界感知问题提供了一种全新的思路。开放世界感知是指智能系统在未知的、不确定的环境中感知和理解的能力。天眸芯片的互补通路设计使得它能够更好地应对开放世界中的不确定性和复杂性。

其次,天眸芯片的低功耗和高效率特性使得它非常适合应用于移动设备和物联网等领域。随着人工智能的普及,对智能视觉系统的需求越来越大,而传统的基于帧相机的方法在功耗和效率方面存在很大的限制。天眸芯片的出现有望解决这一问题,推动智能视觉系统的广泛应用。

然而,我们也应该看到天眸芯片目前还存在一些挑战和局限性。首先,尽管天眸芯片在实验室环境下表现出了出色的性能,但在实际应用中可能还会遇到一些问题和挑战。例如,在复杂的光照条件下或存在遮挡的情况下,天眸芯片的感知能力可能会受到影响。

其次,天眸芯片的制造成本和良率也是需要考虑的问题。作为一款前沿的科研产品,天眸芯片的制造成本可能相对较高,这可能会限制其在商业化应用中的普及。此外,芯片的良率也是影响其商业化应用的重要因素,如果良率过低,会导致生产成本的增加和产品的可靠性问题。

论文链接:https://www.nature.com/articles/s41586-024-07358-4

目录
相关文章
|
人工智能 自动驾驶 编译器
英伟达发布 Hopper H100 新架构芯片:面向 AI、自动驾驶汽车及 Metaverse 领域
英伟达发布 Hopper H100 新架构芯片:面向 AI、自动驾驶汽车及 Metaverse 领域
1077 0
英伟达发布 Hopper H100 新架构芯片:面向 AI、自动驾驶汽车及 Metaverse 领域
|
1月前
|
机器学习/深度学习 人工智能 自动驾驶
【通义】AI视界|马斯克:特斯拉计划2025年末批量装备AI训练芯片Dojo2
本文精选了24小时内的重要AI新闻,包括特斯拉计划2025年批量装备Dojo 2芯片、英伟达股价大涨、谷歌联合创始人积极参与AI项目、中科院女工程师开源AI模型保护女性,以及快手旗下可灵AI与蓝色光标达成战略合作。更多内容敬请访问通义官网体验。
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
清华首款AI光芯片登上Science,全球首创架构迈向AGI
【4月更文挑战第16天】清华大学研究团队开发出大规模光子芯片“太极”,在《科学》杂志发表,该芯片基于创新的光子计算架构,实现百万神经元级别的ONN,能效比高达160 TOPS/W。实验中,太极芯片成功执行1000类别分类任务,提升AI内容生成质量,为AGI发展开辟新路径。然而,光子集成电路的制造成本高、技术成熟度不足及软件支持限制了其广泛应用。
156 5
清华首款AI光芯片登上Science,全球首创架构迈向AGI
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
文生视频Sora模型发布,是否引爆AI芯片热潮
文生视频Sora模型发布,是否引爆AI芯片热潮
167 0
|
机器学习/深度学习 存储 传感器
魔都升级!商汤SenseCore AI大装置亮相,实现物理世界全面数字化转型
这两天的上海来了一位重量级选手,它有个绰号「AI粒子对撞机」!作为AI界「基础设施型」选手,一亮相就带来了「真刀实枪」!
228 0
魔都升级!商汤SenseCore AI大装置亮相,实现物理世界全面数字化转型
|
机器学习/深度学习 人工智能 自然语言处理
百度大脑5.0发布,宣布与华为重要合作,全新AI芯片「鸿鹄」面世
7 月 3 日,百度 AI 开发者大会在北京开幕。在大会上李彦宏展示的百度 AI 语音识别能力之外,最为引人注目的就是新任 CTO 王海峰向我们揭幕的,最新升级的百度大脑 5.0。新一代大脑在算法和算力上都有了重大突破。
474 0
百度大脑5.0发布,宣布与华为重要合作,全新AI芯片「鸿鹄」面世
|
机器学习/深度学习 自然语言处理 负载均衡
FPGA 2017最佳论文出炉:深鉴科技ESE语音识别引擎获奖(附解读)
FPGA 芯片领域顶级会议 FPGA 2017 于 2 月 24 日在加州 Monterey 结束。在本次大会上,斯坦福大学在读 PhD、深鉴科技联合创始人韩松等作者的论文 ESE: Efficient Speech Recognition Engine with Sparse LSTM on FPGA 获得了大会最佳论文奖。得知此消息后,机器之心对深鉴科技科技创始人兼 CEO 姚颂与联合创始人韩松(本论文的第一作者)进行了联系,他们对该文章进行了技术解读。可点击阅读原文下载此论文。
264 0
FPGA 2017最佳论文出炉:深鉴科技ESE语音识别引擎获奖(附解读)
|
机器学习/深度学习 人工智能 自然语言处理
发布AI芯片昆仑和百度大脑3.0、L4自动驾驶巴士量产下线,这是百度All in AI一年后的最新答卷
去年的 7 月 5 日,百度在北京国际会议中心开办了首届「AI 开发者大会」。在会上,百度首次喊出了「All in AI」的口号。一年的时间过去了,今天在同样地点举行的第二届开发者大会上,李彦宏说道:去年我吹过一个牛,百度的 L4 级别无人驾驶车的量产,会在 2018 年的 7 月份。今天我要说的是,这个牛,马上就要实现了!而百度的最新战略、技术实力、以及生态发展也在这场大会上一一展现在我们的面前。
210 0
发布AI芯片昆仑和百度大脑3.0、L4自动驾驶巴士量产下线,这是百度All in AI一年后的最新答卷
云知声发布多模态AI芯片战略,同步曝光三款在研芯片
未来,云知声的AI芯片将不仅仅局限于语音处理。
544 0
|
机器学习/深度学习 人机交互 云栖大会
专访微软研究院张正友:从“张氏标定法”到人机交互,20年视觉技术的探索
张正友博士,是世界著名的计算机视觉和多媒体技术的专家,ACM Fellow,IEEE Fellow。他在立体视觉、三维重建、运动分析、图像配准、摄像机自标定等方面都有开创性的贡献。
7019 0