清华天眸芯登Nature封面:全球首款类脑互补视觉芯片

简介: 【6月更文挑战第9天】清华大学电子工程系团队研发的全球首款类脑互补视觉芯片“天眸”登上Nature封面。这款芯片模拟人脑视觉处理机制,集成感知和行动两条通路,实现高效低耗的智能视觉系统。适用于开放世界感知和物联网领域,但面临实际应用挑战、制造成本及良率等问题。[论文链接](https://www.nature.com/articles/s41586-024-07358-4)

近日,清华大学电子工程系黄翊东教授团队的研究成果“A vision chip with complementary pathways for open-world sensing”(一种具有互补通路的视觉芯片,用于开放世界的感知)登上了国际顶级科学期刊《自然》(Nature)的封面。这项研究被誉为全球首款类脑互补视觉芯片,为人工智能和计算机视觉领域带来了重大突破。

该视觉芯片被命名为“天眸”,它的独特之处在于模拟了人脑的视觉处理机制。人脑通过不同的通路来处理视觉信息,包括用于感知物体和场景的腹侧通路,以及用于指导运动的背侧通路。天眸芯片采用了类似的设计理念,集成了两条互补的视觉通路,分别用于感知和行动。

首先,让我们来看看天眸芯片的感知通路。这条通路采用了一种新型的事件相机传感器,能够实时捕捉场景中的动态变化。与传统的帧相机不同,事件相机只对场景中的亮度变化做出响应,而不会受到帧率的限制。这意味着天眸芯片可以以极低的功耗和极高的效率感知场景中的运动和变化。

感知通路的输出被送入一个类脑的神经网络,用于识别和分类场景中的物体和事件。这个神经网络采用了一种稀疏编码的机制,只对与任务相关的信息进行编码和处理。这种设计使得天眸芯片能够在复杂的场景中快速准确地识别目标,而不会受到无关信息的干扰。

其次,天眸芯片的行动通路也非常值得关注。这条通路采用了一种基于强化学习的决策机制,能够根据感知到的信息做出最佳的行动决策。行动通路的输出可以用于控制机器人或其他智能设备,使其能够自主地适应环境并完成任务。

天眸芯片的互补通路设计使得它能够同时具备感知和行动的能力,从而实现真正的智能视觉系统。这种设计理念与传统的计算机视觉方法有很大的不同,后者通常将感知和行动视为两个独立的任务,分别进行处理。

天眸芯片的成功研发对于人工智能和计算机视觉领域具有重要的意义。首先,它为解决开放世界感知问题提供了一种全新的思路。开放世界感知是指智能系统在未知的、不确定的环境中感知和理解的能力。天眸芯片的互补通路设计使得它能够更好地应对开放世界中的不确定性和复杂性。

其次,天眸芯片的低功耗和高效率特性使得它非常适合应用于移动设备和物联网等领域。随着人工智能的普及,对智能视觉系统的需求越来越大,而传统的基于帧相机的方法在功耗和效率方面存在很大的限制。天眸芯片的出现有望解决这一问题,推动智能视觉系统的广泛应用。

然而,我们也应该看到天眸芯片目前还存在一些挑战和局限性。首先,尽管天眸芯片在实验室环境下表现出了出色的性能,但在实际应用中可能还会遇到一些问题和挑战。例如,在复杂的光照条件下或存在遮挡的情况下,天眸芯片的感知能力可能会受到影响。

其次,天眸芯片的制造成本和良率也是需要考虑的问题。作为一款前沿的科研产品,天眸芯片的制造成本可能相对较高,这可能会限制其在商业化应用中的普及。此外,芯片的良率也是影响其商业化应用的重要因素,如果良率过低,会导致生产成本的增加和产品的可靠性问题。

论文链接:https://www.nature.com/articles/s41586-024-07358-4

目录
相关文章
|
存储 关系型数据库 MySQL
轻松入门MySQL:数据库设计之范式规范,优化企业管理系统效率(21)
轻松入门MySQL:数据库设计之范式规范,优化企业管理系统效率(21)
349 0
深入掌握ant-design的form异步校验(一)
本文适合对ant-design的表单校验感兴趣的小伙伴阅读~
|
应用服务中间件 nginx
配置nginx时加上--without-http_rewrite_module这个参数,就不需要安装pcre
不加--without-http_rewrite_module这个参数时就是启动URL重写,所以需要pcre ./configure --with-http_stub_status_module --without-http_rewrite_module --prefix=/usr/local/n...
3096 0
|
8月前
|
数据采集 缓存 搜索推荐
NewsNow:开源个性化新闻聚合平台
NewsNow是一个功能强大且易于上手的新闻聚合项目,通过简单的部署步骤,你就可以拥有一个属于自己的个性化新闻聚合平台。无论是学习TypeScript、了解Web开发,还是打造专属的新闻阅读工具,NewsNow都是一个不错的选择。
541 2
NewsNow:开源个性化新闻聚合平台
|
11月前
|
机器学习/深度学习 数据采集 供应链
使用Python实现智能食品消费需求分析的深度学习模型
使用Python实现智能食品消费需求分析的深度学习模型
267 21
|
11月前
|
SQL 人工智能 API
智能导购AI助手测评 | 替代未来客服的保障方案
阿里云推出的主动式智能导购AI助手,采用Multi-Agent架构,通过规划助理、商品导购助理和历史对话信息,为顾客提供个性化的产品推荐。无论是商家还是顾客,都能从中受益。它不仅帮助顾客在购买不熟悉的产品时做出明智选择,还让商家更高效地服务客户。开发者可快速部署,使用便捷,大大降低AI技术门槛。
425 11
|
12月前
|
人工智能 编解码
OmniBooth:华为诺亚方舟联合港科大推出的图像生成框架
OmniBooth是由华为诺亚方舟实验室和港科大研究团队联合推出的图像生成框架,支持基于文本提示或图像参考进行空间控制和实例级定制。该框架通过用户定义的掩码和相关联的文本或图像指导,精确控制图像中对象的位置和属性,提升文本到图像合成技术的可控性和实用性。
182 1
OmniBooth:华为诺亚方舟联合港科大推出的图像生成框架
|
11月前
|
人工智能 自然语言处理 算法
为什么感觉欧美AI比我们强?
本文介绍了电视机、电脑、手机、原子弹和飞机等重要发明的起源,其中大部分发明均源自美国。文中还探讨了中美在AI领域的竞争,指出美国在创新方面领先,而中国则在规模化生产和应用方面表现出色。尽管存在差距,但中国在算力、算法、数据和人才等方面持续加大投入,逐渐缩小与美国的差距。
289 0
为什么感觉欧美AI比我们强?
|
SQL 存储 数据库
实时数仓 Hologres产品使用合集之如何将非分区表转换为分区表
实时数仓Hologres是阿里云推出的一款高性能、实时分析的数据库服务,专为大数据分析和复杂查询场景设计。使用Hologres,企业能够打破传统数据仓库的延迟瓶颈,实现数据到决策的无缝衔接,加速业务创新和响应速度。以下是Hologres产品的一些典型使用场景合集。
|
SQL 关系型数据库 MySQL
介绍5款 世界范围内比较广的 5款 mysql Database Management Tool
介绍5款 世界范围内比较广的 5款 mysql Database Management Tool
608 0