近日,清华大学电子工程系黄翊东教授团队的研究成果“A vision chip with complementary pathways for open-world sensing”(一种具有互补通路的视觉芯片,用于开放世界的感知)登上了国际顶级科学期刊《自然》(Nature)的封面。这项研究被誉为全球首款类脑互补视觉芯片,为人工智能和计算机视觉领域带来了重大突破。
该视觉芯片被命名为“天眸”,它的独特之处在于模拟了人脑的视觉处理机制。人脑通过不同的通路来处理视觉信息,包括用于感知物体和场景的腹侧通路,以及用于指导运动的背侧通路。天眸芯片采用了类似的设计理念,集成了两条互补的视觉通路,分别用于感知和行动。
首先,让我们来看看天眸芯片的感知通路。这条通路采用了一种新型的事件相机传感器,能够实时捕捉场景中的动态变化。与传统的帧相机不同,事件相机只对场景中的亮度变化做出响应,而不会受到帧率的限制。这意味着天眸芯片可以以极低的功耗和极高的效率感知场景中的运动和变化。
感知通路的输出被送入一个类脑的神经网络,用于识别和分类场景中的物体和事件。这个神经网络采用了一种稀疏编码的机制,只对与任务相关的信息进行编码和处理。这种设计使得天眸芯片能够在复杂的场景中快速准确地识别目标,而不会受到无关信息的干扰。
其次,天眸芯片的行动通路也非常值得关注。这条通路采用了一种基于强化学习的决策机制,能够根据感知到的信息做出最佳的行动决策。行动通路的输出可以用于控制机器人或其他智能设备,使其能够自主地适应环境并完成任务。
天眸芯片的互补通路设计使得它能够同时具备感知和行动的能力,从而实现真正的智能视觉系统。这种设计理念与传统的计算机视觉方法有很大的不同,后者通常将感知和行动视为两个独立的任务,分别进行处理。
天眸芯片的成功研发对于人工智能和计算机视觉领域具有重要的意义。首先,它为解决开放世界感知问题提供了一种全新的思路。开放世界感知是指智能系统在未知的、不确定的环境中感知和理解的能力。天眸芯片的互补通路设计使得它能够更好地应对开放世界中的不确定性和复杂性。
其次,天眸芯片的低功耗和高效率特性使得它非常适合应用于移动设备和物联网等领域。随着人工智能的普及,对智能视觉系统的需求越来越大,而传统的基于帧相机的方法在功耗和效率方面存在很大的限制。天眸芯片的出现有望解决这一问题,推动智能视觉系统的广泛应用。
然而,我们也应该看到天眸芯片目前还存在一些挑战和局限性。首先,尽管天眸芯片在实验室环境下表现出了出色的性能,但在实际应用中可能还会遇到一些问题和挑战。例如,在复杂的光照条件下或存在遮挡的情况下,天眸芯片的感知能力可能会受到影响。
其次,天眸芯片的制造成本和良率也是需要考虑的问题。作为一款前沿的科研产品,天眸芯片的制造成本可能相对较高,这可能会限制其在商业化应用中的普及。此外,芯片的良率也是影响其商业化应用的重要因素,如果良率过低,会导致生产成本的增加和产品的可靠性问题。