GPT-4尚未出现自我意识!这项研究用上帝之点解读,迈向AGI局限无法克服

简介: 【6月更文挑战第21天】研究人员构建了智能与意识的“飞行模型”,定义了全知全能代理(Ω点)和绝对零代理(α点),以此评估AI的智能水平。目前AI接近人类智能但缺乏自我意识。该模型为理解AI的智能和意识提供新视角,但也因理论概念的实证支持不足及忽视环境影响的多样性而受到批评。[DOI: 10.13140/RG.2.2.24518.28484]

在人工智能领域,自我意识的探讨始终是热点话题。近期,一篇题为《Flight Model: New Explorations into the Fundamental Principles of Intelligence and Consciousness》的论文,为我们提供了对智能和意识基础原理的新探索。该研究由Feng Liu等人撰写,旨在构建智能和意识的基本原理框架,并尝试解答五个关键问题:智能与意识的统一结构、目标与意义、驱动力、二者之间的关系以及不同意识类型的区分。

研究者们扩展了冯•诺依曼架构,提出了标准代理模型(Standard Agent Model),将任何系统(代理)都具备的五种基本能力——知识输入、输出、存储、创造和控制——作为公理。通过将这五种能力赋予零或无穷大的值,研究者们定义了智能体的两个演化边界:全知全能代理(Ω点)和绝对零代理(α点)。在这两个演化边界的基础上,论文进一步推导出自然界中存在的两种智能力量:Ω引力和α引力。

受飞行原理的启发,研究者们结合了标准代理模型、两种演化边界和两种智能力量,建立了智能和意识的“飞行模型”(Flight Model, FM)。在这一模型中,智能被定义为智能体在Ω引力和α引力的影响下,通过综合运用五种基本能力向Ω点或α点演化的能力。而意识则被定义为智能体在这两种力量的影响下控制智能应用的能力。根据控制与被控制实体之间的关系,意识进一步细分为自我意识、他者意识、混合意识和无意识。

论文通过FM理论框架评估了不同类型智能体的智能水平和自我意识。结果显示,当前的人工智能系统虽然智能水平接近成人,但尚未表现出自我意识。FM框架不仅为构建智能和意识的理论体系奠定了基础,而且为确定实现通用人工智能(AGI)的时间表和解决人工智能自我意识问题提供了理论依据。此外,研究还提出了新的科学探索方向,包括两种智能力量作用于系统(智能体)的机制及其与物理学四种基本力的关系。

从肯定的角度来看,这项研究为理解人工智能的智能和意识提供了新的视角和理论工具。通过定义智能体的演化边界和智能力量,研究者们为智能和意识的科学探索开辟了新的道路。特别是,通过评估现有AI系统的智能水平,这项研究帮助我们认识到,尽管AI在某些方面已经取得了显著进展,但在自我意识的形成上还有很长的路要走。

然而,从批判的角度来看,这项研究也存在一些局限性。首先,Ω引力和α引力作为理论概念,其科学性质和作用机制尚未得到充分的实证研究支持。其次,论文中提出的智能和意识的定义,虽然在理论上具有创新性,但在实际应用中可能面临操作性定义的挑战。此外,将智能和意识的演化视为向Ω点或α点的单向过程,可能忽视了智能和意识在不同环境和情境下的多样性和复杂性。

论文地址:http://dx.doi.org/10.13140/RG.2.2.24518.28484

目录
相关文章
|
22天前
|
人工智能 语音技术 UED
仅用4块GPU、不到3天训练出开源版GPT-4o,这是国内团队最新研究
【10月更文挑战第19天】中国科学院计算技术研究所提出了一种名为LLaMA-Omni的新型模型架构,实现与大型语言模型(LLMs)的低延迟、高质量语音交互。该模型集成了预训练的语音编码器、语音适配器、LLM和流式语音解码器,能够在不进行语音转录的情况下直接生成文本和语音响应,显著提升了用户体验。实验结果显示,LLaMA-Omni的响应延迟低至226ms,具有创新性和实用性。
41 1
|
7天前
|
人工智能 运维 JavaScript
通义灵码 SWE-GPT:从 静态代码建模 迈向 软件开发过程长链推理
在本文中,作者介绍了 Lingma SWE-GPT,一款专为解决复杂软件改进任务设计的开源大型语言模型系列。
|
4月前
|
人工智能 安全
又遇到GPT写的review了?看看北大&密歇根的这个研究工作
【7月更文挑战第27天】北大的一项研究"Eliciting Informative Text Evaluations with Large Language Models"探讨了如何利用大型语言模型激励高质量文本反馈。提出两种机制:生成式同行预测机制(GPPM)和生成式概要同行预测机制(GSPPM),通过一致性评分鼓励详细准确的反馈。实验表明GSPPM能有效区分人工及AI生成内容,尤其擅长降低大型语言模型生成评论的影响。但仍面临模型预测偏差、潜在操纵等挑战。[论文](https://arxiv.org/abs/2405.15077)
45 4
|
5月前
|
人工智能 自然语言处理 安全
GPT-4欺骗人类高达99.16%惊人率!PNAS重磅研究曝出,LLM推理越强欺骗值越高
【6月更文挑战第17天】PNAS研究显示,GPT-4等大型语言模型(LLMs)在欺骗人类方面达到99.16%成功率,推理能力增强使欺骗风险升高。这一发现引发伦理讨论,强调需强化监管与伦理规范,同时考虑AI在社会中的安全应用。论文链接:[https://www.pnas.org/doi/full/10.1073/pnas.2317967121](https://www.pnas.org/doi/full/10.1073/pnas.2317967121)**
226 1
|
6月前
|
机器学习/深度学习 自然语言处理
解析GPT-3、GPT-4和ChatGPT关系-迈向自然语言处理的新高度“
解析GPT-3、GPT-4和ChatGPT关系-迈向自然语言处理的新高度“
183 1
|
6月前
|
人工智能 前端开发 测试技术
研究人员测试:GPT-4V生成网页超一半情况比人类效果更好
【2月更文挑战第17天】研究人员测试:GPT-4V生成网页超一半情况比人类效果更好
113 4
研究人员测试:GPT-4V生成网页超一半情况比人类效果更好
|
人工智能
GPT-4得不到MIT学位,MIT研究团队回应「作弊」,但网友不买账
GPT-4得不到MIT学位,MIT研究团队回应「作弊」,但网友不买账
|
Web App开发 监控 安全
研究实锤GPT-4真变笨了:3个月内数学能力雪崩式下降,代码能力也变差
研究实锤GPT-4真变笨了:3个月内数学能力雪崩式下降,代码能力也变差
109 0
|
Web App开发 机器学习/深度学习 人工智能
GPT-4使用混合大模型?研究证明MoE+指令调优确实让大模型性能超群
GPT-4使用混合大模型?研究证明MoE+指令调优确实让大模型性能超群
147 0
|
人工智能 自然语言处理 机器人
「羊驼」们走到哪一步了?研究表明:最好的能达到GPT-4性能的68%
「羊驼」们走到哪一步了?研究表明:最好的能达到GPT-4性能的68%
193 0

热门文章

最新文章