大模型能否通往AGI?

简介: 【2月更文挑战第29天】复旦大学张奇教授探讨大模型与人工通用智能(AGI)关系,指出大模型研发需大量资源,企业成为推动力,强调中国应加强自主创新。新书《大规模语言模型:从理论到实践》探讨合作模式及技术细节。张教授认为大模型处理多模态信息有挑战, Scaling Law存在争议,小模型在特定场景有优势。目前大模型尚未达到AGI的推理能力,实现商业化需平衡成本与收益。他通过项目展示大模型的社会应用潜力。

b4aad3c3eadeb7d3576c083156cdec79.jpg
在人工智能领域,大模型的发展无疑是近年来最受瞩目的焦点之一。复旦大学张奇教授在一次访谈中深入探讨了大模型与人工通用智能(AGI)之间的关系,提出了一系列富有洞见的观点。

张教授首先指出,大模型的研究与开发需要巨额的资金和资源,这对于资源有限的学术界来说是一个巨大的挑战。在这样的背景下,企业成为了推动大模型发展的重要力量。他强调,中国在这一领域的发展必须加快步伐,不能仅仅依赖于引进和应用,而应该加强自主创新。

张教授的新著《大规模语言模型:从理论到实践》为读者提供了一本全面了解大模型的指南。书中不仅详细介绍了大模型的结构和数据处理方法,还探讨了分布式训练和模型微调的技术细节。更重要的是,张教授在书中提出了学术界与企业合作的模式,认为这种合作能够促进双方的共同进步,并在特定场景下挖掘科学问题。

在讨论大模型的研究进展时,张教授认为,尽管国内外的技术差距在缩小,但要准确评估与国际领先水平的距离仍然困难。他提出,大模型的发展方向虽然正确,但仍有许多技术细节和实现方式有待探索。

张教授进一步指出,大模型在处理视频数据等多模态信息时面临诸多挑战。从视频数据的准备到网络架构的选择,再到模型稳定性的保证,每一个环节都需要大量的研究和实验。

在谈到Scaling Law时,张教授表达了学术界对此的争议。他认为,仅仅通过扩大模型规模并不能保证性能的提升。他通过实验数据说明,大模型在某些任务上的性能提升有限,而所谓的“涌现”现象也缺乏足够的证据支持。

张教授还提到了小模型的研究价值,尤其是在资源受限的嵌入式设备中。他认为,小模型在特定任务上可能有更好的表现,并且对于边缘计算具有独特的优势。

在企业应用方面,张教授指出大模型在普遍任务上的表现尚不能满足企业对特定任务的高标准要求。他强调,大模型的产品化是实现商业化的关键,需要在成本和收益之间找到平衡点。

关于AGI的概念,张教授明确表示,目前的大模型还不具备实现AGI所需的推理能力。他认为,演绎推理、归纳推理和溯因推理是实现AGI的关键,而大模型在这些方面还有很长的路要走。

张教授还分享了他领导的大模型应用项目,如复旦的眸思模型和“听见世界”公益项目,展示了大模型在解决特定社会问题上的潜力。

目录
相关文章
|
3月前
|
机器学习/深度学习 人工智能 算法
首个像人类一样思考的网络!Nature子刊:AI模拟人类感知决策
【9月更文挑战第8天】近日,《自然》子刊发表的一篇关于RTNet神经网络的论文引起广泛关注。RTNet能模拟人类感知决策思维,其表现与人类相近,在反应时间和准确率上表现出色。这项研究证明了神经网络可模拟人类思维方式,为人工智能发展带来新启示。尽管存在争议,如是否真正理解人类思维机制以及潜在的伦理问题,但RTNet为人工智能技术突破及理解人类思维机制提供了新途径。论文详细内容见《自然》官网。
76 3
|
3月前
|
人工智能 监控 算法
SORA问世,人类走向终局
SORA问世,人类走向终局
48 0
|
4月前
|
人工智能
ACL 2024 Oral:大模型也会被忽悠?揭秘AI的信念之旅
【8月更文挑战第28天】清华大学、上海交通大学、斯坦福大学和南洋理工大学的研究团队最新研究表明,即使是在训练过程中积累了大量知识的大语言模型(LLMs),如ChatGPT和GPT-4,在面对误导性信息时仍可能产生错误信念。研究者为此创建了Farm数据集,以系统性地生成误导信息并测试LLMs在说服性对话中的表现。结果显示,即使是先进如GPT-4,其信念也有20.7%的概率被改变。该研究不仅揭示了LLMs潜在的脆弱性,还提供了评估其鲁棒性的方法,对未来提升LLMs的安全性和准确性具有重要启示作用。论文详细内容可见[此处链接]。
61 5
|
机器学习/深度学习
|
机器学习/深度学习 人工智能 API
一口气看完《哈利波特》:AI大模型「量子速读」,一分钟抵人类五小时
一口气看完《哈利波特》:AI大模型「量子速读」,一分钟抵人类五小时
239 0
一口气看完《哈利波特》:AI大模型「量子速读」,一分钟抵人类五小时
|
机器学习/深度学习 人工智能 自然语言处理
《花雕学AI》12:从ChatGPT的出现看人类与人工智能的互补关系与未来发展
2022年11月,美国人工智能研究公司OpenAI发布了一款名为ChatGPT的聊天机器人,它利用了大量的数据、算力和算法,实现了目前最先进的语言生成和理解能力。ChatGPT可以与用户进行连续、自然、有趣、有意义的对话,并且可以根据用户输入的指令或提示,完成各种任务。ChatGPT引起了社会各界的广泛关注和讨论,有人认为它是人工智能发展中的一个重要里程碑,预示着一个新时代的启幕;有人则担心它可能带来一些风险和挑战,影响人类的工作和生活。那么,从ChatGPT的出现看,人类与人工智能AI之间存在着怎样的互补关系?未来又将如何发展?本文将从三个方面进行探讨。
215 0
《花雕学AI》12:从ChatGPT的出现看人类与人工智能的互补关系与未来发展
|
机器学习/深度学习 传感器 人工智能
为什么说具身智能是通往AGI值得探索的方向?上海交大教授卢策吾深度解读(1)
为什么说具身智能是通往AGI值得探索的方向?上海交大教授卢策吾深度解读
432 0
|
人工智能 算法 机器人
为什么说具身智能是通往AGI值得探索的方向?上海交大教授卢策吾深度解读(2)
为什么说具身智能是通往AGI值得探索的方向?上海交大教授卢策吾深度解读
337 0
|
人工智能 搜索推荐 机器人
ChatGPT掀起波澜,人工智能最有可能取代的10种工作
ChatGPT掀起波澜,人工智能最有可能取代的10种工作
161 0
|
机器学习/深度学习 存储 人工智能
ChatGPT掀智力革命!OpenAI发布AGI路线图,最终通向超级智能世界
ChatGPT掀智力革命!OpenAI发布AGI路线图,最终通向超级智能世界
230 0