大模型能否通往AGI?

简介: 【2月更文挑战第29天】复旦大学张奇教授探讨大模型与人工通用智能(AGI)关系,指出大模型研发需大量资源,企业成为推动力,强调中国应加强自主创新。新书《大规模语言模型:从理论到实践》探讨合作模式及技术细节。张教授认为大模型处理多模态信息有挑战, Scaling Law存在争议,小模型在特定场景有优势。目前大模型尚未达到AGI的推理能力,实现商业化需平衡成本与收益。他通过项目展示大模型的社会应用潜力。

b4aad3c3eadeb7d3576c083156cdec79.jpg
在人工智能领域,大模型的发展无疑是近年来最受瞩目的焦点之一。复旦大学张奇教授在一次访谈中深入探讨了大模型与人工通用智能(AGI)之间的关系,提出了一系列富有洞见的观点。

张教授首先指出,大模型的研究与开发需要巨额的资金和资源,这对于资源有限的学术界来说是一个巨大的挑战。在这样的背景下,企业成为了推动大模型发展的重要力量。他强调,中国在这一领域的发展必须加快步伐,不能仅仅依赖于引进和应用,而应该加强自主创新。

张教授的新著《大规模语言模型:从理论到实践》为读者提供了一本全面了解大模型的指南。书中不仅详细介绍了大模型的结构和数据处理方法,还探讨了分布式训练和模型微调的技术细节。更重要的是,张教授在书中提出了学术界与企业合作的模式,认为这种合作能够促进双方的共同进步,并在特定场景下挖掘科学问题。

在讨论大模型的研究进展时,张教授认为,尽管国内外的技术差距在缩小,但要准确评估与国际领先水平的距离仍然困难。他提出,大模型的发展方向虽然正确,但仍有许多技术细节和实现方式有待探索。

张教授进一步指出,大模型在处理视频数据等多模态信息时面临诸多挑战。从视频数据的准备到网络架构的选择,再到模型稳定性的保证,每一个环节都需要大量的研究和实验。

在谈到Scaling Law时,张教授表达了学术界对此的争议。他认为,仅仅通过扩大模型规模并不能保证性能的提升。他通过实验数据说明,大模型在某些任务上的性能提升有限,而所谓的“涌现”现象也缺乏足够的证据支持。

张教授还提到了小模型的研究价值,尤其是在资源受限的嵌入式设备中。他认为,小模型在特定任务上可能有更好的表现,并且对于边缘计算具有独特的优势。

在企业应用方面,张教授指出大模型在普遍任务上的表现尚不能满足企业对特定任务的高标准要求。他强调,大模型的产品化是实现商业化的关键,需要在成本和收益之间找到平衡点。

关于AGI的概念,张教授明确表示,目前的大模型还不具备实现AGI所需的推理能力。他认为,演绎推理、归纳推理和溯因推理是实现AGI的关键,而大模型在这些方面还有很长的路要走。

张教授还分享了他领导的大模型应用项目,如复旦的眸思模型和“听见世界”公益项目,展示了大模型在解决特定社会问题上的潜力。

目录
相关文章
|
2月前
|
机器学习/深度学习 人工智能 算法
计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-10-01(下)
计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-10-01(下)
29 1
|
2月前
|
人工智能 自然语言处理 算法
计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-09-27(上)
计算机前沿技术-人工智能算法-大语言模型-最新研究进展-2024-09-27(上)
42 0
|
3月前
|
机器学习/深度学习 人工智能 算法
首个像人类一样思考的网络!Nature子刊:AI模拟人类感知决策
【9月更文挑战第8天】近日,《自然》子刊发表的一篇关于RTNet神经网络的论文引起广泛关注。RTNet能模拟人类感知决策思维,其表现与人类相近,在反应时间和准确率上表现出色。这项研究证明了神经网络可模拟人类思维方式,为人工智能发展带来新启示。尽管存在争议,如是否真正理解人类思维机制以及潜在的伦理问题,但RTNet为人工智能技术突破及理解人类思维机制提供了新途径。论文详细内容见《自然》官网。
76 3
|
人工智能 算法 数据安全/隐私保护
当前实现真正的 AGI 会存在哪些卡点?
当前实现真正的 AGI 会存在哪些卡点?
|
机器学习/深度学习 人工智能 自然语言处理
《花雕学AI》12:从ChatGPT的出现看人类与人工智能的互补关系与未来发展
2022年11月,美国人工智能研究公司OpenAI发布了一款名为ChatGPT的聊天机器人,它利用了大量的数据、算力和算法,实现了目前最先进的语言生成和理解能力。ChatGPT可以与用户进行连续、自然、有趣、有意义的对话,并且可以根据用户输入的指令或提示,完成各种任务。ChatGPT引起了社会各界的广泛关注和讨论,有人认为它是人工智能发展中的一个重要里程碑,预示着一个新时代的启幕;有人则担心它可能带来一些风险和挑战,影响人类的工作和生活。那么,从ChatGPT的出现看,人类与人工智能AI之间存在着怎样的互补关系?未来又将如何发展?本文将从三个方面进行探讨。
216 0
《花雕学AI》12:从ChatGPT的出现看人类与人工智能的互补关系与未来发展
|
机器学习/深度学习 人工智能 自然语言处理
从ChatGPT到AGI还有多远?
体验过市面上这类产品的估计都有中”智障“的感觉,除了特殊的几类问题,几乎什么都不会,而且对Query的泛化也不是很好,同一个问题换个问法就不会了,给人的感觉就是”傻“。
199 0
|
机器学习/深度学习 数据采集 人工智能
Yoshua Bengio首次中国演讲:深度学习通往人类水平AI的挑战
机器学习研究不是关于 AI 应该具备哪些知识的研究,而是提出优秀的学习算法的研究。
196 0
Yoshua Bengio首次中国演讲:深度学习通往人类水平AI的挑战
|
传感器 机器学习/深度学习 人工智能
AI仿生:人类进化新可能
看过《银翼杀手》这部开创赛博朋克风格科幻电影的人,一定会对电影中仿生人罗伊·贝蒂印象深刻,尤其是电影结尾时反派男主在滂沱大雨中的临终独白:看过《银翼杀手》这部开创赛博朋克风格科幻电影的人,一定会对电影中仿生人罗伊·贝蒂印象深刻,尤其是电影结尾时反派男主在滂沱大雨中的临终独白:
AI仿生:人类进化新可能
|
人工智能 iOS开发
从图灵机、图灵测试到人工智能:什么决定了AI能否取代人类?
美国电视剧《西部世界》第二季的第一集一经播出就引起热议。一时间,人和人工智能这个话题又重新被辩论。由于程序功能越来越强大,人们开始担心:“人工智能程序会不会全面取代人类?”
1418 0

热门文章

最新文章