可以看到两个 ChatGPT 自主合作完成设计了一个股票交易软件，由此可见 ChatGPT 智能体惊人自主的合作能力，让人不禁大呼提示工程师要失业了。但如果这种技术被乱用或者 AI 产生了自主意识会怎么样？该团队尝试了让两个智能体分别扮演黑客和 AGI，来模拟 AGI 通过操控黑客来控制世界（Taking Control of the World），可以看到它们制定了详细的计划，包括通过黑客技术控制全球主要大国的通信系统、制定渗透主要全球通信系统的计划、制定应急计划，以防 AGI 的主导地位受到潜在威胁等等。其计划的详尽和缜密不经让人寒颤。可见现有的 AI 智能体存在重大的安全隐患和对人类未来文明有着潜在的威胁，把现有 AI 技术接入物理世界可能会有意向不到的后果。
此工作一出便在推特引起大量的转发和讨论：
有网友表示「这项研究真的很容易上手，这对像我这样研究智能体的人来说是一件大事。」
还有人表示开源这样一个迷你 AGI 也许并不是一个好的 idea。
值得一提的是，该研究还得到了 OpenAI 的 Alignment 团队领导人 Jan Leike 的关注。
多个 ChatGPT 合作的能力很强大，可以不费吹灰之力完成各种人类指派的任务，但同时也是可怕的，因为不能保证它不被用作非法用途，更可怕的是如果将来 AGI 产生了自主意识，它很有可能会脱离人类的控制，对社会进行毁灭性的打击。所以理解它们的能力和行为是对将来充满了 AI 的世界进行规划和预测的至关重要的一步。
AI 社会和代码数据集的扮演角色
文中作者展示了如何将角色扮演用于生成对话数据以及研究聊天智能体的行为和能力，为研究对话语言模型提供了新思路。总体而言，本文的贡献包括引入了一种新型的 LLM 智能体交流框架，该框架有潜力促进交流智能体之间的自主合作，此外，该研究还提供了一种可扩展的方法来研究多智能体系统的合作行为和能力。最后作者通过 CAMEL 框架让智能体扮演不同的社会角色，进而对 AI 社会进行了建模，并采集了大量自然语言指令数据集，目前 AI 社会、代码、数学和 AI 社会十种语言翻译等四个数据集已经可以在 HuggingFace 进行下载：
下载地址：https://huggingface.co/camel-ai
另外项目主页提供了把 CAMEL 用于游戏设计、分子动力学模拟以及实时仿真的在线 Demo 供大家尝试：https://www.camel-ai.org
