Facebook 的 AI 意外地创造了自己的非人类语言

简介:

Facebook 的研究人员在开发谈判聊天机器人时,意外发现机器人自发地创造出了自己的非人类语言。

最近 Facebook 发表了一篇关于 chatbots 相互交谈的报告。在报告中,Facebook 人工智能研究实验室(FAIR)的研究人员描述了使用机器学习进行谈判来训练他们的聊天机器人的 “dialog agents” 。 过程还算顺利,但研究人员最终意识到需要进行调整,因为机器人正在从人类语言转移,创建自己的谈判语言。

报告中还值得注意的一点是,机器人可以是相当精明的谈判者 - 他们甚至会伪装自己,先用看起来不在意、不感兴趣的策略,最终来最大价值化“妥协”。

Facebook 的研究人员在他们的文章中写道:“未来的工作还有很大的潜力,特别是不断探索其他推理策略,以及在不偏离人类语言的情况下改进机器语言的多样性。“

本文来自开源中国社区 [http://www.oschina.net]

目录
相关文章
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
当语言遇见智慧火花:GPT家族历代模型大起底,带你见证从平凡到卓越的AI进化奇迹!
【10月更文挑战第6天】随着自然语言处理技术的进步,GPT系列模型(Generative Pre-trained Transformers)成为该领域的明星。从GPT-1的开创性工作,到GPT-2在规模与性能上的突破,再到拥有1750亿参数的GPT-3及其无需微调即可执行多种NLP任务的能力,以及社区驱动的GPT-NeoX,这些模型不断进化。虽然它们展现出强大的语言理解和生成能力,但也存在如生成错误信息或偏见等问题。本文将对比分析各代GPT模型的特点,并通过示例代码展示其部分功能。
110 2
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
扩散引导语言建模(DGLM):一种可控且高效的AI对齐方法
DGLM(Diffusion Guided Language Modeling)是一种新型框架,结合了自回归模型的流畅性和扩散模型的灵活性,解决了现有引导生成方法的局限性。DGLM通过扩散网络生成语义提案,并使用轻量级提示生成器将嵌入转化为软提示,引导自回归解码器生成文本。该方法无需微调模型权重,易于控制新属性,并在多个基准数据集上表现出色。实验结果显示,DGLM在毒性缓解、情感控制和组合控制等方面优于现有方法,为可控文本生成提供了新的方向。
44 10
扩散引导语言建模(DGLM):一种可控且高效的AI对齐方法
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
了解AIGC:让AI创造内容,改变未来
了解AIGC:让AI创造内容,改变未来
136 2
|
5月前
|
机器学习/深度学习 人工智能 程序员
[AI StoryDiffusion] 创造神奇故事,AI漫画大乱斗!
探索神奇AI项目StoryDiffusion,为您带来一致性连贯的图像和视频创作体验。
[AI StoryDiffusion] 创造神奇故事,AI漫画大乱斗!
|
2月前
|
人工智能 测试技术
语言图像模型大一统!Meta将Transformer和Diffusion融合,多模态AI王者登场
【9月更文挑战第20天】Meta研究人员提出了一种名为Transfusion的创新方法,通过融合Transformer和Diffusion模型,实现了能同时处理文本和图像数据的多模态模型。此模型结合了语言模型的预测能力和Diffusion模型的生成能力,能够在单一架构中处理混合模态数据,有效学习文本与图像间的复杂关系,提升跨模态理解和生成效果。经过大规模预训练,Transfusion模型在多种基准测试中表现出色,尤其在图像压缩和模态特定编码方面具有优势。然而,其训练所需的大量计算资源和数据、以及潜在的伦理和隐私问题仍需关注。
70 7
|
3月前
|
人工智能 JavaScript Go
介绍 Agency: 使AI与Go语言无缝对接
介绍 Agency: 使AI与Go语言无缝对接
|
3月前
|
SQL 人工智能 SEO
|
4月前
|
人工智能
Prompt工程问题之通过prompt使AI输出的语言风格多变如何解决
Prompt工程问题之通过prompt使AI输出的语言风格多变如何解决
57 4
|
4月前
|
人工智能
语言≠思维,大模型学不了推理:一篇Nature让AI社区炸锅了
【7月更文挑战第3天】新研究表明语言和思维是分离的,引发AI社区激烈讨论。论文通过fMRI实验显示语言处理与思维在大脑中独立,即使无语言人们仍能推理。这质疑了AI仅通过语言学习高级智能的可能性,暗示应更关注模拟人类思维。[[1](https://www.nature.com/articles/s41586-024-07522-w)]
81 1
|
4月前
|
机器学习/深度学习 人工智能 搜索推荐
AI在创造还是毁掉音乐?
AI在创造还是毁掉音乐?
62 0