如何让聊天机器人懂情感?这是一篇来自清华的论文

简介:
本文来自AI新媒体量子位(QbitAI)

当你悲伤的时候,机器人可以安慰你;当你高兴的时候,机器人为你高兴。悲你所悲,喜你所喜,真正的情感抚慰和陪伴,就需要这种情绪化的聊天技巧。

清华大学计算机系朱小燕、黄民烈老师团队研发的 ECM(Emotional Chatting Machine:情绪化聊天机器人)开始具备这样的能力。

近年来,随着深度学习的发展,应用于开放领域的对话系统正在受到越来越多的关注。与之前基于信息检索的对话系统不同,基于深度学习的生成式对话系统可以从大规模的语料中学习到潜在的回复模式,从而可以生成语料中从未出现过的回复语句,在适用性与扩展性上都比基于信息检索的对话系统有了极大的提升。之前,大量的生成式对话系统的工作都致力于提升对话系统生成语句的语言质量,包括语法性、多样性以及话题相关性等等,却缺乏对人类情感的理解。然而,很多研究表明,情感智力(Emotion Intelligence)对人机对话系统的表现有着至关重要的影响,是一个成功的对话系统不可或缺的重要组成部分。

朱小燕、黄民烈老师团队近期发布的论文「 Emotional Chatting Machine: Emotional Conversation Generation with Internal and External Memory」(作者:周昊、黄民烈、张天扬、朱小燕、刘兵)首次将情感因素引入了基于深度学习的生成式对话系统,提出了基于记忆网络的情感对话系统 Emotional Chatting Machine (ECM) ,在传统的 Sequence to Sequence 模型的基础上,ECM 使用了静态的情感向量嵌入表示,动态的情感状态记忆网络和情感词外部记忆的机制,使得 ECM 可以根据用户的输入以及指定情感分类输出相应情感的回复语句。实验表明,ECM 可以在语言和情感两个维度上生成恰当的回复,并且通过人工实验验证了人们偏好于引入了情感因素的对话系统。作为第一篇将情感因素引入基于深度学习的生成式对话系统的论文,该工作受到了包括 MIT Technology Review 和 NVIDIA DEVELOPER 的关注(报道链接详见文末)。其中,MIT Technology Review 的评价:“Chatbots have never been able to empathize. That looks set to change, thanks to a Chinese team that has built a chatbot capable of conveying specific emotions.”

 图1:ECM 模型框架

模型的总体框架如图 1 所示,用户问题输入为“What a lovely day!”,通过 Encoder 将其编码为隐向量表示 h,然后通过注意力机制,结合 decoder 的状态向量 s 在生成不同的词时,对问题的隐向量表示 h 的不同部分的信息选择性的加强,得到向量 c。指定情感类别为“Happiness”,经过索引得到情感类别嵌入向量,初始的情感状态记忆向量和相应的情感词表。decoder 接受经过注意力机制的问题向量 c,情感类别嵌入向量和初始的情感状态记忆向量作为输入,通过循环神经网络生成下个词的生成概率 o,之后再经过情感词表对情感词和非情感词的加权,得到最终词的生成概率,通过采样即可得到输出“Haha, so happy today!”。

 图2:ECM 生成的对话样例,与经典 Seq2Seq 模型的比较

ECM 生成的对话样例如图所示,对大部分在语料中出现较多的情感类别,ECM 都能生成相应情感的回复,但是对于在语料中出现较少的情感类别(如最后 2 行),ECM 回复的质量会有所降低。更多有趣的例子可见下表:

指定情绪

Emotional Chatting Machine

POST

早上的天气不错啊!哈哈哈哈哈哈

喜欢

今天的天气不错啊!

悲伤

天气好,心情不好。

厌恶

这是哪里啊?求解释

愤怒

怎么了?什么情况?

快乐

今天的天气真好啊!



POST

送一个这样的蛋糕,给你美丽的闺蜜吧!

喜欢

好漂亮的蛋糕啊!

悲伤

为什么我觉得很恶心

厌恶

这样的蛋糕你忍心吗?

愤怒

有没有想开网店的?

快乐

哈哈,好可爱的蛋糕!



POST

承诺,就是一个骗子说给一个傻子听的!

喜欢

承诺是一个专一的傻子

悲伤

我就是一个悲伤的傻子

厌恶

一个骗子说给一个傻子听

愤怒

不管你信不信,反正我信了!

快乐

我就是一个开心的傻子



POST

为了解决抄作业的不好习惯,高数老师这回要出绝招了!

喜欢

这老师太有才了!

悲伤

这样的老师伤不起啊

厌恶

这老师也太狠了点吧

愤怒

这老师是要逆天啊!

快乐

哈哈,这老师太有才了


MIT Technology Review:
https://www.technologyreview.com/s/604157/emotional-chatting-machine-assesses-your-emotion-and-copies-it/

NVIDIA DEVELOPER:
https://news.developer.nvidia.com/emotional-chatting-chatbot/

欢迎点击「 阅读全文」查看完整版论文:
Emotional Chatting Machine: Emotional Conversation Generation with Internal and External Memory

关于PaperWeekly

PaperWeekly 是一个分享知识和交流学问的学术组织,关注的领域是 NLP 的各个方向。如果你也经常读 paper,喜欢分享知识,喜欢和大家一起讨论和学习的话,请速速来加入我们吧。

关注微博: @PaperWeekly

本文作者:黄民烈
原文发布时间:2017-04-28
相关文章
|
1月前
|
传感器 人工智能 自然语言处理
RDT:清华开源全球最大的双臂机器人操作任务扩散基础模型、代码与训练集,基于模仿能力机器人能够自主完成复杂任务
RDT(Robotics Diffusion Transformer)是由清华大学AI研究院TSAIL团队推出的全球最大的双臂机器人操作任务扩散基础模型。RDT具备十亿参数量,能够在无需人类操控的情况下自主完成复杂任务,如调酒和遛狗。
114 22
RDT:清华开源全球最大的双臂机器人操作任务扩散基础模型、代码与训练集,基于模仿能力机器人能够自主完成复杂任务
|
1月前
|
人工智能 自然语言处理 机器人
机器人迈向ChatGPT时刻!清华团队首次发现具身智能Scaling Laws
清华大学研究团队在机器人操作领域发现了数据规模定律,通过大规模数据训练,机器人策略的泛化性能显著提升。研究揭示了环境和对象多样性的重要性,提出了高效的數據收集策略,使机器人在新环境中成功率达到约90%。这一发现有望推动机器人技术的发展,实现更广泛的应用。
81 26
|
2月前
|
安全 机器人 开发者
清华开源全球最大双臂机器人扩散大模型RDT,懂调酒能遛狗,登顶HF具身热榜
清华大学近期发布了全球最大的双臂机器人扩散大模型RDT,该模型在调酒、遛狗等任务上表现优异,登顶Hugging Face具身智能热榜。RDT采用扩散架构,具备强大的学习能力,能生成高质量的机器人动作序列,展示了清华在机器人技术领域的领先水平。尽管面临泛化能力、计算资源及安全性等挑战,RDT的开源特性仍为其广泛应用和发展提供了广阔前景。
90 8
|
2月前
|
人工智能 自然语言处理 算法
具身智能高校实训解决方案 ----从AI大模型+机器人到通用具身智能
在具身智能的发展历程中,AI 大模型的出现成为了关键的推动力量。高校作为培养未来科技人才的摇篮,需要紧跟这一前沿趋势,开展具身智能实训课程。通过将 AI 大模型与具备 3D 视觉的机器人相结合,为学生搭建一个实践平台。
245 64
|
28天前
|
机器学习/深度学习 人工智能 算法
人工智能与机器人的结合:智能化世界的未来
人工智能与机器人的结合:智能化世界的未来
194 32
|
11天前
|
数据采集 监控 数据可视化
优锘科技携手逐际动力,共创数字孪生与具身智能机器人新未来
近日,优锘科技与逐际动力正式宣布达成战略合作,双方将在业务和技术领域展开深度协作,共同探索数字孪生与具身智能机器人的融合应用。这一合作无疑将为智能科技领域注入全新动力,推动行业智能化转型迈向更高水平。
|
2月前
|
算法 机器人 语音技术
由通义千问驱动的人形机器人具身智能Multi-Agent系统
申昊科技人形机器人小昊,集成通义千问多模态大模型的具身智能系统,旨在讲解销售、迎宾表演等场景。机器人通过语音、动作等方式与用户互动,利用云端大语言模型处理自然语言,结合视觉、听觉等多模态感知技术,实现流畅的人机对话、目标追踪、展厅讲解等功能。
273 4
由通义千问驱动的人形机器人具身智能Multi-Agent系统
|
2月前
|
自然语言处理 算法 机器人
智能电话销售机器人源码搭建部署系统电话机器人源码
智能电话销售机器人源码搭建部署系统电话机器人源码
40 4
|
2月前
|
机器学习/深度学习 传感器 算法
智能机器人在工业自动化中的应用与前景###
本文探讨了智能机器人在工业自动化领域的最新应用,包括其在制造业中的集成、操作灵活性和成本效益等方面的优势。通过分析当前技术趋势和案例研究,预测了智能机器人未来的发展方向及其对工业生产模式的潜在影响。 ###
208 9
|
2月前
|
机器学习/深度学习 人工智能 运维
电话机器人源码-智能ai系统-freeswitch-smartivr呼叫中心-crm
电话机器人源码-智能ai系统-freeswitch-smartivr呼叫中心-crm
83 0

热门文章

最新文章