Gamma Lab:让机器回答一个自然语言问题需要几步?-阿里云开发者社区

开发者社区> 开发者小助手-bz8> 正文

Gamma Lab:让机器回答一个自然语言问题需要几步?

简介: 阿基米德的杠杆给了我们力量,伽利略与达芬奇的动力学给了我们速度与空间,而计算机科学将取之不尽的信息从广阔的世界里吸收过来呈现在我们眼前:它试图让人类更「渊博」,用可以无限扩充的存储帮助大脑去记忆;也试图让人类更「聪明」,能够用可叠加的算力帮助人跨越自身处理大量数据和高维数据的极限。
+关注继续查看

人类从一百二十万年前就开始制造机器了。阿基米德的杠杆给了我们力量,伽利略与达芬奇的动力学给了我们速度与空间,而计算机科学将取之不尽的信息从广阔的世界里吸收过来呈现在我们眼前:它试图让人类更「渊博」,用可以无限扩充的存储帮助大脑去记忆;也试图让人类更「聪明」,能够用可叠加的算力帮助人跨越自身处理大量数据和高维数据的极限。


然而仅仅有存储能力和算力是不够的,当一位保险业务员被客户问到「这个保险可以用来办贷款吗?」的时候,即使保险说明书就存在电脑里,业务员也仍然需要花大量时间才能从数百页长的说明书里找到相应条款,至于实时回应客户的业务咨询,简直是天方夜谭。而当一位银行销售经理想知道「北京客户的年龄分布情况如何?」的时候,即使每一位客户的年龄数据都记录在数据库中,他作为一名没有数据库知识的一线业务人员,仍然需要等待专业分析师以周为单位给出一份未必能够满足要求的报告。


信息存在不等于信息可得,信息可得不等于知识可得,想要让机器真正听懂我们的问题、帮助我们回答问题,机器需要「学习」的还有很多。在平安集团旗下,有一家专攻金融科技的独角兽公司,金融壹账通。在金融壹账通的人工智能实验室 Gamma Lab 里,有两支专攻「让机器听懂人的语言,再把信息变成知识交给人」的队伍,他们选择了两个金融领域里常见的业务情景,研发了可以帮保险业务员做说明书阅读理解的 Gamma eExpert 和可以帮助银行业务员把问题变成数据库查询命令再变成报表的 Gamma Telescope。


最近,机器之心走进 Gamma Lab,与工程师们仔细地聊了聊这两款产品,确切地说是聊了聊,让机器回答一个自然语言问题,到底需要几步。


Gamma eExpert:对保险文档「倒背如流」的业务助手


帮助业务员回答一个客户对一份长度可达数百页的保险文档的问题,需要几步?eExpert 团队给出的答案是:三步。


eExpert 是一个旨在帮助保险业务员读保险文档同时回答客户问题的系统,它把一个来自客户的问题和一篇对应的保险文档视作输入,然后输出一句可以直接回答给客户的话,以及这句话引用的保险条款原文出处。


微信图片_20211130095036.jpg

eExpert 智能阅读理解系统界面截图,下方为保险文档段落,红字部分为阅读理解选出的精准答案


第一步:拆解保险文档,进行段落匹配


以 pdf、word 等形式存储的带有复杂格式的保险文档经过目录结构梳理、表格抽取和文本分段,被拆解成了众多的文本段落。而用户的问题进入系统后,段落匹配模块首先要找出,在整篇保险文档中,与这个问题最相关 N 个段落。


段落匹配主要利用了相似度匹配算法的思路:首先将深度学习表示和符号表示结合起来,得到十几个可以代表这个段落的「特征」,然后再用排序算法对这些特征与用户问题的相关度进行打分,打分最高的 N 个相应的段落就会进入到下一步,段落理解中。


值得注意的是,打分的机制也并不是工程师凭借经验「拍脑袋」想出来的,而是通过「让算法做选择、比较算法的选择与真正的答案之间的差异、据此对参数进行优化」的三段式学习方式找到的,据负责人介绍,最后段落匹配 top3 的准确度能达到 96% 以上。


第二步:进行段落理解


把用户问题和段落匹配阶段选出来的 N 段文本分别输入阅读理解模块,通过由输入嵌入层、嵌入编码层、文本注意力层、模型编码层和输出层组成的深度学习模型之后,得到一个表征「起始点位置」与「终止点位置」的向量,相当于用记号笔高亮了段落中的一个短语或者一句话。


段落理解是 eExpert 系统的核心,为了训练出准确度高、覆盖面广、可迁移性强的模型,团队在模型结构、数据、优化流程上都进行了许多探索。


输入嵌入层对问题和文本分布做词级别的嵌入,同时添加了很多人工特征。嵌入编码层利用多尺度的一维卷积,把不同长度的问题和文本编码为等长的多维向量。文本注意力层对问题和文本做双向的注意力计算:根据问题去文本中找相关内容,同时根据文本去问题中找相关内容。模型编码层以矩阵的形式找到起始点和终止点位置的联合分布。最后,输出层给出多个泛化答案。相比于单个答案,多个泛化答案能够明显提高获得正确答案的召回率。


而为了解决专业领域有标注数据匮乏而准确率要求高的问题,团队采用了从通用模型到垂直领域专用模型迁移的方式。在使用近 10 个中、英文通用数据集进行了预训练,确保模型有好的泛化能力后,这样的通用模型在混合通用数据集上大概能取得 36% ~ 48% 的准确率。


随后,Gamma 组织保险领域的专家,耗时半年建立了一个 10 万量级的保险阅读理解垂直数据集,然后利用这个垂直数据集对模型做精调和迭代式改进。第一轮精调后,模型的准确率直接提升都超过了 65%。然而这仍然不是一个「可推广」的模型,因此团队针对错误的回答进行了数据负样本增强。比如「犹豫期内退保是否有损失」和「犹豫期外退保是否有损失」,从语义相似度的角度不过一字之差,答案却截然不同。模型在只有极少针对性训练样本的情况下不能很好区分二者,因此就会扩充带有「犹豫期内」、「犹豫期外」关键词的样本。经过两轮、1 万条左右的数据扩充以及多种模型改进技巧,模型的准确率攀升到 90% 左右。


第三步:筛选答案,智能话术生成


「筛选答案」同样是一个由小组件组成的模块。


首先,对于那些多步推理的问题或者有「较长标准正确答案」的定义类问题,eExpert 将问题和答案以知识图谱三元组的形式组织起来。(比如,「什么是重症疾病?」、「什么是除外责任?」)在筛选答案环节里,系统首先会判断,用户的问题是否是一个有「标准答案」的常见问题,如果是,那么知识图谱提供的答案会有较大概率被选择。一个最典型的适合知识图谱而不是阅读理解回答的问题是「哪些疾病不在该保险的承保范围中?」这个问题的答案通常分散在保险文档的不同段落中,这就为阅读理解模型解决这一问题带来了天然的障碍,而反之,基于知识图谱的问答模型(KBQA)则非常擅长根据条件从文本中进行内容抽取以及整合。


微信图片_20211130095042.jpg

来自知识图谱的答案,对多个段落的总结


然后,对于那些 FAQ 解决不了或者解决得不好的问题,「答案拒绝」组件会对选出来的 N 个段落以及答案做二次审核,如果阅读理解模型优中选优的 N 个答案和问题不存在蕴含关系,拒绝模块会阻止答案进入话术生成,而是告诉「阅读理解」模块,本次回答失败,下次再接再厉。


最后,有的时候,直接读文档给客户会显得非常生硬,业务员在与客户交谈的时候除了需要熟练掌握保险条款,也会运用一定的表达技巧。这一部分 eExpert 也考虑到了,平台总结了一系列业务员常用的话术模版,把找到的标准答案和话术模版融合在一起,让机器生成一个更有「人味」的答案。


微信图片_20211130095045.jpg

红字部分是阅读理解模块选出的答案,蓝字部分是智能话术的答案


Gamma Telescope:随手拯救「表哥」「表姐」


帮助管理人员用一张报表回答一个和数据库相关的自然语言问题需要几步?很巧,Telescope 的团队给出的答案也是,三步。


Telescope 和 eExpert 的服务对象都是金融行业的业务人员,都需要处理自然语言问题,区别在于 eExpert 是从另一份自然语言文本中寻找答案,而 Telescope 则是从结构化数据库中寻找答案。eExpert 把保险文档段落和问题一起输入模型,而跟随问题一起进入 Telescope 模型的是数据表。eExpert 在文档段落中高亮出能够回答问题的部分,而 Telescope 输出一句查询命令,然后把从数据库中返回的查询结果以可视化的形式展现出来。换言之,这是一位业务员专属的数据分析师。


微信图片_20211130095049.jpg

Telescope 界面实例


第一步:语言建模


在第一部分里,数据表的表头(列名,column names)和自然语言问句被视为两个序列,分别用 Bi-LSTM 编码层编码为两个向量,然后利用注意力机制加强问句中与表格更相关的词的重要性,最后得到既包含问题信息,也包含表格信息的一个向量,完成语言建模。Bi-LSTM 编码将表格的位置信息、语言的语序信息也都编码进去了,换言之,调换一下一张数据表中的列的顺序,在模型看来就又是一个完全新鲜的训练数据了。


微信图片_20211130095052.jpg

如何对表头和自然语言问题进行编码


第二步:用预测的方法把问句转换为 SQL 语句


在 Telescope 的视角里,一个 SQL 语句由语句类型、操作维度、以及条件过滤器三部分组成。系统的第二部分任务就是把「SQL 语句生成」这个大问题拆分成多个小问题,通过一系列的预测,确定 SQL 语句的不同组成部分,从而完成语句的生成。


首先进行预测的是语句的形式。Telescope 把自身会用到的语句类型分成多个类别,并确定自然语言问句对应哪一种 SQL 语句类别。例如「学历分布」、「年龄分布」、「销售额分布」就都属于「分布」类问题。


其次进行预测的是操作维度,系统会预测在数据的众多列中,问句最有可能是针对哪一列数据进行提问,并把可能性最大的列名加入查询范围中。


最后进行预测的是条件过滤器相关的一系列内容,包括过滤器的数量、类别、条件列名以及条件值。其中前三者的预测方式和语句类型以及操作维度的预测方式相似,而条件值部分则采用了指针网络(Pointer Network),用于将原文中的专有名词复制到问句中。例如在「上海地区 30 岁及以上男性借款人的学历分布是什么样的?」一个问句中,过滤器就会把「地区是上海」,「年龄大于 30 岁」两个条件识别出来。


针对金融企业里每一个职能部门可能出现的数据表以及业务人员可能对这份数据提出的问题,团队为数千个自然语言问题按照上述范式给出了标注,根据这份标注,可以自动生成一句能够提取相应数据的 SQL 语句。


第三步:查询可视化与返回


获得数据之后,如何针对数据特性找到最有助于辅助决策的可视化方式,是一类机器尚不如人类表现的问题。因此在这里,产品团队从现实的需求场景出发,针对每一种「语句类型」提供了推荐的可视化方式。例如,针对「分布」这一语句类型,系统给出了「柱状图」和「词云」两个可视化选项。


值得一提的是,「语句类型」里除了「分布」这样的明确意图之外,还包含了「是什么样的」这样未指明意图的情况。自然语言查询对于提问者的约束远小于传统分析工具,因此,经常会出现「北京的客户是什么样的?」这样未指明意图的模糊问句。针对这样的问题,Telescope 也会尝试猜测和「北京」、「客户」相关的查询,把「北京客户的逾期情况」、「北京客户的借贷机构数情况」、「北京客户的多头借贷情况」以图表报告的形式呈现给查询者,让查询者选择他们关心的方向。


而从语句类型的设定到从可视化选项的选择,都来自平安内部一线业务人员的标注与反馈意见。这也确保了多样化的真实场景下的真实需求都得到满足。


自然语言问题中的「大象」与「冰箱」


回到最初的问题:通过段落匹配、阅读理解和智能话术生成三步,eExpert 就能回答一个保险咨询问题,而通过语言建模、SQL 语句预测和查询可视化三步,Telescope 就能生成一张业务分析图表,然而和「把大象装进冰箱里需要几步」一样,「回答一个自然语言问题需要几步」是一个看似可以用一句话概括,但实际近乎不可能的任务。完成这样一个任务时,需要进行大量基于实务经验的产品设计的问题。


「有人说,想要获得足够高的问答准确度,有百万量级的专业语料就好了。但是当客户说希望有一个能通过自然语言问答查询数据的工具时,我们不能对客户说,你先把百万标注语料拿出来。我们要做的是不是让场景适应技术,而思考如何把问题拆分、把技术组装,去达到一个真实的目的。」Telescope 的负责人说。


因此在了解 eExpert 与 Telescope 系统的结构、每一个部分的原理、必不可少的数据标注工作之外,我们也透过这些描述,看到了 Gamma Lab 在这条让机器「理解人的问题,再把信息变成知识交给人」的路上,遇到的障碍与跨越障碍的种种努力。


这些经过了反复探讨的流程设计,反复试验、失败、再试验最终得以保留的方法与技巧,才是客户能够毫不费力地用最自然地方式得到想要的答案的原因。


他们改变了「大象」,也改变了「冰箱」,然后给了用户一个简单至极的答案。微信图片_20211130092842.png


版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
DevExpress学习03——label控件的背景色问题
今天使用了DevExpress的labelControl,发现拖放上去,其背景色和主窗体的背景一样,非常不谐调,把BackColor设置为透明也不行(Windows中的Label可以)。 没有办法,我用颜色拾取器,拾取到上方面板颜色是RGB(80,80,80),于是将labelControl背景色改为RGB(80,80,80)颜色就统一了。
975 0
阿里云服务器怎么设置密码?怎么停机?怎么重启服务器?
如果在创建实例时没有设置密码,或者密码丢失,您可以在控制台上重新设置实例的登录密码。本文仅描述如何在 ECS 管理控制台上修改实例登录密码。
10018 0
Lambda表达式关于like问题(未解决)
参考文章: http://stackoverflow.com/questions/3616215/like-in-lambda-expression-and-linq   1. c=>c.name.
915 0
Winform label文本颜色修改问题
    下面两个方法按理说都是可以修改Winform的label文本颜色的。    但是方法二有时候的无效的,这种情况必须使用方法一。方法一:   this.label1.ForeColor = System.
1369 0
【算法导论】八皇后问题的算法实现(C、MATLAB、Python版)
        八皇后问题是一道经典的回溯问题。问题描述如下:皇后可以在横、竖、斜线上不限步数地吃掉其他棋子。如何将8个皇后放在棋盘上(有8*8个方格),使它们谁也不能被吃掉?         看到这个问题,最容易想到的就是遍历穷举法,不过仔细一想,思路虽然非常清晰,但是需要遍历次数太多,时间复杂度很高。
1794 0
关于Matlab作图的若干问题
看到了北京一则新闻,想到如何测试双向镜子?百度之。              只要做以下简单的测试:把你的指甲尖放在镜子表面,如果在指甲尖与倒映图像之间有间隙,那就是真的镜子。然而,如果你的指甲尖能直接碰触到指甲反射影像,当心!那就是双向镜了! 一、matlab里如何显示点的坐标? 在图里显示点坐标                工具栏中有一个 "Data Cursor"按钮,点击之,箭头变成小十字,点要显示坐标的位置,就出来了。
993 0
阿里云服务器如何登录?阿里云服务器的三种登录方法
购买阿里云ECS云服务器后如何登录?场景不同,阿里云优惠总结大概有三种登录方式: 登录到ECS云服务器控制台 在ECS云服务器控制台用户可以更改密码、更换系.
13821 0
阿里云ECS云服务器初始化设置教程方法
阿里云ECS云服务器初始化是指将云服务器系统恢复到最初状态的过程,阿里云的服务器初始化是通过更换系统盘来实现的,是免费的,阿里云百科网分享服务器初始化教程: 服务器初始化教程方法 本文的服务器初始化是指将ECS云服务器系统恢复到最初状态,服务器中的数据也会被清空,所以初始化之前一定要先备份好。
11881 0
阿里云ECS云服务器初始化设置教程方法
阿里云ECS云服务器初始化是指将云服务器系统恢复到最初状态的过程,阿里云的服务器初始化是通过更换系统盘来实现的,是免费的,阿里云百科网分享服务器初始化教程: 服务器初始化教程方法 本文的服务器初始化是指将ECS云服务器系统恢复到最初状态,服务器中的数据也会被清空,所以初始化之前一定要先备份好。
7344 0
1916
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
《2021云上架构与运维峰会演讲合集》
立即下载
《零基础CSS入门教程》
立即下载
《零基础HTML入门教程》
立即下载