高级能力和算法效果优化(一)| 学习笔记

简介: 快速学习高级能力和算法效果优化。

开发者学堂课程【3节课带你走进云小蜜产品 :高级能力和算法效果优化(一)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/739/detail/13117


高级能力和算法效果优化(一)

 

本次课程目标是希望提供给大家一种机器人效果优化的抓手,让大家了解并掌握机器人效果优化的常用的流程以及手段,帮助大家将机器人的自然语言水平,包括实体识别,意图识别等做到端到端90%以上,找到业务可交互的效果。

 

内容介绍:

一、系统内置意图、实体

二、意图话术高级配置方式 LGF

三、机器人训练

四、总结

 

一、系统内置意图、实体

为了最大程度的减少用户规划构建的成本,所以做挖掘和沉淀,把一些通用的常用的意图和实体进行内置,并且能够保证内置意图、实体效果能够达到一个非常好的水平。

1、内置通用意图(19个,模型F1=91. 96%) :停止、取消、感谢、返回、重听、上一个、下一个、你是谁、转人工、信号不好、友好问候、寻求帮助、通用否定、通用肯定、客户不方便、客户说再见、骂人说脏话、质疑是机器人、客户反问什么事。预计到93年时内置意图会进一步得到扩展,增加很多行业意图,内置意图数量能够增加到1000个以上。

实体类别

数量

主要类别

示例

时间类

7

日期、时间、周期时间、持续时间等

2020年6月18号下午5点进行了三个小时的会议

地点类

28

国家、行政区划、POI系列等

我老家是山东省烟台市

我住在千鹤家园小区

数字类

22

各类数字、各类数量词、车牌、电话号等

工作完成了三分之一

车牌号码是京N98U6

医疗类

16

疾病、症状、检查、药品、诊断、用药频率等

老王患有糖尿病

我今天体温正常

这个药每天三次

生活类

8

快递相关、菜谱、食材等

帮我发顺丰快递

我要点一个西红柿炒鸡蛋

文娱类

3

人物名、电影和广播电台

是张艺谋拍的闪闪的红星吗

我要听央广之声

其他

20

人名、邮箱、人物关系、指代、账号等

我不是李四光,我是他的朋友

我的支付宝账号是douni@163.com

2、演示系统内置意图以及内置实体的使用方式。

(1)提前定义好查天气的对话流,对话流包括触发节点,条件是查天气意图。编辑话术。

image.png

(2)对应会进行城市参数的收集。

image.png

(3)调用查天气 API,查天气回复。

image.png

(4)增加转人工的功能,定义转人工的意图,点击用户输入节点,可以看到内置的意图19个,节点名称,转人工,触发条件会自动选,保存。

image.png

(5)增加转人工的回复,名称转人工回复,文本回复,人工服务转接中。

image.png

(6)测试,输入查天气,转人工,成功识别到转人工的意图。

image.png

(7)通过系统的意图能够节省成本,系统实体分两种类型,用户可以自己去创建自己的实体,一种是标准名词的实体,一种是正则名词的实体,标准名词的实体是由很多个词组成的,正则是用正则表达式组成的,但是用户自定义也是需要成本的,除了用户自定义之外,系统里预制了一些实体,比如长天气意图,它的参数就是收集城市,收集查询哪个城市的天气,使用的识别能力会展示系统实体展示的列表,@sys.geo-city。

image.png

如果替换成省份@sys.geo-provin。测试,就可以识别出省份的天气。

image.png

在对话流的配置中,优先使用内置的意图和实体,首先内置的效果会有保障,使用成本会低很多,后续会不断完善内置意图和实体,让它的数量越来越丰富。


二、意图话术高级配置方式 LGF

LGF 配置方式主要用来解决的问题是在对话启动以及 benefits 干预的时候,如果只能一条一条话术准备,配置效率会比较低。所以使用 LGF 方式,它配置单条 LGF,效果能够达到上百条,或者更多话术的效果,能够节省配置的成本。

image.png

1、对于机器人里面的每一个意图,它一般会包含非常多的说法,比如查天气的意图,北京的天气、明天的天气、杭州气温、查询明天北京天气情况、请问一下明天北京天气如何、请问后天上海天气怎么样等。如果一条话术一条话术去写,写的数量非常多,所以设计了一种高效的知识归纳的方式,比如通过.{0,2}[请问[一下]][${日期}][${城市}][的](天气|气温)[如何|怎么样].{0,2}一条可表示144个句子,不包含实体和通配符,如果把实体和通配符考虑进去,数量会更多。

2、演示 LGF 配置

(1)打开左边意图列表页面,里面会有新建意图编辑意图的入口,可以看到已经有的查天气意图,点击编辑页面。

image.png

(2)可以看到意图名称和用户话术,最下面有高级语义配置方式,可以看到已经配置了两条。

image.png

(3)测试,输入查天气,在窗口可以看到匹配类型lgf和匹配细节[我想|我要]查天气。

image.png

3、LGF 基本使用

(1)最简单的 LGF

今天的北京天气

Testing

今天的北京天气 OK

今天北京天气 FAIL

最简单的 LGF 就是普通的文本,这个 LGF 仅能匹配原封不动的“今天的北京天气”。

(2)可选部分

今天北京[]的天气

Testing

今天北京的天气 OK

今天北京天气 OK

明天北京天气 FAIL

使用[]表示文本中的某个部分是“可有可无的”,这样的 LGF 表达能匹配两个输入,“今天北京天气“和“今天北京的天气“。可以在不同的地方加入可选标记,能让句子的表达能力翻倍(x2) ,比如下面的表达就能匹配4个输入。

今天北京[的]天气[预报]

Testing

今天北京的天气 OK

今天北京天气 OK

今天北京的天气预报 OK

今天北京天气预报 OK

明天北京天气 FAIL

(3)逻辑或

使用|可以表达“逻辑或关系“,可以表达n个候选中的任意一个,同时避免表达歧义,建议使用()做隔离表达

(今天|明天|后天)北京[的]天气[预报]

Testing

今天北京的天气 OK

今天北京天气预报 OK

明天北京天气 OK

后天北京的天气预报 OK

明天上海的天气情况 FAIL

也可以使用[]形成天然的隔离

(今天|明天|后天)北京[的1天气[预报|情况|状况]

Testing

今天北京天气预报 OK

明天北京天气 OK

后天北京天气状况 OK

明天北京的天气情况 OK

上海的天气 FAIL

(4)参数表达

除了 LGF 的文本表达,Dialog Studio 构会有很多的参数填充需要,比如上述的天气的例子,需要知道“日期“和“城市”,才能进行对应的查询。

使用${}引用具体的参数(注意:是参数名称,而不是专有名词),这样就能命中非常多具体表达。

${日期}${城市}[的]天气[预报|情况|状况]

Testing

今天上海天气预报 OK

下周一北京天气 OK

3号重庆天气状况 OK

上海的天气 FAIL

城市允许的值非常多,可能有上百种,如果还是用或,写起来会非常的复杂,所以引入参数表达。

(5)通配符泛化

“逻辑或"和“可选部分”仍不能满足一些应用对泛化能力的需求。

[请问|查下|告诉我]${日期}${城市}[的]天气[预报|情况|状况] [如何|怎么样|好不好]

Testing

查下今天上海天气预报 OK

那个下周一北京天气 FAIL

查查3号重庆天气状况 FAIL

上海的天气 FAIL

LGF 也支持通配符,表示方式是.下限,上限},比如.{0,3}表示能匹配0个(没有)到3个任意字符(字符为UTF字符,中文字、标点、英文字母都算一个)

.{0,3}${日期}${城市}[的]天气[预报|情况|状况].{0,3}

Testing

查下今天上海天气预报 OK

那个下周一北京天气怎么用 OK

查查3号重庆天气状况如何? OK

不想查明天的天气 WARNING

上海的天气 FAIL

切记这样的泛化是很不可控的,很可能兼容了一些问题确引入更多的问题

(6)通配符导致优先级衰减

//意图A

.{0,3}吃饭去.{0,3}

//意图B

.{0,3}吃饭.{0,3}

Testing

吃饭意图 B

我们去吃饭去意图 A>意图 B (A 意图消耗通配符3个, B 意图消耗通配符4个)

吃午饭去吧 FAIL

(7)逻辑非

通配符泛化过程中容易引入不可控因素

{0,3}幸福大巴.{0,3}

Testing

幸福大巴信息 OK

预定幸福大巴 OK

退订幸福大巴 WARNING

幸福班车 FAIL

本意是希望能够匹配“幸福大巴”相关的内容,但 query 为“退订幸福大巴”时仍会命中,可能跟业务的初衷相悖

(!退订|取消){0,3}幸福大巴.{0,3}

Testing

幸福大巴信息 OK

预定幸福大巴 OK

退订幸福大巴 FAIL but CORRECT

幸福班车 FAIL

在通配符规则前使用(!)取代。表述取反的范围(注意不是,前面加上(!)),.表示任意字符,“逻辑非”(!)改变了字符范围,达到取反目的

需要注意的是当前版本(!..)中间的内容,仅支持“1”,还未支持“[]”,“()"等语法。

相关文章
|
5天前
|
机器学习/深度学习 前端开发 算法
婚恋交友系统平台 相亲交友平台系统 婚恋交友系统APP 婚恋系统源码 婚恋交友平台开发流程 婚恋交友系统架构设计 婚恋交友系统前端/后端开发 婚恋交友系统匹配推荐算法优化
婚恋交友系统平台通过线上互动帮助单身男女找到合适伴侣,提供用户注册、个人资料填写、匹配推荐、实时聊天、社区互动等功能。开发流程包括需求分析、技术选型、系统架构设计、功能实现、测试优化和上线运维。匹配推荐算法优化是核心,通过用户行为数据分析和机器学习提高匹配准确性。
28 3
|
5天前
|
算法
PAI下面的gbdt、xgboost、ps-smart 算法如何优化?
设置gbdt 、xgboost等算法的样本和特征的采样率
22 2
|
20天前
|
算法
基于GA遗传算法的PID控制器参数优化matlab建模与仿真
本项目基于遗传算法(GA)优化PID控制器参数,通过空间状态方程构建控制对象,自定义GA的选择、交叉、变异过程,以提高PID控制性能。与使用通用GA工具箱相比,此方法更灵活、针对性强。MATLAB2022A环境下测试,展示了GA优化前后PID控制效果的显著差异。核心代码实现了遗传算法的迭代优化过程,最终通过适应度函数评估并选择了最优PID参数,显著提升了系统响应速度和稳定性。
|
17天前
|
算法
基于WOA鲸鱼优化的购售电收益与风险评估算法matlab仿真
本研究提出了一种基于鲸鱼优化算法(WOA)的购售电收益与风险评估算法。通过将售电公司购售电收益风险计算公式作为WOA的目标函数,经过迭代优化计算出最优购电策略。实验结果表明,在迭代次数超过10次后,风险价值收益优化值达到1715.1万元的最大值。WOA还确定了中长期市场、现货市场及可再生能源等不同市场的最优购电量,验证了算法的有效性。核心程序使用MATLAB2022a实现,通过多次迭代优化,实现了售电公司收益最大化和风险最小化的目标。
|
21天前
|
算法
通过matlab分别对比PSO,反向学习PSO,多策略改进反向学习PSO三种优化算法
本项目使用MATLAB2022A版本,对比分析了PSO、反向学习PSO及多策略改进反向学习PSO三种优化算法的性能,主要通过优化收敛曲线进行直观展示。核心代码实现了标准PSO算法流程,加入反向学习机制及多种改进策略,以提升算法跳出局部最优的能力,增强全局搜索效率。
|
17天前
|
算法
通过matlab对比遗传算法优化前后染色体的变化情况
该程序使用MATLAB2022A实现遗传算法优化染色体的过程,通过迭代选择、交叉和变异操作,提高染色体适应度,优化解的质量,同时保持种群多样性,避免局部最优。代码展示了算法的核心流程,包括适应度计算、选择、交叉、变异等步骤,并通过图表直观展示了优化前后染色体的变化情况。
|
21天前
|
算法
基于大爆炸优化算法的PID控制器参数寻优matlab仿真
本研究基于大爆炸优化算法对PID控制器参数进行寻优,并通过Matlab仿真对比优化前后PID控制效果。使用MATLAB2022a实现核心程序,展示了算法迭代过程及最优PID参数的求解。大爆炸优化算法通过模拟宇宙大爆炸和大收缩过程,在搜索空间中迭代寻找全局最优解,特别适用于PID参数优化,提升控制系统性能。
|
21天前
|
机器学习/深度学习 算法 数据安全/隐私保护
基于贝叶斯优化CNN-GRU网络的数据分类识别算法matlab仿真
本项目展示了使用MATLAB2022a实现的贝叶斯优化、CNN和GRU算法优化效果。优化前后对比显著,完整代码附带中文注释及操作视频。贝叶斯优化适用于黑盒函数,CNN用于时间序列特征提取,GRU改进了RNN的长序列处理能力。
|
23天前
|
并行计算 算法 测试技术
C语言因高效灵活被广泛应用于软件开发。本文探讨了优化C语言程序性能的策略,涵盖算法优化、代码结构优化、内存管理优化、编译器优化、数据结构优化、并行计算优化及性能测试与分析七个方面
C语言因高效灵活被广泛应用于软件开发。本文探讨了优化C语言程序性能的策略,涵盖算法优化、代码结构优化、内存管理优化、编译器优化、数据结构优化、并行计算优化及性能测试与分析七个方面,旨在通过综合策略提升程序性能,满足实际需求。
54 1
|
19天前
|
算法 决策智能
基于遗传优化算法的TSP问题求解matlab仿真
本项目使用遗传算法解决旅行商问题(TSP),目标是在四个城市间找到最短路径。算法通过编码、选择、交叉、变异等步骤,在MATLAB2022A上实现路径优化,最终输出最优路径及距离。