开发者社区> 问答> 正文

“预习-上课-复习”技术方案中复习模块(review module)是怎么实现的?

“预习-上课-复习”技术方案中复习模块(review module)是怎么实现的?

展开
收起
游客hmzk6xi5mlygs 2022-05-12 14:03:05 226 0
1 条回答
写回答
取消 提交回答
  • 具体的SaCLog中的复习模块里,我们采取的方式是基于schema信息的数据增强方法,由于schema中已经预定义好了所有的槽和值,因此我们可以通过字符串匹配的方式尽可能地从对话语句中将相应位置的槽值找出来进行不同槽值的替换或者同义词替换,以扩充对话训练数据。我们在课程学习时,采取每次迭代的epoch 结尾都将模型预测出错的loss前10%的训练数据送入复习模块,通过槽替换、值替换和对话重组三种规则方式进行数据的扩充,将新增数据并入训练集一起参与下一轮训练。其中,对话重组是将和当前轮对话数据带有相同对话状态标签的其他对话数据进行历史对话和后续对话进行重新组合。

    2022-05-12 17:14:57
    赞同 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
超全算法笔试 模拟题精解合集 立即下载
超全算法笔试-模拟题精解合集 立即下载
面试常考算法 立即下载