【EMNLP 2023】基于知识迁移的跨语言机器阅读理解算法
近日,阿里云人工智能平台PAI与华南理工大学朱金辉教授团队、达摩院自然语言处理团队合作在自然语言处理顶级会议EMNLP2023上发表基于机器翻译增加的跨语言机器阅读理解算法X-STA。通过利用一个注意力机制的教师来将源语言的答案转移到目标语言的答案输出空间,从而进行深度级别的辅助以增强跨语言传输能力。同时,提出了一种改进的交叉注意力块,称为梯度解缠知识共享技术。此外,通过多个层次学习语义对齐,并利用教师指导来校准模型输出,增强跨语言传输性能。实验结果显示,我们的方法在三个多语言MRC数据集上表现出色,优于现有的最先进方法。
一次中稿10篇EMNLP22,达摩院对话智能团队在研究什么
达摩院Conversational AI团队在EMNLP 2022上发表了10篇论文,涵盖了任务型对话、表格型对话、文档型对话、多模态对话和对话终身学习等多个前沿方向。团队构建了首个大规模中文任务型对话评估数据集CGoDial,用于提升对话系统的真实世界表现,并提出了一种新的预训练模型STAR,增强模型对复杂和抽象信息查询的处理能力。此外,他们还研究了多模态情感分析和对话情绪识别,以及终身学习对话系统的解决方案,以减少灾难性遗忘问题。这些研究旨在推动对话智能的发展,提高人机交互的效率和准确性。