EMNLP 自然语言处理实证方法会议（Conferenceon Empirical Methods in Natural Language Processing）由ACL当中对语言数据和经验方法有特殊兴趣的团体主办，始于1996年。2019年EMNLP会议于11月3日到7日于香港亚洲世博会举办。以下是本场会议的精彩论文解读，欢迎收藏！
一、面向任务型对话的异构记忆网络
摘要：人类通过语言将大脑里的知识表达出来，通过对话相互传递知识。机器通过学习大量的语料可以一定程度学会流畅的语句表达，但如果没有知识，则生成的只会是漂亮而无内涵的回复。传统的模块化的对话模型可以通过数据库查询等方式将关键信息填入回答的模版中，但是端到端的对话生成模型则要更复杂一些。
为了解决这个问题，记忆网络（Memory Networks）通常是一个不错的技术方法。但是现有的记忆网络结合对话系统只是提供了如何引入知识的一个方法，并不能很好的处理多种来源和结构的知识。因此在这篇文章中，我们提出了一个异构记忆网络（Heterogeneous Memory Networks, HMNs）来同步处理用户语句，对话历史以及背景知识库。
HMNs由上下文无关（context-free memory）记忆网络和我们提出的上下文敏感（context-aware memory）记忆网络组成，分别用于编码、储存结构化的知识元组（knolwdge tuples）和序列化的用户语句、历史对话，并生成两个小词表分布（知识词表和历史对话词表）以及一个大词表（所有训练的词汇分布）供回复语句生成的选词。在三个数据集上的实验结果表明，HMNs超过了现有的SOTA模型，能够较显著的提高端到端任务型对话模型的表现。
》》查看详情 》》
二、基于归纳网络的少样本文本分类
摘要：深度学习方法在数据稀缺的场景下往往表现很差，在这种挑战性的场景下，近期的工作往往使用meta-learning的方法来模拟少样本学习任务，通过在样本级别把query和支撑集进行比较来完成分类。但是这种样本级别的比较往往会被同一个类中各种不同的表述方式所干扰，因此我们需要为支撑集中的每个类别学习一种泛化的表示，然后去和query进行度量。
在本工作中，我们提出了一个新的归纳网络（Induction Networks）来学习这样的一般化的类别表示，通过在meta learning的过程中引入动态路由算法（dynamic routing），我们的模型对于未见过的类别有良好的适应能力。我们在一个通用的英文基准数据集和一个真实场景的中文意图分类数据集上验证我们的模型，均取得了state-of-the-art的结果，证明了在少样本学习场景下学习类级别表示的有效性。
》》查看详情 》》
三、基于注意力机制优化的生成式文档摘要模型
摘要：在互联网时代，各个领域场景产生越来越多的文本数据，文本摘要作为文本“降维”处理的重要手段，旨在将文本或者文本集合转换成包含关键信息的简短摘要。该任务方法主要分为两大类：抽取式摘要和生成式摘要。抽取式摘要方法从源文档中抽取关键句或者关键词组成摘要，摘要内容全部来自原文，这种方法比较简单直接，但是做法和人类总结概括文章的方法技巧相差甚远，同时也面临coherence等问题。
随着sequence2sequence模型的出现和发展，生成式摘要模型相关研究也吸引了众多学者的目光。生成式摘要模型顾名思义，就是从源文档生成摘要，摘要中的词可能在原文中并不存在。这一大类方法更接近于人类的摘要方法，得到的摘要一般较为通顺，但是也存在诸多问题，如repetition、saliency、incorrect fact等。当然文本生成任务本身就具有较大难度，我们期待未来有一天计算机能够像人类一样会写作表达，可以写出高质量的自然语言文本。
