Facebook开源CNN机器翻译的PyTorch实现,速度提高80%-阿里云开发者社区

开发者社区> 量子位> 正文
登录阅读全文

Facebook开源CNN机器翻译的PyTorch实现,速度提高80%

简介:
本文来自AI新媒体量子位(QbitAI)

2a8f8e855829881090708f95dd0ea5a96e6f52f7

还记得Facebook那篇用CNN做机器翻译的论文吗?Convolutional Sequence to Sequence Learning

在那篇论文中,Facebook的研究人员们展示了他们的研究成果:用CNN来做机器翻译,达到顶尖的准确率,速度则是RNN的9倍。

640?wx_fmt=png&wxfrom=5&wx_lazy=1

同时,Facebook还开放了seq2seq学习工具包fairseq的Torch源代码和已训练的系统。

最近,Facebook又开源了fairseq的PyTorch版:fairseq-py

根据Facebook在GitHub上的介绍,fairseq-py包含论文中描述的全卷积模型,支持在一台机器上用多GPU进行训练,以及CPU和GPU上的快速beam search生成。

fairseq-py可以用来里实现机器翻译,也能用于其他seq2seq的NLP任务。

这个开源工具包同时还包含英译法、英译德的预训练机器翻译模型。

fairseq-py比之前的Torch版更高效,翻译的速度提高了80%,训练速度提升近50%。

fairseq-py的GitHub链接:
https://github.com/facebookresearch/fairseq-py

论文Convolutional Sequence to Sequence Learning:
https://arxiv.org/abs/1705.03122

fccda8d63dbdfc8b498d228f9b30b08f566f456d

727b2aa8891a1d6ad2442010b5d0445728642fff

Torch版GitHub链接:
https://github.com/facebookresearch/fairseq

用户论坛:
https://groups.google.com/forum/#!forum/fairseq-users

本文作者:李林
原文发布时间:2017-09-19 

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
+ 订阅

官方博客
官网链接