Facebook开源CNN机器翻译的PyTorch实现,速度提高80%

简介:
本文来自AI新媒体量子位(QbitAI)

还记得Facebook那篇用CNN做机器翻译的论文吗?Convolutional Sequence to Sequence Learning。

在那篇论文中,Facebook的研究人员们展示了他们的研究成果:用CNN来做机器翻译,达到顶尖的准确率,速度则是RNN的9倍。

同时,Facebook还开放了seq2seq学习工具包fairseq的Torch源代码和已训练的系统。

最近,Facebook又开源了fairseq的PyTorch版:fairseq-py。

根据Facebook在GitHub上的介绍,fairseq-py包含论文中描述的全卷积模型,支持在一台机器上用多GPU进行训练,以及CPU和GPU上的快速beam search生成。

fairseq-py可以用来里实现机器翻译,也能用于其他seq2seq的NLP任务。

这个开源工具包同时还包含英译法、英译德的预训练机器翻译模型。

fairseq-py比之前的Torch版更高效,翻译的速度提高了80%,训练速度提升近50%。

fairseq-py的GitHub链接:
https://github.com/facebookresearch/fairseq-py

论文Convolutional Sequence to Sequence Learning:
https://arxiv.org/abs/1705.03122

Torch版GitHub链接:
https://github.com/facebookresearch/fairseq

用户论坛:
https://groups.google.com/forum/#!forum/fairseq-users

— 完 —

本文作者:李林
原文发布时间:2017-09-19 
相关文章
|
机器学习/深度学习 编解码 PyTorch
Pytorch实现手写数字识别 | MNIST数据集(CNN卷积神经网络)
Pytorch实现手写数字识别 | MNIST数据集(CNN卷积神经网络)
|
机器学习/深度学习 算法 PyTorch
【PyTorch实战演练】Fast R-CNN中的RoI(Region of Interest)池化详解
【PyTorch实战演练】Fast R-CNN中的RoI(Region of Interest)池化详解
839 1
|
机器学习/深度学习 PyTorch 算法框架/工具
CNN中的注意力机制综合指南:从理论到Pytorch代码实现
注意力机制已成为深度学习模型的关键组件,尤其在卷积神经网络(CNN)中发挥了重要作用。通过使模型关注输入数据中最相关的部分,注意力机制显著提升了CNN在图像分类、目标检测和语义分割等任务中的表现。本文将详细介绍CNN中的注意力机制,包括其基本概念、不同类型(如通道注意力、空间注意力和混合注意力)以及实际实现方法。此外,还将探讨注意力机制在多个计算机视觉任务中的应用效果及其面临的挑战。无论是图像分类还是医学图像分析,注意力机制都能显著提升模型性能,并在不断发展的深度学习领域中扮演重要角色。
1230 10
|
人工智能 安全 PyTorch
SPDL:Meta AI 推出的开源高性能AI模型数据加载解决方案,兼容主流 AI 框架 PyTorch
SPDL是Meta AI推出的开源高性能AI模型数据加载解决方案,基于多线程技术和异步事件循环,提供高吞吐量、低资源占用的数据加载功能,支持分布式系统和主流AI框架PyTorch。
1269 10
SPDL:Meta AI 推出的开源高性能AI模型数据加载解决方案,兼容主流 AI 框架 PyTorch
|
机器学习/深度学习 PyTorch 算法框架/工具
基于Pytorch通过实例详细剖析CNN
基于Pytorch通过实例详细剖析CNN
390 1
基于Pytorch通过实例详细剖析CNN
|
机器学习/深度学习 算法 PyTorch
【PyTorch实战演练】深入剖析MTCNN(多任务级联卷积神经网络)并使用30行代码实现人脸识别
【PyTorch实战演练】深入剖析MTCNN(多任务级联卷积神经网络)并使用30行代码实现人脸识别
1853 2
|
机器学习/深度学习 数据采集 PyTorch
PyTorch搭建卷积神经网络(ResNet-50网络)进行图像分类实战(附源码和数据集)
PyTorch搭建卷积神经网络(ResNet-50网络)进行图像分类实战(附源码和数据集)
1505 2
|
机器学习/深度学习 PyTorch 算法框架/工具
PyTorch深度学习中卷积神经网络(CNN)的讲解及图像处理实战(超详细 附源码)
PyTorch深度学习中卷积神经网络(CNN)的讲解及图像处理实战(超详细 附源码)
733 0
|
机器学习/深度学习 PyTorch 算法框架/工具
PyTorch搭建卷积神经网络(CNN)进行视频行为识别(附源码和数据集)
PyTorch搭建卷积神经网络(CNN)进行视频行为识别(附源码和数据集)
639 0
|
机器学习/深度学习 人工智能 自然语言处理
PyTorch搭建图卷积神经网络(GCN)完成对论文分类及预测实战(附源码和数据集)
PyTorch搭建图卷积神经网络(GCN)完成对论文分类及预测实战(附源码和数据集)
1096 1

热门文章

最新文章

推荐镜像

更多