一文读懂「Attention is All You Need」| 附代码实现
前言
2017 年中,有两篇类似同时也是笔者非常欣赏的论文,分别是 FaceBook 的 Convolutional Sequence to Sequence Learning 和 Google 的 Attention is All You Need,它们都算是 Seq2Seq 上的创新,本质上来说,都是抛弃了 RNN 结构来做 Seq2Seq 任务。
十分钟教程:用Keras实现seq2seq学习
序列到序列学习(seq2seq)是一种把序列从一个域(例如英语中的句子)转换为另一个域中的序列(例如把相同的句子翻译成法语)的模型训练方法。目前有多种方法可以用来处理这个任务,可以使用RNN,也可以使用一维卷积网络。这里,我们将重点介绍RNN。
【新智元峰会】德国AI教皇盛赞中国人工智能,25位AI领袖强势打造中国新智极
中美史诗级贸易战,中国AI能否成为破局之剑?3月29日,2018新智元产业跃迁AI技术峰会盛大启幕,德国AI教父、工业4.0提出者之一、诺贝尔奖评审、德国人工智能中心(DFKI)CEO沃夫冈·瓦尔斯特(Wolfgang Wahlster)教授首次对中国AI产业发声,“中国芯之父”邓中翰院士剖析中国AI芯自主研发路,来自微软、IBM、阿里、腾讯、华为等公司和研究院的25位重磅嘉宾齐聚,与创投领袖一起共议中国AI产业跃迁路线图。
大规模深度学习优化技术在PAI平台中的应用及实践
工业界和学术界也先后推出了用于Deep Learning建模用途的多种开源工具和框架,这里详细解读下阿里云推出的PAI(Platform of Artificial Intelligence)。其致力于通过系统与算法协同优化的方式,来有效解决Deep Learning训练工具的使用效率问题,目前PAI集成了TensorFlow、Caffe、MXNet这三款流行的Deep Learning框架,并针对这几款框架做了定制化的性能优化支持,以求更好的解决用户建模的效率问题。
阿里云发布黑科技:面对海量的文本翻译任务,阿里翻译团队是如何解决的
对国际化企业来说语言问题是亟待突破的重要关口。面对海量的文本翻译任务,昂贵低效的人工翻译显然不能满足需求,利用计算机自动进行文本翻译的机器翻译才是解决这个问题的关键。阿里翻译团队在机器翻译领域做了大量技术储备,并针对我们所处的电子商务领域进行算法优化,进而打造阿里巴巴自己的机器翻译平台。