一文读懂「Attention is All You Need」| 附代码实现
前言
2017 年中,有两篇类似同时也是笔者非常欣赏的论文,分别是 FaceBook 的 Convolutional Sequence to Sequence Learning 和 Google 的 Attention is All You Need,它们都算是 Seq2Seq 上的创新,本质上来说,都是抛弃了 RNN 结构来做 Seq2Seq 任务。
【PHP系列直播】从代码细节聊一聊如何成为一名优秀的工程师
主讲人
周梦康(楚松) 点击关注专家阿里云资深研发工程师,《深入 PHP 内核》作者之一
内容提要
从代码细节聊一聊如何成为一名优秀的工程师
你的代码语意清晰吗?
你的代码足够健壮吗?
你的代码运行安全吗?
你的代码考虑性能吗?
直播时间
2019年3月12日 19:30
直播地址
PHP技术进阶钉群:http://uee.
【新智元峰会】德国AI教皇盛赞中国人工智能,25位AI领袖强势打造中国新智极
中美史诗级贸易战,中国AI能否成为破局之剑?3月29日,2018新智元产业跃迁AI技术峰会盛大启幕,德国AI教父、工业4.0提出者之一、诺贝尔奖评审、德国人工智能中心(DFKI)CEO沃夫冈·瓦尔斯特(Wolfgang Wahlster)教授首次对中国AI产业发声,“中国芯之父”邓中翰院士剖析中国AI芯自主研发路,来自微软、IBM、阿里、腾讯、华为等公司和研究院的25位重磅嘉宾齐聚,与创投领袖一起共议中国AI产业跃迁路线图。
大规模深度学习优化技术在PAI平台中的应用及实践
工业界和学术界也先后推出了用于Deep Learning建模用途的多种开源工具和框架,这里详细解读下阿里云推出的PAI(Platform of Artificial Intelligence)。其致力于通过系统与算法协同优化的方式,来有效解决Deep Learning训练工具的使用效率问题,目前PAI集成了TensorFlow、Caffe、MXNet这三款流行的Deep Learning框架,并针对这几款框架做了定制化的性能优化支持,以求更好的解决用户建模的效率问题。
时间卷积网络(TCN)在 NLP 多领域发光,RNN 或将没落
我们一开始认为,时序问题(如语言、语音等等)天生就是 RNN 的地盘。然而现在这一观点要成为过去式了。时间卷积网络(Temporal Convolutional Nets, TCNs)作为 CNN 家族中的一员健将,拥有许多新特性,如今已经在诸多主要应用领域中击败了 RNN。
阿里云发布黑科技:面对海量的文本翻译任务,阿里翻译团队是如何解决的
对国际化企业来说语言问题是亟待突破的重要关口。面对海量的文本翻译任务,昂贵低效的人工翻译显然不能满足需求,利用计算机自动进行文本翻译的机器翻译才是解决这个问题的关键。阿里翻译团队在机器翻译领域做了大量技术储备,并针对我们所处的电子商务领域进行算法优化,进而打造阿里巴巴自己的机器翻译平台。