机器学习2017年重大进展汇总

简介: 2017年注定是机器学习快速发展的一年,特别是机器学习商业化的成功是的更多的人积极的投入到机器学习的学习当中。机器学习一定会成为未来的技术,让我们看看这项未来的技术现在发展到何种程度。

很难相信在人工智能和机器学习领域里这一年发生了那么多的事情,很难做一个全面的系统的汇总。尽管如此,我还是尝试性的去做了一个汇总,希望能够帮助大家去回顾一下今天的科技到底发展到了何种程度。

1.Alpha Go Zero:创造者的兴起


如果让我必须选择今年的主要亮点,那就是AlphaGo Zero(论文)。这种新方法不仅在一些最有希望的方向上有所改进(如深度强化学习),而且也证实了这种模式可以在没有数据的情况下学习的范式转变(译者认为:这是思想的转变,在商业上,给了那么些没有大量数据的创新者一个机会)。我们最近也看到了Alpha Go Zero正在推广到象棋类的其他游戏。

2.GAN:不要怕,就要GAN


最近的一项元研究(meta-study)发现在GAN相关研究论文的报告指标上存在系统性错误。尽管如此,不可否认的是,GAN继续发挥着它的独到之处,特别是当涉及到图像空间的应用时(例如,渐进式GAN,pix2pix中的条件GANS或CycleGans)。

3.深度学习版的NLP:商业化的开端

今年的深度学习是NLP的天下,特别是翻译,NLP让我们感受到了翻译正在变得简单容易。Salesforce提供了一个有趣的非自回归方法,可以处理完整的句子翻译。也许更具开创性的是Facebook提供的无监督的方法UPV。深度学习也成功的帮助商家让它们的推荐系统做的更佳的完美。然而,最近的一篇论文也对最近的一些进展提出了质疑,例如kNN与Deep Learning相比有多么简单。与GAN研究一样,人工智能研究的惊人速度也会导致科学严谨性的损失,这也不足为奇。虽然人工智能的许多或大部分进展来自深度学习领域,但在AI和ML方面还有许多其他方面的不断创新也应该是值得让人关注的。

4.理论的问题:可解释性和严密性


与上面提到的一些问题有些相关的是,许多人批评这种方法的理论基础缺乏严密性和可解释性。就在前不久,阿里·拉希米(Ali Rahimi)在他的NIPS 2017谈话中将现代AI描述为“炼金术” 。Yann Lecun在一场不可能很快解决的辩论中迅速作出了回应。值得注意的是,今年在尝试推进深度学习的基础上,已经看到了很多的努力。例如,研究人员正在试图了解神经网络如何深度泛化。Tishby的信息瓶颈理论也在今年作为对某些深度学习属性的合理解释进行了长时间的辩论。正在为今年的职业生涯庆祝的辛顿也一直在质疑诸如使用反向传播的基本问题。佩德罗·多明戈斯(Pedro Domingos)等知名研究人员很快进入节奏,开发了使用不同优化技术的深度学习方法。Hinton提出的最后一个最近的根本性变化是使用(capsule)胶囊(见原文)作为卷积网络的替代品。

5.服务商的战斗:越来越好的开发体验

如果我们看一下人工智能的工程相关的成果,那么一年来,Pytorch开始挑起热潮,成为Tensorflow的真正挑战,特别是在研究方面。Tensorflow通过在Tensorflow Fold中发布动态网络迅速作出反应。大玩家之间的“AI之战”还有很多其他的战斗,其中最激烈的就是围绕着云。所有的主要供应商都已经加紧了,增加了他们在云中的AI支持。亚马逊已经呈现在他们的AWS,大创新,如他们最近的表现Sagemaker构建和部署ML车型。另外值得一提的是,更小的玩家也纷纷涌入.Nvidia最近推出了他们的GPU云,这是训练深度学习模式的另一个有趣的选择。所有的这些战斗无疑在未来都将大力推动工业升级。另外,新的ONNX神经网络表示标准化是互操作性的重要和必要的一步。

6.始终有待解决的未来的社会问题


2017年,人工智能方面的社会问题也得到了延续(升级)。伊隆·马斯克(Elon Musk)继续推动我们越来越接近杀手级AI的想法,令许多人感到沮丧。关于人工智能在未来几年会如何影响工作,也有很多讨论。最后,我们看到更多的焦点放在AI算法的可解释性和偏见上。

7.新的战场:机器学习+传统行业

最近几个月来,我一直在从事医学和医疗方面的人工智能方面的工作。我很高兴地看到,像“医疗保健”这样的“传统”领域的创新速度正在被迅速提高。AI和ML已经应用于医学多年,从60年代和70年代的专家系统和贝叶斯系统开始。不过,我经常发现自己引用了几个月前的文章。今年提出的一些最近的创新包括使用Deep RL,GAN或自动编码器来帮助患者诊断。最近人工智能的许多进步还集中在精准医学(高度个性化的医疗诊断和治疗)和基因组学上。例如David Blei的最新文章通过使用贝叶斯推断来预测个体是否具有对疾病的遗传倾向,从而解决神经网络模型中的因果关系。所有的大公司都投资人工智能在医疗保健领域。Google有几个团队,其中包括Deepmind Healthcare,他们在医学人工智能方面提出了一些非常有趣的进展,特别是在医学影像自动化方面。另外,苹果公司也在为苹果手表寻找医疗保健应用程序,而亚马逊也“秘密”地投资于医疗保健。很明显,创新的空间已经成熟。


Uber AI团队在深度强化学习的背景下提出了使用遗传算法(GA)的非常有趣的想法。在这5篇论文中,团队展示了GA如何成为SGD的一个竞争性替代方案。看到GA复出是件非常有趣的事情,我很高兴看到在未来几个月里它可以把我们带到哪里。

最后,我最近阅读了关于Libratus如何在单挑无限扑克(这是IJCAI早期论文的一个版本)上击败专家的科学论文。而AlphaGo Zero确实是一个非常令人兴奋的发展,事实上现实中的大多数问题可以更容易地被吸收到像Poker这样的不完善的信息游戏,而不是像Go或Chess这样的完美信息游戏。这就是为什么在这个领域的工作是一个真正令人兴奋的重要推动领域前进。除了上面提到科学论文之外,我还建议你去阅读以下两个:在不完全信息游戏中自我玩的深度强化学习,以及DeepStack:专家级人工智能在单挑无限制扑克中的应用。

本文由北邮@爱可可-爱生活老师推荐,阿里云云栖社区组织翻译。

文章原标题《What-are-the-most-significant-machine-learning-advances-in-2017》,

作者: Xavier Amatriain 计算机科学博士,ML研究员。

译者:虎说八道,审阅:

文章为简译,更为详细的内容,请查看原文

相关文章
|
运维 Cloud Native 关系型数据库
“瑶池”正式发布,一站式数据管理与服务
11月3日,在2022云栖大会上,阿里巴巴集团副总裁、阿里云数据库产品事业部负责人李飞飞发表《一站式、全场景数据管理与服务》主题演讲,分享了数据库发展的四个核心趋势,并发布数据库独立品牌“瑶池”,将云原生关系型数据库PolarDB、云原生数据仓库AnalyticDB (简称ADB)、云原生多模数据库Lindorm等产品统一归属到全新品牌“瑶池”。
3131 0
 “瑶池”正式发布,一站式数据管理与服务
|
2月前
|
人工智能 算法 搜索推荐
GEO优化最容易犯的八大错误及深远影响
本文深度解析生成式引擎优化(GEO)的底层逻辑与实践误区,指出GEO并非SEO升级版,而是规则重构:从链接排序转向答案生成,E-E-A-T成核心信任过滤器。梳理八大常见错误——如关键词堆砌、实体模糊、经验缺位、不可抽取等,并提供“立实体、建可引用单元、引权威信源、常态化更新”四大修正路径,助力内容真正被AI看见、信任与引用。
243 1
|
4月前
|
存储 人工智能 自然语言处理
以前写重复提示词花 10 分钟,现在用 Hermes 技能一条命令搞定,效率提升 300%
本文全面介绍 Hermes Agent 技能(Skills)系统,从核心概念、格式规范、安装管理到自定义开发,带你掌握可复用工作流与知识单元的使用方法,让 AI 智能体自动执行复杂任务。
738 0
|
存储 网络协议 算法
SpringCloud 注册中心之Consul
Consul 用于实现分布式系统的服务发现与配置,内置了服务注册与发现框 架、分布一致性协议实现、健康检查、Key/Value 存储、多数据中心方案,不再需要依赖其它工具。
1164 0
|
编解码 计算机视觉
视频处理VideoCapture类---OpenCV-Python开发指南(38)
视频处理VideoCapture类---OpenCV-Python开发指南(38)
1891 0
视频处理VideoCapture类---OpenCV-Python开发指南(38)
|
存储 数据管理 BI
宜搭认证课程-掌握表单设计(一)| 学习笔记
快速学习宜搭认证课程-掌握表单设计。
宜搭认证课程-掌握表单设计(一)| 学习笔记
|
物联网 数据安全/隐私保护 开发者
LoRaWAN协议介绍与调试|学习笔记
快速学习LoRaWAN协议介绍与调试
1011 0
LoRaWAN协议介绍与调试|学习笔记
|
存储 安全 Java
经典面试题之ConcurrentHashMap
1.8之前的 ConcurrentHashMap是在1.7HashMap的基础上实现了线程安全的版本。采用分段锁的概念,使锁更加细化。它默认将Hash表分为16个分段,segments数组的长度最大为65536,最大容量 1 << 30。
经典面试题之ConcurrentHashMap
|
IDE Unix 机器人
platformio-用于使用不同开发平台构建代码的控制台工具
PlatformIO是面向嵌入式系统工程师和为嵌入式产品编写应用程序的软件开发人员的跨平台,跨体系结构,多框架的专业工具。 PlatformIO在嵌入式市场中的独特理念为开发人员提供了一个现代的集成开发环境(云和桌面IDE),该环境可以跨平台工作,支持许多不同的软件开发工具包(SDK)或框架,并包括复杂的调试(Debugging),单元测试(单元测试),自动代码分析(静态代码分析)和远程管理(远程开发)。它的架构旨在最大程度地提高开发人员的灵活性和选择范围,开发人员可以使用图形编辑器或命令行编辑器(PlatformIO Core(CLI)),或同时使用这两种编辑器。
1556 0
platformio-用于使用不同开发平台构建代码的控制台工具
|
弹性计算 监控 Kubernetes
SpringCloud 应用在 Kubernetes 上的最佳实践 — 高可用(容量评估)
本篇是《SpringCloud 应用在 Kubernetes 上的最佳实践 》系列内容的第十一篇。
9915 0
SpringCloud 应用在 Kubernetes 上的最佳实践 — 高可用(容量评估)

热门文章

最新文章