图说2016深度学习十大指数级增长

本文涉及的产品
图像搜索,任选一个服务类型 1个月
简介:

1. 图像识别准确率的指数级增长


似乎一切都是从 2015年的 ImageNet 挑战赛开始的,当年在图像识别准确率上,机器首次超过了人类,被认为是一个里程碑式的突破。




图:ILSVRC top-5 错误率


2010年算法的图像识别错误率至少在25%左右,但到2015年,计算机图像识别错误率已经低于人类(人类水平大概是4%左右)。2015年是0.03567,也就是3.5%。2016年,ImageNet 竞赛,图像识别错误率进一步下降,错误率今年的最好成绩为:平均错误率0.02991,也就是2.99%左右。




从上图可以看到,在ImageNet 竞赛中,其实从2012年,开始,使用深度学习方法,错误率只有15.3 %左右。这是 Hinton 教授和他的两个研究生 Alex Krizhevsky, Illya Sutskever 的成果。据说,他们使用了 两个 Nvidia 的 GTX 580 CPU (内存 3GB, 计算速度 1.6 TFLOPS), 让程序接受一百二十万个图像训练, 花了接近六天时间。


搜索热度的指数级增长


“深度学习”在2012年开始崭露头角。下图是 Google Trends 中“Deep Learning”的搜索趋势。




深度学习在近两年来已经成为名副其实的热词。


学术会议上深度学习影响力的指数级增长


现实表明,学术研究领域确实迎来爆发式增长



图:NIPS 增长趋势


2016 年,作为学界顶级盛会的 NIPS 共收到投稿超过 2500 篇,最终接收了 568 篇——保守估计接收率 22.7%。这个论文接收率并不算那么低(相较其他顶会)。


再看参会人数及其近年来的增长趋势(上图右),2016参会人数已经超过了5000人——尤其是近两年,用“直线上升”形容毫不夸张。


CVPR 是计算机视觉领域的国际顶级会议。下面是 CVPR 的增长趋势图:



图:CVPR 参会人数趋势


新智元在此前的报道曾统计过,本届会议共收到论文 2145 篇,创下历史记录(有效 1865 篇)。会议接收论文 643 篇(接收率 29.9%)。


2016 CVPR 会议接收的论文里,发表的论文中有 80% 到 90%,口头报告更是接近 100% 都来自深度学习领域。


深度学习技术在企业内部应用的指数级增长


以上能显示深度学习理论的增长趋势。但只有理论吗?让我们看看 Google 内部对深度学习技术的使用情况。



图:Google 使用深度学习的趋势


从上图可以看到,2014年到2015年间,谷歌内部对深度学习技术的使用呈直线上升趋势。应用领域包括:APP、地图、照片、邮箱、语音、安卓、Youtube、翻译、机器人研究、图像理解、自然语言理解、毒品探测。


谷歌大脑负责人Jeff Dean 在接受《福布斯》的采访时曾提到,2011年到2012年间,公司使用深度神经网络技术的团队只有十几组,现在已经超过200多组,有上千人在训练这类的模型,使用的就是谷歌大脑团队搭建的软件。


他说:“5年前,当我们第一次开始组建机器学习研究组,调查使用大量的计算和深度卷积网络处理问题的情况,当时公司里还没有多少人在使用这种方法。后来,我们发现少数看起来可以有效应用的几个地方,其中包括语音识别系统,所以我们跟语音识别团队的同事紧密合作,把深度神经网络加入到语音识别系统中去,从而在识别精准度上获得了显著的提升。然后,我们又与几个计算机视觉相关的团队合作,比如图像识别和一些街景团队,其中包括,用图像中的原始像素去训练模型做一些有意思的事情,从图像中提取文本或者理解图像(是美洲豹,垃圾车或是别的什么东西)。


有趣的是,随着时间的过去,更多的团队开始采用这些方法,因为他们会听到别的团队说在尝试一些别的东西,并且获得了好的结果。不然就是,我们可以把他们与这些团队联系起来,或者我们可以提供一些在他们特定的问题语境下如何使用这些方法的建议。后来,我们把这些都正规化,所以现在我们就有了一个团队来做这些扩展工作。首先是联系想要在产品中用到这些机器学习模型的团队,他们会描述自己遇到的难题,一般情况下,我们团队会说:“这似乎跟其他团队所遇到的难题很像,我们的解决方案很有用,试试看我们的方案,然后给我们反馈”。


深度学习人才需求的指数级增长




从2015年开始,市场对深度学习人才的需求直线上涨,2016年下半年开始更是以超大幅度上涨。另外,2015年开始,我们也看到了大量的学术界顶尖人才流向产业界。



深度学习投资上的指数级增长




图:最近几年对AI技术企业的投资逐年增长



2016年二季度期间,融资交易量最多的地区是美国,共发生47起交易,融资额合计5.245亿美金。

 

除美国以外,全球有15个国家和地区在2016年二季度发生了AI相关领域创业公司的股权投融资活动,包括中国(及香港)、印度、瑞典、乌克兰、法国和加拿大等。


其中加拿大、英国、以色列、德国的AI领域投资相对较为活跃,尤其值得注意的几笔交易是:在加拿大,GE Ventures两次参与了BitStew Systems的C轮融资,该创业公司主要做工业物联网(IIoT)的数据分析平台;在英国伦敦,Lerer Hippeau Ventures,Bloomberg Beta和Salesforce Ventures参与了DigitalGenius的种子轮融资,该创业公司主要为客服领域提供AI解决方案;在以色列,阿里巴巴集团投资了电商搜索发现创业公司Twiggle的A轮融资,而包括Khosla Ventures和Marc Benioff在内的投资机构则支持了医疗创业公司Zebra Medical Vision的B轮融资;在德国,New Enterprise Associates参与了Konux的A轮融资,该创业公司面向产业界提供基于AI技术的传感器解决方案。


大公司收购的指数级增长


人工智能企业并购历史



2016年,每一个季度,都有至少10起关于人工智能的并购发生。这一指数级的增长趋势从2014年开始,目前没有任何下降的趋势。


2016年内在AI领域发生了一些非常高调的收购案,包括6月份公开的推特(Twitter)花费1.5亿美金收购Magic Pony Technology,后者是一家专注视觉处理(visual processing)相关的机器学习(machine learning)算法技术公司。英特尔于今年8月以超过4以美元的金额收购 Nervana 等等。


其中,2016也成为英特尔向人工智能和深度学习发力的转型之年,英特尔副总裁 Jason Waxman 在接受 Recode 采访时表示,向人工智能转型可能会有损英特尔向云计算进军的努力。但 Waxman 也强调了机器学习的重要性,他表示在英特尔从一个用户控制大量连网设备到世界向一个数十亿件设备都相互连并相互对话的世界转型之际,机器学习非常重要。


大众在投资的指数级增长




人工智能特别是深度学习的发展,极大地推动了英伟达的股价的上涨。从2015年开始,英伟达的股价一直都高于纳斯达克平均水平。


最新资料显示, 英伟达了2016年第三财季财报报告当季公司营收实现大幅增长,远超市场预期。财报公布后,英伟达股价大涨近30%至87.97美元,创历史新高。英伟达股价自2015年9月以来持续走高,涨幅已超过三倍多。


今年8月,CEO黄仁勋在投资人会议上强调,深度学习是英伟达十分重要的增长动力,也是公司一直持续大力投资的领域,“过去5年来,我们一直默默投资深度学习,因为我们相信深度学习未来对整个软件产业、整个计算机产业都有着深远的影响,我们把一切都赌在了深度学习上”。


黄仁勋还指出,英伟达数据中心业务,大约有一半都是深度学习系统,这也是得益于公司在深度学习芯片方面的大力投入。


深度学习是 AI 的主要驱动力吗?





上图是在“Google Trend” 中分别查询人工智能和深度学习在过去5年的搜索趋势,蓝色是“深度学习”,红色是“人工智能”。“深度学习”在总量上要少于“人工智能”,但是增长趋势非常明显,最近更是越来越接近。并且,从增长的趋势来看,深度学习增长非常明显。


最后是最重要的一个趋势




人工智能的“智力”水平不断增长,未来或许会超越人类,甚至是高智商的人类水平,但是,目前看来,人工智能的智力水平程度也还只比蚂蚁好一些。(图来自Wait Buy Why)。


文章转自新智元公众号,原文链接

相关文章
|
开发工具 git
Stylelint——Unexpected unknown pseudo-class selector ":deep" selector-pseudo-class-no-unknown
新项目制定规范接入了stylelint,并通过husky在git提交时去触发检测修复,使用`:deep()`的时候却发现了报错;
469 1
|
机器学习/深度学习 自然语言处理 算法
深度学习基础知识:介绍深度学习的发展历程、基本概念和主要应用
深度学习基础知识:介绍深度学习的发展历程、基本概念和主要应用
6985 0
|
XML 前端开发 Java
Spring Boot中怎么使用BPMN
在Spring Boot中集成BPMN工作流,如Camunda,能实现业务流程自动化。以请假流程为例,步骤包括:创建Spring Boot项目并添加Camunda依赖;使用Camunda Modeler设计请假流程,涵盖提交申请、经理审批、HR记录及流程完成阶段;保存BPMN文件至`src/main/resources`目录,以便Camunda自动部署;实现流程逻辑,如通过REST API启动流程实例,并传递请假请求数据。整个过程展示了BPMN流程从设计到部署的完整周期,使业务流程自动化变得高效且直接。 **注意:**摘要已压缩至240字符内,部分内容被省略。
1003 2
Spring Boot中怎么使用BPMN
|
Linux C语言 C++
vsCode远程执行c和c++代码并操控linux服务器完整教程
这篇文章提供了一个完整的教程,介绍如何在Visual Studio Code中配置和使用插件来远程执行C和C++代码,并操控Linux服务器,包括安装VSCode、安装插件、配置插件、配置编译工具、升级glibc和编写代码进行调试的步骤。
2508 0
vsCode远程执行c和c++代码并操控linux服务器完整教程
|
存储
数据结构学习记录——什么是堆(优先队列、堆的概念、最大堆最小堆、优先队列的完全二叉树表示、堆的特性、堆的抽象数据类型描述)
数据结构学习记录——什么是堆(优先队列、堆的概念、最大堆最小堆、优先队列的完全二叉树表示、堆的特性、堆的抽象数据类型描述)
425 2
|
消息中间件 存储 Kafka
深入Kafka:如何保证数据一致性与可靠性?
**Kafka一致性详解:** 讲解了幂等性如何通过ProducerID和SequenceNumber确保消息唯一,防止重复处理,维持数据一致性。Kafka利用Zookeeper进行控制器和分区Leader选举,应对节点变动,防止脑裂,确保高可用性。实例中,电商平台用Kafka处理订单,保证每个订单仅处理一次,即使在异常情况下。关注微信公众号“软件求生”获取更多技术内容。
1951 0
|
存储 缓存 网络协议
CDNJS/UNPKG/JSDelivr 太慢用不了,换成这些国内高速镜像
npm cdn, cdnjs, unpkg, jsdelivr, zstatic, zstatic.net, s4.zstatic.net
17186 4
|
监控 安全 Linux
Python怎么修改进程名称
Python怎么修改进程名称
666 0
|
存储 边缘计算 人工智能
边缘计算系统逻辑架构:云、边、端协同,定义及关系
边缘计算系统逻辑架构:云、边、端协同,定义及关系
15955 1
边缘计算系统逻辑架构:云、边、端协同,定义及关系
|
存储 机器学习/深度学习 边缘计算
云边协同与人工智能AI的深度融合(云端训练、边端推理)
在面向物联网、大流量等场景下,为了满足更广连接、更低时延、更好控制等需求,云计算在向一种更加全局化的分布式节点组合形态进阶,边缘计算是其向边缘侧分布式拓展的新触角。
12272 0
下一篇
oss云网关配置