中国人工智能学会通讯——深度学习的迁移模型 一、迁移学习的三大优点-阿里云开发者社区

开发者社区> 行者武松> 正文

中国人工智能学会通讯——深度学习的迁移模型 一、迁移学习的三大优点

简介:
+关注继续查看

一、迁移学习的三大优点

为什么我们做迁移学习?我总结了三条原因。

●小数据。我们生活当中大量遇见的是小数据而不是大数据,当数据很稀疏,看到不同的类别我们还是能在当中做出很靠谱的模型。这并不是空穴来风,而是之前我们有过很多大数据的经验可以去借鉴,站在大数据的巨人肩膀上,所以人工智能大量的应用,迁移学习这种模式是必不可少的。

●可靠性。 即使我们有一个大数据模型,我们也很关心它的可靠性。把一个模型迁移到不同的领域,就会发现它的准确率会大量下降,如何防止这一点,就需要模型本身具有自适应的能力,能够自带迁移能力。

●个性化。整个社会,我们的应用在向一个个性化的方向发展,有了云端,有了各种各样的终端,终端的操作者都是我们个性化的人。那么我们让一个模型、一个服务来适应每个人的特性,迁移学习是必不可少的。

迁移学习的难点在于找出不变量

迁移学习又是很难的。教育学有一个概念叫“学习迁移”。就是说,如果一个学生学到了很靠谱的知识,怎样检测呢,就是看看他有没有能力迁移到未来的场景,再学一门新课他就发现学得容易,但是这种学习迁移能力的传输又非常难。

我们来看看怎样找出不变量。在国内和世界很多地方,驾驶员都是坐在左边,但是去香港,驾驶员就是在右边,很多人不会开车了,就会出现危险。如果用迁移学习教你一招马上可以开,而且很安全,就是找出一个不变量。这个不变量就是司机的位置总是靠路中间最近的,你就保持司机的位置离中线最近就可以了。

找出不变量很难,但是在其他的领域已经大量出现。最近Yann LeCun提出一个问题:机器学习的热力学模型是什么?我的回答是迁移学习,把一个领域里面的知识,也就是“能量”,转化到另外一个领域,这和热力学把两个物质放在一起,然后研究热能量是如何在物质间传播的,是类似的概念。区别是,在我们这里的知识比物理里的能量复杂很多倍。所以这个问题在科学上也有深远意义。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
人人都能做人工智能专家!阿里云发布智能语音自学习平台
7月18日,阿里云正式发布智能语音自学习平台公有云产品,将为用户提供一键式语音智能自助优化方案,使得语音识别优化不再依赖于语音供应商的专家服务,让不懂技术的人员也可以快速提升业务的识别准确率,以满足业务需求。
2001 0
《中国人工智能学会通讯》——8.10 特征学习
本节书摘来自CCAI《中国人工智能学会通讯》一书中的第8章,第8.10节, 更多章节内容可以访问云栖社区“CCAI”公众号查看。
1026 0
Forge:如何管理你的机器学习实验
在开始机器学习实验时,大多数人都会经历几个步骤。首先快速写出模型原型和训练脚本。然而几天之后,代码库变得不规则,并且由于代码间混乱的依赖性和没有固定结构,任何修改都需要花费很多时间。因此,我们队模型进行重构,模型的各个部分被包装成单独的,有意义的对象。
2246 0
《中国人工智能学会通讯》——8.13 强化学习
本节书摘来自CCAI《中国人工智能学会通讯》一书中的第8章,第8.13节, 更多章节内容可以访问云栖社区“CCAI”公众号查看。
1006 0
一张图看懂互联网史上最大规模的公共云迁移案例
6月7日,阿里云与国内领先的云存储企业115科技在2018云栖大会·上海峰会上宣布,已将公司全部数据迁移至阿里云上,总量超过100PB。 至此,双方合力完成了互联网史上规模最大的公共云数据迁移,仅耗时45天,创造了百PB级数据公共云迁移的新纪录,而这都要依托于阿里云推出的全新离线数据迁移方案——闪电立方。
1521 0
+关注
行者武松
杀人者,打虎武松也。
14545
文章
2569
问答
来源圈子
更多
文章排行榜
最热
最新
相关电子书
更多
文娱运维技术
立即下载
《SaaS模式云原生数据仓库应用场景实践》
立即下载
《看见新力量:二》电子书
立即下载