《中国人工智能学会通讯》——4.40 什么是类人概念学习?

简介: 本节书摘来自CCAI《中国人工智能学会通讯》一书中的第4章,第4.40节, 更多章节内容可以访问云栖社区“CCAI”公众号查看。

4.40 什么是类人概念学习?

事实上,在深度学习火热之前,人工神经网络也曾热闹了一番。在 20 世纪 80 年代末期,用于人工神经网络的反向传播算法(也称Back Propagation算法,或者 BP 算法)的发明,也曾掀起了基于统计模型的机器学习热潮。当初人们希望利用 BP 算法可以让一个人工神经网络模型从大量训练样本中学习统计规律,从而对未知事件进行预测。但是实际上 BP 算法距离这个目标还非常遥远,90 年代中后期 BP 热潮就逐渐褪去。但是不管怎样,BP 带来了很多新的思路,并且证明了基于统计的机器学习方法比基于人工规则的系统,确实在很多方面都要先进。Geoffrey Hinton 先生就是在这股冷嘲中继续坚持,最终打开了深度学习的大门。

深度学习真的就像热捧的那样无所不能吗?实际上,并非如此,每次科学进步都会带有两面性,也同时存在着天生的缺陷,因此科学研究总会有很多思想分支,形成诸多学派,而每个学派都会针对某种场景或者问题再次深入分析。这就说明,机器学习也绝非深度学习这个分支领域能够达到人工智能所要求的。特别是在国内一窝蜂热炒深度学习或者 AlphaGO的时候,美国科学界仍然相当冷静。其实,其他学派的进展显然也是非常显著,12 月份《Science》的封面文章就是 Brenden M. Lake 等人撰写的《Human-level concept learning through probabilistic programinduction》。国内通常翻译称为《通过概率规划归纳的人类层次概念学习》,而笔者认为采用“类人概念学习”这个词语显得更加贴切。这篇文章与谷歌在《Nature》发表的封面文章遥相呼应,共同为人工智能的探索提供了思路,但很可惜的是,国内几乎把这篇文章忽略了。

什么是“类人概念学习”?回答这个概念之前,我们先回顾一下深度学习,深度学习基于大数据通过多层网络实现对“抽象概念”的理解,显然数据越多其效果相对就会越好,但是若没有大数据怎么办?何况人类的知识也是一点点积累的,对于人类来说,即便没有积累,没有相应的专业知识,实际上我们也能“照猫画虎”。从这点上来看,以深度学习为核心的人工智能就远远不及人类,因为人类面对陌生环境依然能够通过学习做出适应变化。因此“类人概念学习”首先就要解决深度学习的这种弊端,即不依赖大数据也能进行自我学习,笔者通常定义为“小样本学习”。

“小样本学习”的概念依然是太广了,而且也不是什么太新的概念,这个研究思路比神经网络的出现还要早很多年。笔者所提到的“小样本学习”,核心就是贝叶斯规划学习(Bayesian Program Learning,BPL),为了与深度学习(DeepLearning, DL)相区分,一般称为BPL方法。BPL方法是利用参数的先验分布,由小样本信息求来的后验分布,直接求出总体分布。这种方法使用概率去表示所有形式的不确定性,通过概率规则来实现学习和推理过程。

我们再来回顾一下Brenden M. Lake等人的论文,其中一张图概括了 BPL 方法的流程:图中 parts 部分学到的是提笔 - 落笔的这一段笔画过程,sub-parts 学到的是由于暂停分割开的更小的笔画,这两者结合就生成字符的模板 object template,同时模板还分为attached along 和 attached at start 两种。论文中用来训练的数据除了完整的字符以外,只有具体笔画的样本,总体可提供的数据样本非常少。

BPL方法的目的就是为了解决“看一眼就会写字”的问题,这完完全全只能基于小样本,只需要一个陌生文字系统的字符,BPL 方法就能很快学到精髓把这个文字写出来,甚至还能写出其他类似的文字。而且更为重要的是,这篇论文展现的 BPL 方法还通过了视觉图灵测试。这也得益于 BPL 方法观察到的每个训练样例可以增量地降低或升高某假设的估计概率,而其他算法会在某个假设与任一样例不一致时完全去掉该假设。但是 BPL 方法需要概率的初始知识,当概率预先未知时,可以基于背景知识、预先准备好的数据以及基准分布的假定来估计这些概率。

相关文章
|
机器学习/深度学习 人工智能 算法
普通人怎么学人工智能?这些隐藏学习秘籍大揭秘,生成式人工智能认证(GAI认证)来助力
在人工智能(AI)快速发展的今天,普通人学习AI已成为必然趋势。本文从明确学习目标与路径、利用多元化资源、注重实践应用、关注GAI认证及持续自我提升五个方面,为普通人提供系统化的AI学习指南。通过设定目标、学习编程语言、参与项目实践和获取专业认证,普通人可逐步掌握AI技能,在未来职场中占据优势并开启智能时代新篇章。
1032 11
|
人工智能 算法 安全
深度:善用人工智能推动高等教育学习、教学与治理的深层变革
本文探讨人工智能技术与高等教育深度融合带来的系统性变革,从学习进化、教学革新与治理重构三个维度展开。生成式AI作为技术前沿代表,正通过标准化认证体系(如培生的Generative AI Foundations)提升职场人士、教育者及学生的能力。文章强调批判性思维、高阶认知能力与社交能力的培养,主张教师从经验主导转向数据驱动的教学模式,并提出构建分布式治理结构以适应技术迭代,最终实现人机协同的教育新生态,推动高等教育在智能时代焕发人性光辉。
|
数据采集 人工智能 缓存
深挖“全栈智算”之力 中兴通讯开启AI普惠新纪元
深挖“全栈智算”之力 中兴通讯开启AI普惠新纪元
346 1
|
机器学习/深度学习 人工智能 自然语言处理
2025人工智能职场报告:57.2%的职场人考虑从事AI类职业,生成式人工智能(GAI)认证如何重构职业价值坐标系
人工智能(AI)已成为21世纪最具变革性的力量之一,尤其生成式人工智能(GAI)认证正重构职业价值坐标系。数据显示,57.2%的职场人愿从事AI相关职业,凸显其吸引力。GAI认证不仅提升个人竞争力、拓宽职业道路,还增强职业认同感,助力企业在人才选拔中更精准高效。面对机遇,职场人需明确目标、结合实践、持续学习,以适应快速发展的AI领域,为企业与个人发展奠定坚实基础。
|
机器学习/深度学习 人工智能 自动驾驶
探索人工智能的无限可能:从基础概念到实际应用
【10月更文挑战第35天】在这篇文章中,我们将一起走进人工智能的世界,探索它的无限可能。从基础概念出发,我们将深入理解人工智能的定义、发展历程以及主要技术。然后,我们将通过具体的代码示例,展示如何利用Python和TensorFlow实现一个简单的人工智能模型。最后,我们将探讨人工智能在现实世界中的应用,包括自动驾驶、医疗健康、金融等领域,并思考其未来发展的可能性。让我们一起开启这场人工智能的奇妙之旅吧!
231 1
|
人工智能 搜索推荐 语音技术
人工智能与未来教育:重塑学习方式的双刃剑
在21世纪,人工智能(AI)技术正以前所未有的速度发展,深刻影响着社会的各个方面,其中包括教育领域。本文探讨了AI如何改变传统教育模式,提出其既带来积极影响也伴随着挑战的观点。通过分析具体案例和数据,文章旨在启发读者思考如何在保留人类教师不可替代价值的同时,有效利用AI技术优化教育体验。
|
人工智能 自然语言处理 搜索推荐
人工智能与教育:个性化学习的未来
【10月更文挑战第31天】在科技飞速发展的今天,人工智能(AI)正深刻改变教育领域,尤其是个性化学习的兴起。本文探讨了AI如何通过智能分析、个性化推荐、智能辅导和虚拟现实技术推动个性化学习,分析了其带来的机遇与挑战,并展望了未来的发展前景。
|
机器学习/深度学习 人工智能 自然语言处理
人工智能与未来教育:重塑学习体验
【10月更文挑战第20天】 在21世纪的今天,人工智能(AI)技术正以前所未有的速度改变着我们的生活、工作和学习方式。本文探讨了AI如何深刻影响未来教育的各个方面,从个性化学习路径的设计到智能辅导系统的开发,再到虚拟现实(VR)和增强现实(AR)技术在学习中的应用。通过分析这些变革,我们不仅能够预见一个更加高效、互动和包容的教育未来,而且还能理解这一过程中所面临的挑战和机遇。文章强调了持续创新的重要性,并呼吁教育工作者、技术开发者和政策制定者共同努力,以确保技术进步惠及每一个学习者。
419 2
|
机器学习/深度学习 人工智能 自然语言处理
人工智能在教育中的创新应用:个性化学习的未来
【9月更文挑战第18天】人工智能在教育中的创新应用正在深刻改变着我们的教学方式和学习体验。从个性化学习方案的制定到智能化辅导与反馈,从多元化学习资源的推荐到自动化评分与智能考试系统,AI技术正在为教育领域带来前所未有的变革。面对这一变革,我们需要以开放和批判的态度拥抱它,共同探索AI时代教育的无限可能,为每一个学习者创造更美好的未来。
1109 12
|
数据采集 人工智能 数据可视化
【2023年电工杯竞赛】B题 人工智能对大学生学习影响的评价 数学建模方案和python代码
本文介绍了2023年电工杯竞赛B题的数学建模方案和Python代码实现,详细阐述了如何分析调查问卷数据,建立评价指标体系,构建数学模型评估人工智能对大学生学习的影响,并提供了数据预处理、特征编码、可视化分析等代码示例。
725 0
【2023年电工杯竞赛】B题 人工智能对大学生学习影响的评价 数学建模方案和python代码

热门文章

最新文章