2020 年 AI 和机器学习的重要趋势是什么 ?

简介: 在竞争日益激烈的技术市场中,从高科技初创公司到全球跨国公司都将人工智能视为关键竞争优势。但是,人工智能行业发展如此之快,以至于很难跟踪最新的研究突破和成就,甚至很难应用科学成果来实现业务成果。在 2020 年为了帮助业务制定强大的 AI 策略,本文总结了不同研究领域的最新趋势,包括自然语言处理,对话式 AI,计算机视觉和强化学习。

--------点击屏幕右侧或者屏幕底部“+订阅”,关注我,随时分享机器智能最新行业动态及技术干货----------

4.png

在竞争日益激烈的技术市场中,从高科技初创公司到全球跨国公司都将人工智能视为关键竞争优势。

但是,人工智能行业发展如此之快,以至于很难跟踪最新的研究突破和成就,甚至很难应用科学成果来实现业务成果。在 2020 年为了帮助业务制定强大的 AI 策略,本文总结了不同研究领域的最新趋势,包括自然语言处理,对话式 AI,计算机视觉和强化学习。

自然语言处理

在 2018 年,经过预训练的语言模型突破了自然语言理解和生成的极限。这些也主导了去年自然语言处理的进展。

如果是 NLP 开发的新手,那么经过预先训练的语言模型可以使 NLP 的实际应用大大便捷,更快,更容易,因为它们允许在一个大型数据集上进行 NLP 模型的预先训练,然后快速对其进行微调以适应其他 NLP 任务。

来自优秀研究机构和科技公司的团队探索了使比较先进的语言模型更加复杂的方法。计算能力的大幅度提高推动了许多改进,但是许多研究小组还发现了更精巧的方法来减轻模型并保持高性能。

目前的研究趋势如下:

  • 新的 NLP 范例是"预训练+微调"。
    在过去的两年中,转移学习主导了 NLP 研究。ULMFiT,CoVe,ELMo,OpenAI GPT,BERT,OpenAI GPT-2,XLNet,RoBERTa,ALBERT –这是最近介绍的重要的预训练语言模型的详尽列表。尽管转移学习无疑将 NLP 推向了新的高度,但由于要求大量的计算成本和庞大的带注释数据集所以它经常会受到批评。
  • 语言学和知识可能会提高 NLP 模型的性能。
    专家认为,语言学可以通过改善数据驱动方法的可解释性来促进深度学习。利用上下文和人类知识可以进一步提高 NLP 系统的性能。
  • 神经机器翻译展示了可见的进步。
    同步机器翻译已经可以在现实世界中应用。最近的研究旨在突破通过优化神经网络体系结构,利用视觉上下文以及为无监督和半监督机器翻译引入新颖的方法来进一步提高翻译质量。

对话式 AI

会话式 AI 已成为跨行业业务实践的组成部分。越来越多的公司正在利用聊天机器人为客户服务,为销售和营销带来的优势。

即使聊天机器人已成为领先企业的"必备"资产,但其性能仍然与人类相去甚远。来自主要研究机构和技术领导者的研究人员已经探索了提高对话系统性能的方法:

  • 对话系统正在改进跟踪对话的长期性。
    去年发表的许多研究论文的目标是,通过更好地利用对话历史和上下文,提高系统理解对话过程中引入的复杂关系的能力。
  • 许多研究团队正在解决机器生成响应的多样性。
    当前,现实世界中的聊天机器人通常会产生无聊且重复的响应。去年,引入了几篇优秀的研究 论文,旨在产生多样化而又相关的回应。
  • 情感识别被视为开放域聊天机器人的重要功能。
    因此,研究人员正在研究将同理心纳入对话系统的优秀方法。该研究领域的成就仍然很小,但是在情感识别方面的巨大进步可以显着提高社交机器人的性能和受欢迎程度,并且还可以增加聊天机器人在心理治疗中的使用。

计算机视觉

在过去的几年中,计算机视觉(CV)系统通过在医疗保健,安全,运输,零售,银行,农业等领域的成功应用,彻底改变了整个行业和业务功能。

最近引入的体系结构和方法(例如 EfficientNet 和 SinGAN)进一步提高了视觉系统的感知能力和生成能力。

以下是计算机视觉中流行的研究主题:

  • 3D 目前是 CV 领域的领先研究领域之一。
    今年,我们看到了几篇有趣的研究论文,旨在从 2D 投影重建 3D 世界。Google 研究小组采用了一种新颖的方法来生成整个自然场景的深度图。Facebook AI 团队提出了一种有趣的点云 3D 对象检测解决方案。
  • 无监督学习方法的普及正在增长。
    例如,斯坦福大学的一个研究小组介绍了一种有前途的局部聚合方法,可以在无监督学习的情况下进行对象检测和识别。在另一篇出色的论文中,该论文获得了 ICCV 2019 优秀论文奖的提名,该论文采用无监督学习来计算 3D 形状之间的对应关系。
  • 计算机视觉研究已与 NLP 成功结合。
    最新的研究进展使自然语言中的两个图像之间具有强大的更改字幕, 3D 环境中的视觉语言导航以及学习分层视觉语言表示的能力,从而可以更好地检索图像字幕和视觉基础。

强化学习

强化学习(RL)对于业务应用程序而言,其价值仍然比有监督的学习甚至无监督的学习低。它仅在可生成大量模拟数据的区域(例如机器人技术和游戏)中成功应用。

但是,许多专家认为 RL 是通向人工智能(AGI)或真正智能的有前途的途径。因此,来自优秀机构和技术领导者的研究团队正在寻找使 RL 算法更加高效和稳定的方法。强化学习中的热门研究主题包括:

  • 多主体强化学习(MARL)正在迅速发展。
    OpenAI 团队最近展示了模拟捉迷藏环境中的代理如何建立研究人员不知道其环境支持的策略。另一篇出色的论文在 ICML 2019 上获得了荣誉奖,以调查如果有相应的动机,多个代理如何相互影响。
  • 非政策评估和非政策学习对于未来的RL应用非常重要。
    该研究领域的最新突破包括在多种约束下用于处理策略学习的新解决方案,将参数模型和非参数模型相结合以及引入了一类新的非策略算法来迫使代理人采取接近策略的方式。
  • 勘探是可以取得重大进展的领域。
    在 ICML 2019 上发表的论文介绍了具有分布 RL,最大熵探索和安全条件的新型有效探索方法,以应对强化学习中的桥梁效应。

这是有关 NLP,对话式 AI,计算机视觉和强化学习等比较受欢迎的子主题---新 AI 和机器学习研究趋势的概述 ,其中很多都对对业务都有影响。

预计 2020 年应用人工智能领域将有更多突破,这些突破将基于 2019 年在机器学习方面取得的显着技术进步。

image.png

原文链接:https://mp.weixin.qq.com/s/PUWpMuZxMtZnin2eX7tLFg

目录
相关文章
|
1月前
|
机器学习/深度学习 人工智能 算法
AI加速引擎PAI-TorchAcc:OLMo训练加速最佳实践
阿里云机器学习平台PAI开发的Pytorch训练加速框架PAI-TorchAcc已接入最新开源的大语言模型 OLMo。在保证模型效果和易用性的前提下,PAI-TorchAcc相对 PyTorch 性能在 OLMo 1B 上加速比达到 1.64X,在 OLMo 7B 上加速比达到 1.52X。本文分析了 PAI-TorchAcc 的性能收益来源。
|
3月前
|
机器学习/深度学习 人工智能 算法
展望2024: 中国AI算力能否引爆高性能计算和大模型训练的新革命?
2023年是人工智能发展的重要转折年,企业正在从业务数字化迈向业务智能化。大模型的突破和生成式人工智能的兴起为企业实现产品和流程的革新提供了先进工具,引领产业迈入智能创新的新阶段。在这个新时代,企业不再仅关注如何增强智能化能力,而更加注重如何利用人工智能实现产品和流程的革新。
|
18天前
|
机器学习/深度学习 人工智能 运维
【人工智能技术专题】「入门到精通系列教程」打好AI基础带你进军人工智能领域的全流程技术体系(机器学习知识导论)(二)
【人工智能技术专题】「入门到精通系列教程」打好AI基础带你进军人工智能领域的全流程技术体系(机器学习知识导论)
51 1
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
【人工智能技术专题】「入门到精通系列教程」打好AI基础带你进军人工智能领域的全流程技术体系(机器学习知识导论)(一)
【人工智能技术专题】「入门到精通系列教程」打好AI基础带你进军人工智能领域的全流程技术体系(机器学习知识导论)
54 1
|
4天前
|
机器学习/深度学习 人工智能 自然语言处理
|
21天前
|
机器学习/深度学习 人工智能 自然语言处理
大模型落地实战指南:从选择到训练,深度解析显卡选型、模型训练技、模型选择巧及AI未来展望---打造AI应用新篇章
大模型落地实战指南:从选择到训练,深度解析显卡选型、模型训练技、模型选择巧及AI未来展望---打造AI应用新篇章
大模型落地实战指南:从选择到训练,深度解析显卡选型、模型训练技、模型选择巧及AI未来展望---打造AI应用新篇章
|
1月前
|
人工智能 前端开发 PyTorch
AI加速引擎PAI-TorchAcc:整体介绍与性能概述
PAI-TorchAcc(Torch Accelerator)是阿里云人工智能平台PAI开发的Pytorch上的大模型训练加速框架。PAI-TorchAcc提供了一套基于Pytorch的简洁、易用的接口,无需进行模型转换就可以无缝地接入HuggingFace上的模型,并用多种分布式策略进行训练加速。本文详细介绍PAI-TorchAcc的产品能力与性能。
|
3月前
|
机器学习/深度学习 数据采集 人工智能
【AI for Science】量子化学:分子属性预测-第1次打卡-机器学习baseline
【AI for Science】量子化学:分子属性预测-第1次打卡-机器学习baseline
|
3月前
|
人工智能 机器人 云计算
揭秘AI新趋势:PAI-DSW与LangChain的完美结合——打造知识问答机器人的全新体验
在这个日新月异的科技时代,人工智能的发展正在不断改变我们的生活和工作方式。阿里云作为国内领先的云计算平台,始终站在技术前沿,引领着AI技术的创新和应用。今天,我们将为您揭开一个全新的AI应用场景——使用PAI-DSW搭建基于LangChain的检索知识库问答机器人。
152 2
|
4月前
|
机器学习/深度学习 人工智能 算法
AI特征分析和机器学习有什么区别
AI特征分析和机器学习有什么区别

热门文章

最新文章