【阿里算法专家】深度学习将业界技术迭代提升100倍,GraphDL 应用广阔

简介: IJCAI 2018 现场,阿里妈妈以 Ad Tech 为主题举办了 Workshop,阿里妈妈资深算法专家朱小强、高级算法专家林伟,分享了将深度学习引入工业级展示广告和搜索广告领域的创新与探索。

【新智元导读】IJCAI 2018 现场,阿里妈妈以 Ad Tech 为主题举办了 Workshop,阿里妈妈资深算法专家朱小强、高级算法专家林伟,分享了将深度学习引入工业级展示广告和搜索广告领域的创新与探索。

随着人工智能产学研的不断融合,企业与学术会议之间的合作也更加频繁和多样。此前,新智元曾经报道过,IJCAI国际广告算法大赛,中国团队包揽冠亚季军。这个竞赛实际上就是阿里集团与IJCAI的一个合作项目,阿里通过IJCAI的平台吸引更多人关注阿里,IJCAI则通过阿里的大赛吸引更多人关注和支持IJCAI。

IJCAI(International Joint Conference on Artificial Intelligence)被认为是人工智能领域最顶级的学术会议之一,涵盖机器学习、计算可持续性、图像识别、语音技术、视频技术等,对全球人工智能行业具有巨大影响力。

今年的合作竞赛由阿里妈妈承办。作为阿里巴巴旗下大数据营销平台,阿里妈妈身处于阿里巴巴庞大的交易场景之中,在人工智能领域也早有布局,构建了超大规模的学习模型,每天训练近100T的数据,有上千亿的样本。

IJCAI 2018 现场,阿里妈妈以 Ad Tech 为主题开展了workshop。阿里妈妈资深算法专家朱小强、高级算法专家林伟,以展示广告技术的两个最重要技术模块——Matching和Ranking为例,分享了他们在将深度学习引入工业级展示广告和搜索广告领域所做的创新与探索。

深度学习将业界技术迭代提升10~100倍

朱小强在演讲中表示,展示广告是互联网行业的主要营销模式之一。阿里巴巴有各种不同的展示广告形式,比如横幅、单品、信息流帖子等等。每天有数亿的用户访问阿里的系统,团队需要针对每位用户的个性化兴趣偏好,在几十毫秒内,从数千万广告集合中,寻找最优匹配结果进行展示。

超大规模的数据以及问题的高度非线性,对展示广告技术构成了巨大的挑战。过去两年里,阿里妈妈团队创造性地将深度学习引入到展示广告技术中,自主研发了一系列面向工业级尺度的端到端深度模型,推动了展示广告技术的全面革新,达到了世界领先的水平。

朱小强认为,深度学习给工业界掀起了一场生产力革命。在深度学习时代,模型的设计变成组件化,优化的方法变成标准化,而且设计和优化是解耦的。这些特点驱动了以深度学习为代表的AI技术迅速普及,而且将整个业界的技术迭代速度提升了1-2个数量级。

“过去两三年,深度学习在广告、搜索和推荐等核心工业界场景中野蛮生长,掀起了一股1.0的掘金浪潮;未来,我们判断深度学习将进一步完善为工业级基础设施,迈入2.0的工匠时代,技术的发展将由粗犷颠覆转变为精细化打磨。”

朱小强说:“10多年前,机器学习大规模地被引入到核心工业领域,由此开创了一个技术的黄金发展周期,我们预期深度学习技术会继续引领新的一轮技术增长。”

基于图的深度学习方法有广阔的应用空间

林伟在演讲中表示,搜索广告场景下,传统的观点一直认为匹配(Matching)的主要优化目标是寻找最相关的候选广告集。他们团队重新定义了这个目标,认为在电商场景下,Matching的主要优化目标是寻找相关性满足约束下,最符合业务目标(例如期望收益等)的候选广告集。基于对目标的重新认识,最近几年Matching算法的改进,大幅提升了直通车的营收。

林伟介绍,Matching主要问题可抽象为:1)对用户意图和候选广告之间是否可以建立链接的识别,以及2)对链接强度的预测。

图(Graph)是一种非常适合用来刻画这个问题的结构,基于图的深度学习方法在Matching上拥有广阔的应用空间。

目前,阿里妈妈已经构建了一套支持超大规模异构图表征学习的算法,并在Matching上成功落地。未来,他们将进一步深耕图深度学习(Graph-based Deep Learning)的方法及应用。

如今在淘宝场景中,图像因素越来越重要,用户的行为模式也越来越复杂。对于排序问题(Ranking),传统的一些模型在识别用户意图上存在诸多限制,需要更精巧和更强大的模型来更好地理解用户。阿里妈妈团队分别提出了很好的图像网络和记忆网络设计方法,增加Ranking模型识别用户意图的能力,经过实际测试都取得了不错的效果。

同时,此前在戛纳国际创意节首发的AI智能文案,在IJCAI也再度引发关注。这个产品基于深度神经网络的Sequence2Sequence模型,融合了注意力机制、位置编码、copy机制等,让机器模仿人写文案。

朱小强认为,“技术本身并不复杂和高深,但因为做到了从场景的实际需求出发,用技术和算法来驱动优化,也让技术和算法施展出最大的空间。”

本届 IJCAI 大会首席赞助官、悉尼科技大学杰出教授张成奇,阿里巴巴人工智能实验室研究员聂再清也到场做了分享。

原文发布时间为:2018-07-20
本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”。
原文链接:【阿里算法专家】深度学习将业界技术迭代提升100倍,GraphDL 应用广阔

相关文章
|
1天前
|
机器学习/深度学习 运维 监控
深度学习在图像识别中的应用与挑战
【4月更文挑战第25天】 随着人工智能技术的飞速发展,深度学习已成为推动计算机视觉领域进步的核心动力。本文旨在探讨深度学习技术在图像识别任务中的创新应用及其面临的主要挑战。我们将首先回顾深度学习的基本原理和关键技术,随后通过实际案例分析其在图像分类、目标检测及语义分割等方面的应用效果。最后,文中将讨论当前技术瓶颈,如数据不平衡、模型泛化能力以及计算资源限制等,并提出可能的解决方案。
|
1天前
|
机器学习/深度学习 自动驾驶 算法
探索基于深度学习的图像识别在自动驾驶中的应用
【4月更文挑战第25天】 随着人工智能技术的飞速发展,深度学习已成为推动自动驾驶领域革新的核心力量。本文旨在深入探讨深度学习技术在图像识别领域的最新进展及其在自动驾驶系统中的实际应用。通过分析卷积神经网络(CNN)和递归神经网络(RNN)等先进算法,我们揭示了如何有效提升自动驾驶汽车在复杂环境中的视觉感知能力。文中还将讨论深度学习模型在处理实时数据时所面临的挑战,以及为解决这些挑战而采取的创新方法。
|
2天前
|
机器学习/深度学习 人工智能 算法
揭秘深度学习中的优化算法
【4月更文挑战第24天】 在深度学习的广阔天地中,优化算法扮演着至关重要的角色。本文将深入探讨几种主流的优化算法,包括梯度下降法、随机梯度下降法、Adam等,并分析它们的特点和适用场景。我们将通过理论分析和实例演示,揭示这些优化算法如何帮助模型更高效地学习参数,从而提高模型的性能。
|
2天前
|
机器学习/深度学习 安全 计算机视觉
深度学习在图像识别中的应用与挑战
【4月更文挑战第24天】 随着计算机视觉技术的飞速发展,深度学习已成为推动图像识别领域进步的核心动力。本文旨在探讨深度学习技术在图像识别中的关键应用,并分析当前面临的主要挑战。通过回顾卷积神经网络(CNN)的基础架构及其在图像分类、目标检测和语义分割中的创新应用,文章揭示了深度学习模型如何优化视觉信息处理流程。同时,针对训练数据需求、计算资源限制、模型泛化能力及对抗性攻击等问题,本文提出了一系列解决策略和技术方向,为未来研究提供了参考框架。
6 0
|
2天前
|
机器学习/深度学习 传感器 自动驾驶
基于深度学习的图像识别技术在自动驾驶系统中的应用
【4月更文挑战第24天】 随着人工智能技术的飞速发展,深度学习在图像处理领域取得了显著成果,特别是在自动驾驶系统中的应用。本文首先介绍了深度学习的基本概念和关键技术,然后详细阐述了卷积神经网络(CNN)在图像识别中的优势和应用,最后探讨了深度学习在自动驾驶系统中的挑战和未来发展趋势。
|
2天前
|
机器学习/深度学习 数据采集 自动驾驶
深度学习在图像识别中的应用与挑战
【4月更文挑战第24天】 随着人工智能技术的飞速发展,深度学习已成为推动计算机视觉领域进步的核心动力。本文旨在探讨深度学习在图像识别任务中的关键技术、应用实例以及面临的主要挑战。我们将从卷积神经网络(CNN)的基本原理出发,剖析其在图像分类、目标检测和语义分割等方面的具体应用,并讨论数据增强、模型泛化及对抗性攻击等现实问题对深度学习模型性能的影响。通过综合分析和案例研究,本文为读者提供了一个关于深度学习在图像识别领域应用现状和未来趋势的全面视角。
|
2天前
|
机器学习/深度学习 算法 自动驾驶
深度学习在图像识别中的应用与挑战
【4月更文挑战第24天】 随着人工智能技术的飞速发展,深度学习已成为推动计算机视觉进步的重要力量。本文将深入探讨深度学习技术在图像识别领域的应用现状,分析其面临的主要挑战,并提出未来可能的发展方向。我们将从卷积神经网络(CNN)的基础结构出发,逐步剖析其在图像分类、目标检测及语义分割等任务中的实际应用,并讨论数据增强、迁移学习等优化策略。此外,文章还将针对计算资源需求高、模型泛化能力以及对抗性攻击等问题进行详细论述。
|
1月前
|
传感器 算法 计算机视觉
基于肤色模型和中值滤波的手部检测算法FPGA实现,包括tb测试文件和MATLAB辅助验证
该内容是关于一个基于肤色模型和中值滤波的手部检测算法的描述,包括算法的运行效果图和所使用的软件版本(matlab2022a, vivado2019.2)。算法分为肤色分割和中值滤波两步,其中肤色模型在YCbCr色彩空间定义,中值滤波用于去除噪声。提供了一段核心程序代码,用于处理图像数据并在FPGA上实现。最终,检测结果输出到"hand.txt"文件。
|
1月前
|
机器学习/深度学习 算法 计算机视觉
基于yolov2深度学习网络的视频手部检测算法matlab仿真
基于yolov2深度学习网络的视频手部检测算法matlab仿真
|
1月前
|
算法
【MATLAB】语音信号识别与处理:移动中位数滤波算法去噪及谱相减算法呈现频谱
【MATLAB】语音信号识别与处理:移动中位数滤波算法去噪及谱相减算法呈现频谱
23 2