一周AI论文 | FB发布商业化图像识别系统,多任务学习还能这样用

本文涉及的产品
图像搜索,7款服务类型 1个月
简介: 一周AI论文 | FB发布商业化图像识别系统,多任务学习还能这样用

呜啦啦啦啦啦啦啦大家好,本周的AI Scholar Weekly栏目又和大家见面啦!

AI ScholarWeekly是AI领域的学术专栏,致力于为你带来最新潮、最全面、最深度的AI学术概览,一网打尽每周AI学术的前沿资讯。

每周更新,做AI科研,每周从这一篇开始就够啦!

本周关键词:计算机视觉、强化学习、NLI基准数据集

本周最佳学术研究

统一的计算机视觉模型中继和商业嵌入

在本文中,Facebook研究人员介绍了一种已商业化的图像识别系统GrokNet,它利用多任务学习方法来训练单个计算机视觉中继。

与此前最先进的Facebook产品识别系统相比,该系统在精确的产品匹配准确度方面提高了2.1倍。研究人员使用80个多分类损失函数和3个嵌入损失函数,在跨多个垂直行业的7个数据集上对该系统进行了训练。

此外,研究人员还分享了他们合并不同来源的广泛标签语义和图像统计信息的经验,包括从人工注释、用户生成标签以及嘈杂的搜索引擎交互数据中学习等。GrokNet已展示出在生产应用中的收益,并在全Facebook范围内运营。

原文:
https://scontent.fnbo10-1.fna.fbcdn.net/v/t39.8562-6/99353320_565175057533429_3886205100842024960_n.pdf?_nc_cat=110&_nc_sid=ae5e01&_nc_eui2=AeE9yczGL2fQu7hI63j5N9JkGJXM2UeHCFkYlczZR4cIWZeNJCkxO3DCo_SXRQWlEFw&_nc_ohc=TEpZ9hHEe8MAX8JRlp2&_nc_ht=scontent.fnbo10-1.fna&oh=705ea8b2efbaa816bf427c6929103c46&oe=5F26CCF8

用于序列建模的快速可扩展工具包

本文介绍了一种快速且可扩展的工具包FAIRSEQ,它可用于序列建模,也可延伸到多种应用。它是开源的,允许研究人员和开发人员训练定制模型来进行翻译、摘要、语言建模和其他文本生成任务等。

FAIRSEQ基于PyTorch,支持跨多个GPU和多台机器的分布式训练,同时还支持在现代GPU上进行快速混合精度训练和推断。研究人员表明,他们将继续开发该工具包来为相关领域的研究进展助力。

视频:
https://www.youtube.com/watch?v=OtgDdWtHvto&fbclid=IwAR39fEIMOnZejKDHWiNY1iwuKxNOoul3dwg35V5TPgXbBHfnZi0KfyzUksU

原文:
https://scontent.fnbo10-1.fna.fbcdn.net/v/t39.8562-6/83051144_1038597923140515_8256016209179312128_n.pdf?_nc_cat=101&_nc_sid=ae5e01&_nc_eui2=AeFisb47moWp-IVWsG9L4d1epUcjMidpohelRyMyJ2miF768UDPeplEoIDI_hPDx_tI&_nc_ohc=2adsknzxL2gAX8hXTR0&_nc_ht=scontent.fnbo10-1.fna&oh=27c4d6428f92abc4b030a916c35dce11&oe=5F254DB6

转换器(Transformers)即循环神经网络(RNNs):具有线性注意力的快速自回归转换器

本文提出了一种线性转换器,即一种可以显著减少原始转换器内存和计算成本的模型。

研究人员利用矩阵乘积的关联属性,计算出时间和存储上的自注意力,这些自注意力与该模型可以与因果掩码(causal masking)一同使用,并且仍能保持其线性渐近复杂度。

此外,研究人员还将该转换器模型表达为循环神经网络(RNNs),这一特性能将自回归任务的推断速度提高了数千倍。这一特征的发现同时为RNNs和转换器相关的信息存储和检索的研究开辟了众多新的方向。

原文:
https://linear-transformers.com/

如何评估强化学习算法的优劣?

当我们将强化学习(RL)算法应用于实际场景时,拥有可靠的算法来实现高性能表现而又无需专家协助或大量的人工干预就显得至关重要。

为了进一步开发可靠且易于使用的算法,研究人员提出了一种有原则的评估程序来量化使用算法的难易程度。

评估框架提供了一种量化评估RL算法的方法。这种方法通过消除研究环境中常见的意外偏差促进了算法比较时的公平性。通过开发一种在此方法上建立高置信范围的方法,它们提供了比较所需的可靠框架。

他们希望这一实施方案能够使研究人员轻松利用该方法来量化他们的算法性能。

原文:
https://arxiv.org/abs/2006.16958v1

自然语言理解的又一新基准

Facebook AI Research引入了一个新的大规模NLI基准数据集,该数据集是通过迭代的、对抗性的“人与模型循环”程序收集的。他们表明,在这个新数据集上的训练模型可以在各种流行的NLI基准上带来最先进的性能,同时使用新的测试集提出了更加困难的挑战。

他们的分析揭示了当前最新模型的缺点,并表明非专家标注者可以成功地发现其缺点。这样的数据收集方法可以应用在永无止境的学习场景中,成为NLU的动态目标,而不是会很快饱和的静态基准。

原文:
https://scontent.fnbo10-1.fna.fbcdn.net/v/t39.8562-6/106008535_712002762933999_6704813911278641056_n.pdf?_nc_cat=100&_nc_sid=ae5e01&_nc_eui2=AeGQU6B72T8RDkwJ4QkLXjsR3PXrJi4yJRLc9esmLjIlEgjf2LkzO6ZhxWJAweH0dFQ&_nc_ohc=nVz1kCdImBcAX-qNc90&_nc_ht=scontent.fnbo10-1.fna&oh=3aa35fa01a1d4f3ce5254f5f4a382094&oe=5F27302E

其他爆款论文

Google AI:利用上下文R-CNN构建细微处的内容关系以实现对象检测:
https://ai.googleblog.com/2020/06/leveraging-temporal-context-for-object.html

新研究表明,在单个目标图像上训练条件对抗生成器足以执行复杂的图像操作:https://arxiv.org/abs/2007.01289v1

JUMPS:用于增加2D姿态估算中的节点数量并恢复被遮挡或丢失节点的最新方法:https://arxiv.org/abs/2007.01151v1

研究人员重新评估了最近关于 BERT的研究方法:利用BERT改善少数样本的微调,并重新评估其有效性:
https://github.com/asappresearch/revisit-bert-finetuning

一项关于基于模型的强化学习的调查:
https://arxiv.org/abs/2006.16712v1

AI资源

每个ML工程师都需要知道的基本算法:
https://towardsdatascience.com/essential-algorithms-every-ml-engineer-needs-to-know-3167b1e940f

教程:使用Keras、TensorFlow和OpenCV将任何CNN图像分类器转换为对象检测器:
https://www.pyimagesearch.com/2020/06/22/turning-any-cnn-image-classifier-into-an-object-detector-with-keras-tensorflow-and-opencv/

我从200种机器学习工具中学到了什么:
https://huyenchip.com/2020/06/22/mlops.html

Nvidia全新的100美元开发板使探索机器学习变得容易:
https://spectrum.ieee.org/geek-life/hands-on/quickly-embed-ai-into-your-projects-with-nvidias-jetson-nano

AI大事件

Google全新的ML Kit SDK可以在设备上保留所有机器学习信息: https://www.slashgear.com/googles-new-ml-kit-sdk-keeps-all-machine-learning-on-the-device-24626181/

机器人将如何彻底改变医疗保健:
https://www.zdnet.com/article/how-robots-are-revolutionizing-healthcare/

AI求职市场是否有免受歧视的保障:
https://www.analyticsinsight.net/ai-in-hiring-a-safeguard-from-discrimination/

相关文章
|
8天前
|
机器学习/深度学习 人工智能 自然语言处理
Agent Laboratory:AI自动撰写论文,AMD开源自动完成科研全流程的多智能体框架
Agent Laboratory 是由 AMD 和约翰·霍普金斯大学联合推出的自主科研框架,基于大型语言模型,能够加速科学发现、降低成本并提高研究质量。
114 23
Agent Laboratory:AI自动撰写论文,AMD开源自动完成科研全流程的多智能体框架
|
13天前
|
人工智能 自然语言处理 调度
Casevo:开源的社会传播模拟系统,基于 AI 模拟人类认知、决策和社会交互,预测社会传播现象
Casevo 是中国传媒大学推出的开源社会传播模拟系统,结合大语言模型和多智能体技术,支持复杂社会网络建模与动态交互,适用于新闻传播、社会计算等领域。
81 22
Casevo:开源的社会传播模拟系统,基于 AI 模拟人类认知、决策和社会交互,预测社会传播现象
|
8天前
|
人工智能
Scaling Laws终结,量化无用,AI大佬都在审视这篇论文
《Scaling Laws for Precision》论文提出“精度感知”的扩展理论,将精度纳入模型发展的核心考量,弥补了传统AI模型发展理论忽视精度的不足。研究发现低精度训练会降低模型的有效参数计数,影响性能,并预测了低精度训练和后训练量化带来的损失。作者通过大量实验验证了理论的可靠性和有效性,为计算资源有限情况下如何平衡模型规模和精度提供了新思路。然而,该研究也引发了关于精度与性能权衡复杂性的争议。
51 27
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
AigcPanel:开源的 AI 虚拟数字人系统,一键安装开箱即用,支持视频合成、声音合成和声音克隆
AigcPanel 是一款开源的 AI 虚拟数字人系统,支持视频合成、声音克隆等功能,适用于影视制作、虚拟主播、教育培训等多种场景。
168 12
AigcPanel:开源的 AI 虚拟数字人系统,一键安装开箱即用,支持视频合成、声音合成和声音克隆
|
4天前
|
人工智能 自然语言处理 数据可视化
校企合作|TsingtaoAI携手潍坊学院,共建AI驱动的党建信息化系统
TsingtaoAI与潍坊学院近日达成合作,正式签署《人工智能党建信息化系统开发》技术开发合同,计划在未来两年内联合开发一套集党员教育、党务管理、党建活动智能化以及数据可视化于一体的智能党建系统。本次合作将充分结合TsingtaoAI在AI大模型领域的技术优势和潍坊学院的学术资源,为推动党建工作的数字化、智能化和高效化注入新的动力。
30 10
|
18天前
|
机器学习/深度学习 人工智能 监控
AI在交通管理系统中的应用
AI在交通管理系统中的应用
72 23
|
1天前
|
机器学习/深度学习 存储 人工智能
AI实践:智能工单系统的技术逻辑与应用
智能工单系统是企业服务管理的核心工具,通过多渠道接入、自然语言处理等技术,实现工单自动生成、分类和分配。它优化了客户服务流程,提高了效率与透明度,减少了运营成本,提升了客户满意度。系统还依托知识库和机器学习,持续改进处理策略,助力企业在竞争中脱颖而出。
14 5
|
19天前
|
人工智能 运维 API
PAI企业级能力升级:应用系统构建、高效资源管理、AI治理
PAI平台针对企业用户在AI应用中的复杂需求,提供了全面的企业级能力。涵盖权限管理、资源分配、任务调度与资产管理等模块,确保高效利用AI资源。通过API和SDK支持定制化开发,满足不同企业的特殊需求。典型案例中,某顶尖高校基于PAI构建了融合AI与HPC的科研计算平台,实现了作业、运营及运维三大中心的高效管理,成功服务于校内外多个场景。
|
1月前
|
机器学习/深度学习 人工智能 算法
【宠物识别系统】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+图像识别
宠物识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了37种常见的猫狗宠物种类数据集【'阿比西尼亚猫(Abyssinian)', '孟加拉猫(Bengal)', '暹罗猫(Birman)', '孟买猫(Bombay)', '英国短毛猫(British Shorthair)', '埃及猫(Egyptian Mau)', '缅因猫(Maine Coon)', '波斯猫(Persian)', '布偶猫(Ragdoll)', '俄罗斯蓝猫(Russian Blue)', '暹罗猫(Siamese)', '斯芬克斯猫(Sphynx)', '美国斗牛犬
193 29
【宠物识别系统】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+图像识别
|
1月前
|
机器学习/深度学习 网络架构 计算机视觉
深度学习在图像识别中的应用与挑战
【10月更文挑战第21天】 本文探讨了深度学习技术在图像识别领域的应用,并分析了当前面临的主要挑战。通过研究卷积神经网络(CNN)的结构和原理,本文展示了深度学习如何提高图像识别的准确性和效率。同时,本文也讨论了数据不平衡、过拟合、计算资源限制等问题,并提出了相应的解决策略。
101 19