日均调用量超13亿次,阿里达摩院研发全球首个实时翻译直播

简介: 近几年来,直播电商到处开花,但绝大多数都是国内的中文直播。如果想买外国电商主播推荐的商品,语言不通怎么办?这一难题已被阿里巴巴(下称 “阿里”)攻克,阿里速卖通是面向全球海外消费者设立的电商平台,它和淘宝一样,也面向所有终端消费者,但区别是速卖通是面向全球 200 多个国家和地区的电商平台。

2020阿里巴巴双11技术专题精彩内容持续更新中戳我前往
图片无法显

近几年来,直播电商到处开花,但绝大多数都是国内的中文直播。如果想买外国电商主播推荐的商品,语言不通怎么办?

这一难题已被阿里巴巴(下称 “阿里”)攻克,阿里速卖通是面向全球海外消费者设立的电商平台,它和淘宝一样,也面向所有终端消费者,但区别是速卖通是面向全球 200 多个国家和地区的电商平台。

直播电商动辄 “几亿元带货” 的高歌猛进,也让跨境电商卖家对这一模式心动不已。然而,由于不同国家和地区的语言不同、文化不同、消费习惯也不同,所以要想在速卖通做直播,语言、物流、支付和技术都是非常复杂的系统,其中语言是最急需攻克的难题。

而在近日,阿里达摩院联合速卖通推出 AI 实时翻译直播,可同时进行中文到英、俄、西三种语向的翻译。据悉,这是全球首个启用 AI 实时翻译的电商直播,中国商家只需用中文一键开播,就能同时覆盖全球英语、西班牙语、俄语区的逾十亿人口。

20201116205519.jpg

“被迫” 研发的翻译引擎

两年前,速卖通开始探索直播,然而不同于淘宝直播的是,高峰期涌到直播间的用户来自 19 个国家,且说着不同的语言。当时,没有多元实时翻译,要么全部用英文直播,要么面向某一语言地区的用户专门用某种语言直播,比如法语或西班牙语。

据速卖通官方直播负责人陆嬿介绍,大部分实力雄厚的商家会请外国主播,而中小商家要么放弃,要么无声直播或用中式英语(Chinglish)尬播。数据显示,速卖通上近九成商家来自中国,而 82% 的中国商家因为语言困难而放弃跨境直播。

相比淘宝直播,速卖通直播更像一个婴儿,她需要强大的 “营养” 才能快速成长。这个营养就是能实现多译多功能的实时翻译工具。

20201116205534.jpg

在研发多译多之前,速卖通曾试用过现成的翻译引擎,但对直播间的翻译输出脚本来说,即便是质量最好的翻译引擎,其翻译结果也不合格。当时,还有俄罗斯和西班牙用户受邀参与评测,他们的评价也是完全听不懂。

速卖通研究后发现,这些翻译引擎之所以无法使用海外直播,其一是常规同传有专业的收音设备来保障翻译准确度。但是电商直播的环境很嘈杂,很多商家直接在档口就开始播,这样就难以保证较好的收音。

其二常规的同传词库是固定的,翻译工具得到有效训练后就能保证准确度。但是电商直播商品数量过亿,且每天都在变,根本没有办法让翻译工具快速学习。而且主播每个人都来自不同地方,有的说话还带有方言。并且有些主播语速很快,这都会极大地增加翻译难度。以上原因使得速卖通不得不自研引擎。

没有训练集,商家自己 “造”

随后,速卖通耗时 7 个月开发出中译英引擎,并于 2020 年 5 月份上线。上线后商家开播率已有 65%,今年 “828 大促” 期间线上 90% 的直播间都使用了该功能。

但仍存在不足,即使中译英能力做到极限,直播间里只有 30% 的用户能听得懂主播说的话,因为 AE 是一个跨全球平台,直播间里各种用户都有,英语用户最高比例是 30%,因此亟需推出中译多的功能。

两个月后,中译多功能完成,上线之后用户体验得到较高提升,部分店铺销量随之增加 3 倍。当时,很多商家直播间的购买转化,比达人直播的转化率还高。一些直播达人和海外商家发现后,也要求使用中译多功能,可是很多商家不说中文,为此速卖通增加了多译多功能,并于今年 7 月上线。

研发过程中也有很多困难。第一是跨团队协作,研发团队分布在美国、中国、新加坡三个国家。另外,60 多位研发人员几乎从未见过面,如何让他们快速建立信任、并快速推下去是一大难题。

第二是训练集的收集。跨境直播业务在全球都很少见,市面上没有现存训练集可以直接复用。好在阿里本身拥有较强的商家生态,很多商家都积极帮忙收集训练集。

第三是并发承载点。如果只做一场翻译,根本不会有压力。但是直播每天有上千场,翻译几国语言,这就需要几千个翻译,因此服务器的并发压力非常大。后来,阿里云对此做了改造,使得服务器得以承载得住。

第四个难题是自动化展示。多译多功能可自动识别用户种类,并展示出相应的语言,比如它能识别你是中国人,从而用中文展示主播说的话。之前大家看到同传效果都是在 PC 端上面,但是移动端很复杂,为此研发人员在其中做了不少自适应的工作。

20201116205545.jpg

自研更高效算法模型,可 “听懂” 主播口音

达摩院研发的统一多语言多领域融合模型,可把上百个语言,以及每个语言的多个领域压缩到一个神经网络模型中进行翻译,且翻译质量不变。据达摩院骆卫华介绍,达摩院 AI 翻译技术已创下多项业界第一,日均调用量超过 13 亿次,累计 3000 亿单词,可提供 214 种语言的高质量翻译。

据速卖通直播实时翻译产品负责人赵文倩介绍,速卖通上有上亿件商品、数百亿个商品相关的专业名词,对直播实时翻译技术的要求极高,需要克服口音不标准、直播环境复杂、商品专业名词多、新品新词更迭快等问题。

主要负责该难题的是阿里达摩院自然语言处理实验室的研究员樊楷,他表示为解决 AI 听不清、听不懂的问题,达摩院研发出更高效的语音算法模型,它不仅能在嘈杂环境中 “听清” 直播内容,还能 “听懂” 主播的口音。通过将多领域的知识融入翻译模型,该算法模型还能举一反三,无需重新训练便能快速学习不同场景里不断更迭的专业名词。

现在,速卖通平台支持 18 种语言,可以保证设计出来的频道和商品定位,能够符合当地文化,这种 “入乡随俗” 主要体现在以下三方面。

心有灵犀。速卖通上有大量多元的商品,除了给它们做分类,还得容易被搜到。因此平台得根据用户输入的词,马上就能获悉他的搜索目的。在多语言混合下,这种挑战会更大。以 “Case” 为例,它具有箱子和案子的双重意思,用户输入该词语时,到底想买什么,就需要结合具体情景。此外,同样的词在不同语言里的意思也不同,例如 “Basket” 在英语里有 “篮子” 的意思,在法语里还有 “球鞋” 的意思。

可面对数以亿计的商品搜索,全程由人工解决会很慢。为此,速卖通采用人工智能来解决,当然人工智能的初步训练是由算法工程师来解决。训练结束后,速卖通最终可做到无论用户输入什么,都能根据他前后搜索的词语,来知晓其购买意图。

了如指掌。速卖通希望用户能对商品了如指掌,因此商品标题需要承载很多内容。比如,这个商品是什么?怎么找到?为什么买?但是一些商家的标题,有的没有标点符号,标题手法上也没有特别规则。这一问题也可被人工智能解决,它会给标题加上标点符号,并可整理成当地用户熟悉的表达方式。

深信不疑。速卖通是跨境平台,很多商家位于海外,商品需要飘洋过海才能到用户手中。所以,用户对平台信用、商家信用和商品质量都有很高要求。而购买前想知道商品到底好不好?就只能通过用户评价去了解。但是用户评价非常多,涉及的语言种类也非常多。另外,用户会用各种不规范的语言来评价,比如 “Very gooooood” 这样的短语,有的评价还会用到表情符号。而采用 “多到多” 翻译引擎,上述问题也可得到解决。

由于疫情原因,2020 年很多此前从未涉足直播的商家,如中国山区的果农也开始直播卖货。有了速卖通,无论是江西赣南的脐橙、还是河北枣强的貂皮都可以走向全球各地。同样,中国用户也可以买到此前只有靠代购才能买到的产品。科技惠及的从来不只是某一个国家的用户,而是全世界。

本文转载自: DeepTech深科技

更多精彩戳我前往2020阿里巴巴双11技术专题
图片无法显

相关文章
|
11月前
|
机器学习/深度学习 人工智能 自然语言处理
百万中小商家用AI翻译,让国货出海
百万中小商家用AI翻译,让国货出海
111 0
|
编解码 缓存 算法
Ali266首次商用落地,助力优酷码率最高节省40%
已知的业界首个H.266/VVC标准的编码器商用落地项目
891 0
Ali266首次商用落地,助力优酷码率最高节省40%
|
存储 SQL Cloud Native
双11特刊 | 迎难而上,支撑350亿次在线查询的数据仓库是怎样炼成的?
阿里云数据库已连续多年稳定支撑天猫双11,历经极端流量场景淬炼。除了保障稳定顺滑的基本盘,今年大促期间数据库通过全面云原生化,大幅提升用户体验,让技术帮助业务产生更有价值的消费者体验,持续通过技术创新赋能用户,引领技术发展路径。 双11已圆满落幕,但技术的探索,仍未止步。 “阿里云数据库” 公众号特此推出《好科技的新起点——2021双11阿里云数据库技术揭秘》系列干货文章,为你讲述年度“技术大考”背后的故事,敬请关注!
524 1
双11特刊 | 迎难而上,支撑350亿次在线查询的数据仓库是怎样炼成的?
|
Web App开发 人工智能 IDE
月活百万,年增长1000%,AI编码神器Codota获1600万美元融资
还在为代码编写效率低下担忧?AI驱动的Codota来帮你!以色列初创公司Codota发布了可以帮编辑器自动完成代码的AI工具,可将代码生产率提高25%,现已被Google,Amazon,阿里,Airbnb等公司广泛使用,并有免费版本供用户下载。
586 0
月活百万,年增长1000%,AI编码神器Codota获1600万美元融资
|
机器学习/深度学习 存储 传感器
AI加持的精准天气预报将从深圳开始:两小时内,一平方公里范围
在天气预报中,我们常常会听到「局部地区」这样的字眼。随着技术的发展,「局部」出现的次数正越来越少。在深圳,大数据和人工智能的融入将在不久之后为我们带来「精准到街区」的个性化天气预报服务。
237 0
AI加持的精准天气预报将从深圳开始:两小时内,一平方公里范围
|
人工智能 Cloud Native 安全
阿里云新品发布会周刊第104期 丨 金融高频交易数据量化分析与处理方案发布会
新产品、新版本、新技术、新功能、价格调整,评论在下方,下期更新!关注更多新品发布会!
371 0
阿里云新品发布会周刊第104期 丨  金融高频交易数据量化分析与处理方案发布会
|
存储 架构师 机器人
菜鸟核心系统全面上云,业内首次实现日均处理10亿包裹的技术能力
据悉,今年菜鸟核心系统还将首次支持海外11个国家的双11物流业务。阿里云在全球21个区域部署有上百个云数据中心,其中新加坡云数据中心不到一个月就完成了菜鸟平台基础设施的搭建,将在本地为菜鸟提供网络优化和云计算服务,助力Lazada等海外电商平台将高峰期包裹处理能力提高10倍,保障日均上亿级的包裹量运行。
菜鸟核心系统全面上云,业内首次实现日均处理10亿包裹的技术能力
|
消息中间件 SQL 分布式计算
日均万亿条数据如何处理?爱奇艺实时计算平台这样做
本文由爱奇艺大数据服务负责人梁建煌分享,介绍爱奇艺如何基于 Apache Flink 技术打造实时计算平台,并通过业务应用案例分享帮助用户了解 Apache Flink 的技术特点及应用场景。
日均万亿条数据如何处理?爱奇艺实时计算平台这样做
|
数据采集 机器学习/深度学习 算法
重磅下载 | 6大技术方向 40+篇好文,高德如何做到日活过亿?
回首2019 年,作为首个日活过亿的国民出行平台,高德地图 to C 和 to B 的用户数都再攀新高。在背后支撑和驱动业务快速发展的,正是数千名日夜奋战的高德技术人。现在《高德技术2019年刊合辑》免费推出,6大章节全年盘点,为你揭晓有“温度”的科技!
41847 0
重磅下载 | 6大技术方向 40+篇好文,高德如何做到日活过亿?