带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(1)

简介: 带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(1)

作者:Meta技术团队

出品:大淘宝技术


大淘宝技术团队论文入选计算机系统领域顶级国际学术会议OSDI,这是淘宝系统论文首次入选该国际顶会,论文详解了阿里历经四年、自主研发的首个端到端、通用型、规模化产业应用的端云协同机器学习系统“瓦力”——Walle。OSDI特别邀请到的David Tennenhouse在大会主旨演讲中专门推荐了Walle系统,对其技术先进性和应用落地效果赞誉有加。目前,Walle 作为阿里机器学习的基础设施支持 30+APP上 的300+个算法任务。


OSDI 会议


USENIX OSDI(Operating Systems Design and Implementation)是计算机系统领域最顶级的国际学术会议之一,被誉为操作系统领域的奥斯卡,拥有极高的学术地位和影响力,汇集了全球学术界和产业界系统领域专业人士的前沿思考和突破性成果。


今年OSDI大会特别邀请了David Tennenhouse作主旨演讲,他是IEEE Fellow,曾担任Intel、Amazon/A9.com、Microsoft、VMware等公司研究院和DARPA的首席/主管,也曾任教于MIT。David Tennenhouse在主旨演讲「1」中专门推荐了Walle系统,并在Walle talk的前后通过邮件和Slack等方式主动与作者们进行了交流。


image.png


Walle 系统命名由来


Walle(瓦力)来源于2008年电影“机器人总动员 WALL-E「2」”。在电影中,WALL-E 机器人负责对地球垃圾进行清理,变废为宝。Walle的架构者也秉持类似的初衷,希望所设计和搭建的端云协同机器学习系统能够像 WALL-E 机器人一样,有效利用数以十亿计移动端设备上的用户数据,充分释放其被忽视的价值,为用户提供更好的智能服务。


Walle 系统设计哲学


image.png

图1: 机器学习任务开发者视角中的Walle工作流程


为了打破主流基于云服务器的机器学习框架延时高、开销成本大、服务器负载高、隐私安全风险高等瓶颈,Walle采用了端云协同机器学习新范式,以充分发挥移动端设备贴近用户和数据的天然优势,实现端云优势互补。不同于端云协同学习已有工作(主要在算法层面,并针对特定应用场景中特定的机器学习推理或训练任务),Walle是首个端到端、通用型、规模化产业应用的端云协同机器学习系统。Walle支持机器学习任务在任意阶段(前处理、模型训练与推理、后处理)在端和云之间交换任意必要的信息(例如数据、特征、样本、模型、模型更新、中间结果等)协同完成任务。Walle遵循端到端的架构设计,面向机器学习任务,从开发者视角出发,覆盖了机器学习任务的研发期、部署期和运行时,并支持端侧和云侧运行时的每个阶段。此外,Walle还遵循通用型的系统设计,而非集成大量面向特定应用、特定平台的定制方案Walle向下磨平了端云设备软硬件的差异性并保证移动APP的轻量化,向上则支撑了多种类型机器学习任务的大规模产业化应用。




带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(2) https://developer.aliyun.com/article/1242671?groupCode=taobaotech

相关文章
|
5月前
|
人工智能 自然语言处理 算法
魔搭城市行 | 南京站 · 「阿里巴巴人工智能大模型&魔搭开源社区交流论坛」成功举办
2024年1月11日下午,阿里巴巴人工智能大模型及魔搭开源社区交流沙龙 · 南京站在南京软件谷云密城L栋成功举办!
|
机器学习/深度学习 人工智能 自动驾驶
全日程公布!你关心的大模型时代AI热点,我们请了多位AI大咖在这场WAIC论坛解答
全日程公布!你关心的大模型时代AI热点,我们请了多位AI大咖在这场WAIC论坛解答
149 0
|
机器学习/深度学习 存储 监控
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(4)
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(4)
|
机器学习/深度学习 自然语言处理 PyTorch
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(5)
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(5)
167 0
|
机器学习/深度学习 数据处理 开发工具
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(2)
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(2)
117 0
|
UED iOS开发 容器
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(3)
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文, 端云协同智能获大会主旨演讲推荐(3)
120 0
|
编解码 计算机视觉
带你读《2022技术人的百宝黑皮书》——上海交大牵手淘宝成立媒体计算实验室: 推动视频超分等关键技术发展(上)
带你读《2022技术人的百宝黑皮书》——上海交大牵手淘宝成立媒体计算实验室: 推动视频超分等关键技术发展(上)
|
新零售 人工智能 BI
带你读《2022技术人的百宝黑皮书》——上海交大牵手淘宝成立媒体计算实验室: 推动视频超分等关键技术发展(下)
带你读《2022技术人的百宝黑皮书》——上海交大牵手淘宝成立媒体计算实验室: 推动视频超分等关键技术发展(下)
139 0
|
机器学习/深度学习 传感器 人工智能
5年后AI所需算力超100万倍!十二家机构联合发表88页长文:「智能计算」是解药
5年后AI所需算力超100万倍!十二家机构联合发表88页长文:「智能计算」是解药
191 0
|
人工智能 达摩院 算法
2022世界人工智能大会大模型主题论坛星光云集,共话大模型的创新与生态发展!
本次“大规模预训练模型”主题论坛由阿里巴巴集团主办,世界人工智能大会组委会指导,整体围绕“大规模预训练模型的创新、落地和开源开放”展开,将探讨的边界延伸至算法模型、大数据及训练框架等方向,邀请到来自阿里巴巴,澜舟科技,清华大学,粤港澳大湾区数字经济研究院,深势科技,复旦大学等机构,在大规模预训练模型领域深耕多年的领军人物,通过keynote演讲和圆桌论坛两个环节,展示国产大模型多元生态下的技术成果和思考。
1701 0
2022世界人工智能大会大模型主题论坛星光云集,共话大模型的创新与生态发展!