文章8:《OPPO云边端的协同实践》
以下内容为2022云栖大会「边缘云计算创新论坛」中,OPPO云计算总经理鲍永成演讲《OPPO云边端的协同实践》,分享OPPO在机器学习AI领域,对云以及边缘计算的应用实践。
1. StarFire:机器学习平台
StarFire,星火机器学习平台,是OPPO推出的机器学习技术品牌。
作为一家终端消费电子公司,OPPO需要怎样的AI Platform?
OPPO需要的AI平台,可能跟行业里会有略微的差别。目前,OPPO推荐搜索广告都是通过机器学习进行,五亿多用户的规模量对于企业来说挑战巨大。
区别于传统的调研、简单的报表等方式,OPPO通过AI驱动、模型预测,定义产品以及品质的改善,比如功耗、热等指标的改进。
产品销售出去之后,用户运营跟用户增长也是企业非常关注的话题,机器学习平台同样要围绕用户运营与增长工作运行。
AI Platform整体的架构,从下往上,底下是混合云基础设施。除了自己的IDC之外,还包含公有云、边缘计算等。
往上,是AI混合云,包含特征存储、EBR,分别服务搜索推荐和向量检索。
云真机也是整个技术平台里面验证环节非常重要的部分。很多模型,包括最后裁剪过的模型都要运行在手机上,因此不管是在迭代期间,还是在最后发布之前,都需要一个庞大的云真机集群来验证所有的算法。
再往上是控制台和三个核心的部分,下面依次展开介绍。
• 搜推引擎:Stargazer
基于千亿级特征,以及数百PB的样本大小,OPPO不仅有自己的数据中心,和公有云也有深入的合作。很多训练任务会弹性地调度到公有云上,包括最后的推理,也会有一些部署到阿里云的边缘计算节点上。
广告允许的延迟非常有限,所以必须在离用户更近的地方部署模型,但是如果完全部署在端侧的话,整个模型部署的深度就会比较浅,因此必须通过协同来解决这个问题。
• 终端AI工作台
OPPO端云协同AI工作台主要是为终端服务的。作为一家终端公司,百分之八九十的模型都是为终端服务的,比如打游戏的时候,如何去平衡功耗和热?这需要通过模型测试,在AI工作台上进行展开。也就是说,OPPO大量端侧的AI工程师,都会在这个平台上进行日常工作。
• SOTA模型市场
OPPO把很多成熟的模型收集起来,组建SOTA模型市场。因为场景非常多,不可能为每一个场景做相应的AI模型,因此,SOTA模型库发挥着技术货架平台的作用,大大提高了业务价值。
《云上新势力 CLOUD IMAGINE》——Part 2 演讲/文章合集——文章8:《OPPO云边端的协同实践》(下):
https://developer.aliyun.com/article/1228887?groupCode=videocloudtech