预测要用到两个模型，第一个在线训练好可以流式读入，但是2模型如何保证更新后流式读入？
预测要用到两个模型，第一个在线训练好的，这个倒是可以流式读入，就是2模型（离线批量模型）怎么能够保证更新后流式读入，并且类型也是batchoperator呢？
2模型的格式是batchoperator的
展开
收起
2
条回答
写回答
写回答
-
北京阿里云ACE会长对于多个开放模型需要流式更新和使用,有以下几种方式:
模型版本控制
每个模型版本需要一个版本号,任务以版本号读入不同版本模型。训练完成后更新版本号,任务根据版本号自动读新模型。
模型陷阱交换
维护两个模型文件A/B,预测任务实时读A。训练完成后将新模型写入B,切换A和B指针。下次预测读B。
模型注册表
使用注册表持久化当前活跃模型版本信息。训练完成后更新注册表模型版本号,预测从注册表异步拉取最新模型。
模型流式发布
训练直接将模型发布到流式 canal处。预测从canal实时拉取最新模型,同步更新内存中模型。
参数服务器模式
所有模型参数分布到参数服务器。训练更新参数服务器参数,预测从参数服务器实时读取最新参数。
2023-08-10 17:17:52赞同 展开评论 打赏 -
问答分类：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
热门讨论
热门文章
为什么我的天池notebook中，无法创建notebook文件，也无法显示我的天池文档等内容。
727
如何高效的往交互建模（dsw）上传较大的文件，有从阿里云盘中直接下载或类似的方法吗？
3720
modelscope 里面的模型用pipeline 做推理太慢怎样提高推理速度
981
小白想问一下nas上面的模型怎么通过pai-eas进行使用
1919
PAI有资源却报错，无法提交怎么解决?
175
Stable Diffusion怎么部署，要多少费用？
473
Completions 说调用成功，但不返回内容
20
ide:VSCODE,通义灵码,对于 _ - 识别出现了问题么？
16
请问PAI-DSW实例服务器ping不通google.com该怎么解决？
238
通义灵码 idea版本的代码提示如何设置？
710
展开全部
【玩转数据系列二】机器学习应用没那么难，这次教你玩心脏病预测
27150
【玩转数据系列六】文本分析算法实现新闻自动分类
19345
阿里巴巴机器学习系列课程
15774
【玩转数据系列十三】机器学习算法基于信用卡消费记录做信用评分
14868
机器学习PAI全新功效——实时新闻热点Online Learning实践
13577
【玩转数据系列五】农业贷款发放预测
11483
【玩转数据系列四】听说啤酒和尿布很配？本期教你用协同过滤做推荐
14677
【玩转数据系列八】机器学习算法的离线调度实现-广告CTR预测
10682
FM算法介绍
11691
PAI实现的深度学习网络可视化编辑功能-FastNeuralNetwork
6931
展开全部
