1
条回答
写回答
写回答
-
推荐回答PAI 提供的机器学习算法仍然有限，如果想要使用开源项目来实现算法部分怎么办呢？我们对此也做了尝试，我们则结合 MaxCompute+PAI+xLearn实现了基于 FM 算法的 CTR 预估模型。 由于 xLearn 需要在单独的一台 ECS 上执行，那么问题就来了： 1. 如何从 MaxCompute 拉取数据，又如何上传结果？ MaxCompute 提供了 pyodps，可以很方便的使用 python 读写 MaxCompute的离线表。因此，我们在 python 循环检测 PAI 任务的特征工程结果表是否生成完成。生成完成，则启动下载数据和算法训练任务。算法执行结束后，则将模型文件通过 pyodps 写入 MaxCompute，当然也可以使用 tunnel 工具来完成。
- 如何周期性调度？ DataWorks 上的任务与 ECS 上的任务，如何形成依赖关系？对于拉取，我们通过循环实现了 python 与 MaxCompute 表的依赖关系，那么 算法训练完成了，DataWorks 的下游怎么知道呢？幸好，DataWorks 提供了 do-while 控制流组件，我们可以在 while 条件中检测模型表相应分区的数据是否存在了，在 do 组件中，则采用 shell 执行 sleep。跳出 while 后，则下游也开始正常执行了。之后便可以将模型和映射文件同步写入到 oss，以供后端使用了。
以上内容摘自《5天入门视觉AI》电子书，点击https://developer.aliyun.com/topic/download?id=31可下载完整版
2022-08-17 16:17:37赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
MaxCompute（原ODPS）是一项面向分析的大数据计算服务，它以Serverless架构提供快速、全托管的在线数据仓库服务，消除传统数据平台在资源扩展性和弹性方面的限制，最小化用户运维投入，使您经济并高效的分析处理海量数据。
热门讨论
热门文章
DataWorks中假如我这边需要跨账号跨地区迁移maxcompute有什么好的方案？
26
MaxCompute + DataWorks 会将转换后的文件保存至 OSS 对象存储？
32
大数据计算MaxCompute求助这个报错是什么意思？
128
大数据计算MaxCompute中如果说我这边的程序接收到用户上传文件的请求，应该调用哪个API接口？
82
DataWorks如何开启Label Security功能哈？
23
DataWorks失败：ODPS-0130071:[0,0]语义分析异常-物理计划生成失败？
313
MaxCompute中报错ODPS-0121145:Data overflow
814
将用户上传的文件信息及上传记录保存到 MaxCompute 表中上传记录？
27
DataWorks按照官网说明修改endpoint也是不行怎么办？
20
解析并获取大json，是否更推荐json_tuple()？
1231
展开全部
阿里巴巴飞天大数据平台MaxCompute（原名ODPS）全套攻略（持续更新20200109）
131556
阿里云开源离线同步工具DataX3.0介绍
103145
盘古：阿里云飞天分布式存储系统设计深度解析
44406
odps是什么?
67903
美柚：最懂女性App背后的混合云架构与大数据服务
23722
优酷背后的大数据秘密
22220
吴刚专访--大数据和 MaxCompute 技术和故事
19111
【大数据干货】轻松处理每天2TB的日志数据，支撑运营团队进行大数据分析挖掘，随时洞察用户个性化需求。
16492
品《阿里巴巴大数据实践-大数据之路》一书（上）
18080
使用 MaxCompute Studio 开发大数据应用
15309
展开全部
