开发者社区 > 大数据与机器学习 > 人工智能平台PAI > 正文

想问下机器学习PAI,如何本地用triton部署 pai-tf训练的模型?

想问下机器学习PAI,如何本地用triton部署 pai-tf训练的模型?

展开
收起
cuicuicuic 2023-12-18 08:06:03 28 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    首先,您可以使用PAI-TF训练模型,并导出为SaveModel通用模型格式。然后,为了在本地使用Triton部署这个模型,您需要首先安装Triton Inference Server。接下来,通过Triton的API接口,将刚才导出的模型上传到Triton服务器中。最后,使用Triton客户端工具进行模型推理,这一步可以验证您的模型是否成功部署并能正确工作。

    2023-12-18 14:45:47
    赞同 展开评论 打赏
  • 本地部署用trition提供的镜像把savedmodel拉起来就可以的 ,此回答整理自钉群“机器学习PAI交流群(答疑@值班)”

    2023-12-18 11:18:15
    赞同 展开评论 打赏

相关电子书

更多
大规模机器学习在蚂蚁+阿里的应用 立即下载
阿里巴巴机器学习平台AI 立即下载
机器学习及人机交互实战 立即下载