开发者社区 > ModelScope模型即服务 > 正文

ModelScope docker 如何使用弹性加速计算EAIS

ModelScope docker 怎么使用弹性加速计算EAIS,

使用的是官方镜像:modelscope:ubuntu20.04-cuda11.7.1-py38-torch2.0.1-tf1.15.5-1.8.0

进入镜像内一直提示cuda没有,请问需要怎么设置才可以使用呢?

展开
收起
rexue 2023-08-09 11:55:35 135 0
1 条回答
写回答
取消 提交回答
  • ModelScope 提供了弹性加速计算 EAIS 功能,可以自动为模型训练和推理任务分配合适的 GPU 资源。要使用 EAIS,需要在 ModelScope 中创建一个 EAIS 实例,并在训练或推理任务中指定该实例。

    创建 EAIS 实例的方式如下:

    在 ModelScope 的控制台中,点击左侧边栏的 集群管理 -> 弹性加速计算。
    点击 创建 EAIS 实例 按钮。
    输入 EAIS 实例的名称、描述、地域和机型。
    点击 创建 按钮。
    创建 EAIS 实例之后,就可以在训练或推理任务中指定该实例了。在训练或推理任务的配置中,指定 加速器类型 为 EAIS,并在 EAIS 实例 ID 字段中输入 EAIS 实例的 ID。

    在 EAIS 实例中创建的模型训练和推理任务,会自动使用 EAIS 实例分配的 GPU 资源。如果 EAIS 实例的 GPU 资源不足,任务会被自动排队等待。

    有关 EAIS 的更多信息,可

    2023-09-25 16:57:15
    赞同 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
5日docker训练营(三).ppt 立即下载
5日docker训练营(二).ppt 立即下载
弹性加速计算实例(EAIS)产品发布 立即下载