ModelScope docker 怎么使用弹性加速计算EAIS,
使用的是官方镜像:modelscope:ubuntu20.04-cuda11.7.1-py38-torch2.0.1-tf1.15.5-1.8.0
进入镜像内一直提示cuda没有,请问需要怎么设置才可以使用呢?
ModelScope 提供了弹性加速计算 EAIS 功能,可以自动为模型训练和推理任务分配合适的 GPU 资源。要使用 EAIS,需要在 ModelScope 中创建一个 EAIS 实例,并在训练或推理任务中指定该实例。
创建 EAIS 实例的方式如下:
在 ModelScope 的控制台中,点击左侧边栏的 集群管理 -> 弹性加速计算。
点击 创建 EAIS 实例 按钮。
输入 EAIS 实例的名称、描述、地域和机型。
点击 创建 按钮。
创建 EAIS 实例之后,就可以在训练或推理任务中指定该实例了。在训练或推理任务的配置中,指定 加速器类型 为 EAIS,并在 EAIS 实例 ID 字段中输入 EAIS 实例的 ID。
在 EAIS 实例中创建的模型训练和推理任务,会自动使用 EAIS 实例分配的 GPU 资源。如果 EAIS 实例的 GPU 资源不足,任务会被自动排队等待。
有关 EAIS 的更多信息,可
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352