AI 助理
备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 文章 正文

modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量

2023-12-18 786
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
视觉智能开放平台，图像资源包5000点
视觉智能开放平台，分割抠图1万点
视觉智能开放平台，视频资源包5000点
简介： 由于个人需要，家里有多张卡，但是我只想通过输入device号的方式，在单卡上运行模型。如果设置环境变量的话我的其他服务将会受影响。

当我这样操作时，传入device为0或者“cuda:0”,都无法让其运行到指定gpu
self.skin_retouching = pipeline(Tasks.skin_retouching, model='damo/cv_unet_skin-retouching',device=device)
默认直接加载到多张卡上。
而且我发现对于不同的damo模型，使用这样的device传参方法，有的还会报错？难道达摩院内部的接口不统一吗？

对于我的需求我该如何修改我的代码？

文章标签：
GPU云服务器
异构计算
并行计算
达摩院
关键词：
modelscope模型
模型GPU云服务器
modelscope模型GPU云服务器
modelscope gpu
modelscope运行
相关实践学习
部署Stable Diffusion玩转AI绘画（GPU云服务器）
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作，开启AIGC盲盒。
游客jylnbcvdoiqxg
目录
相关文章
冷冻工厂
|
3月前
|
机器学习/深度学习 并行计算 算法框架/工具
为什么深度学习模型在GPU上运行更快？
为什么深度学习模型在GPU上运行更快？
冷冻工厂
55 2
小空门123-30335
|
2月前
|
机器学习/深度学习 TensorFlow API
Keras是一个高层神经网络API，由Python编写，并能够在TensorFlow、Theano或CNTK之上运行。Keras的设计初衷是支持快速实验，能够用最少的代码实现想法，并且能够方便地在CPU和GPU上运行。
Keras是一个高层神经网络API，由Python编写，并能够在TensorFlow、Theano或CNTK之上运行。Keras的设计初衷是支持快速实验，能够用最少的代码实现想法，并且能够方便地在CPU和GPU上运行。
小空门123-30335
43 0
阿旭算法与机器学习
|
3月前
|
机器学习/深度学习 并行计算 PyTorch
【从零开始学习深度学习】20. Pytorch中如何让参数与模型在GPU上进行计算
【从零开始学习深度学习】20. Pytorch中如何让参数与模型在GPU上进行计算
阿旭算法与机器学习
42 2
嘟嘟嘟嘟嘟嘟
|
3月前
|
运维 Serverless 文件存储
Serverless 应用引擎产品使用合集之函数实例运行期间相关的依赖资源（vcpu、临时磁盘、GPU）是否会随函数运行完毕而释放
阿里云Serverless 应用引擎（SAE）提供了完整的微服务应用生命周期管理能力，包括应用部署、服务治理、开发运维、资源管理等功能，并通过扩展功能支持多环境管理、API Gateway、事件驱动等高级应用场景，帮助企业快速构建、部署、运维和扩展微服务架构，实现Serverless化的应用部署与运维模式。以下是对SAE产品使用合集的概述，包括应用管理、服务治理、开发运维、资源管理等方面。
嘟嘟嘟嘟嘟嘟
35 1
算精通
|
3月前
|
异构计算 弹性计算 并行计算
Alpaca模型在阿里云GPU服务器上的部署
【6月更文挑战第1天】
算精通
448 4
真的很搞笑
|
3月前
|
缓存 Serverless API
函数计算产品使用问题之GPU实例留运行但未进行 GPU 计算，是否还会计费
函数计算产品作为一种事件驱动的全托管计算服务，让用户能够专注于业务逻辑的编写，而无需关心底层服务器的管理与运维。你可以有效地利用函数计算产品来支撑各类应用场景，从简单的数据处理到复杂的业务逻辑，实现快速、高效、低成本的云上部署与运维。以下是一些关于使用函数计算产品的合集和要点，帮助你更好地理解和应用这一服务。
真的很搞笑
25 0
JOYCE_Leo16
|
4月前
|
机器学习/深度学习 人工智能 算法
为什么大模型训练需要GPU，以及适合训练大模型的GPU介绍
为什么大模型训练需要GPU，以及适合训练大模型的GPU介绍
JOYCE_Leo16
180 1
sunrr
|
4月前
|
自然语言处理
在ModelScope中，你可以通过设置模型的参数来控制输出的阈值
在ModelScope中，你可以通过设置模型的参数来控制输出的阈值
sunrr
93 1
vohelon
|
4月前
|
API 语音技术
ModelScope-FunASR**有支持热词又支持时间戳的模型**。
【2月更文挑战第30天】ModelScope-FunASR**有支持热词又支持时间戳的模型**。
vohelon
157 2
ModelScope运营小助手
|
4月前
|
人工智能 API 决策智能
Modelscope结合α-UMi：基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent，由于模型容量和预训练能力获取的限制，无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
ModelScope运营小助手
341 3
ModelScope模型即服务

计算机视觉

热门文章

最新文章

  • 1
    YOLOv10实战：红外小目标实战 | 多头检测器提升小目标检测精度
  • 2
    关于flux.1 loras的8个问题
  • 3
    一种基于YOLOv8改进的高精度红外小目标检测算法 （原创自研）
  • 4
    YOLOv10实战：SPPF原创自研 | SPPF_attention，重新设计加入注意力机制 | NEU-DET为案列进行展开
  • 5
    AI人像动漫
  • 6
    关键点检测从入门到进阶
  • 7
    《YOLOv8原创自研》专栏介绍 & CSDN独家改进创新实战&专栏目录
  • 8
    Stable Diffusion 介绍与入门
  • 9
    人像抠图
  • 10
    视觉AI技术体系及趋势概述
  • 1
    关于flux.1 loras的8个问题
    93
  • 2
    一种基于YOLOv8改进的高精度红外小目标检测算法 （原创自研）
    212
  • 3
    《YOLOv8原创自研》专栏介绍 & CSDN独家改进创新实战&专栏目录
    132
  • 4
    YOLOv10实战：SPPF原创自研 | SPPF_attention，重新设计加入注意力机制 | NEU-DET为案列进行展开
    176
  • 5
    YOLOv10实战：红外小目标实战 | 多头检测器提升小目标检测精度
    391
  • 6
    ModelScope模型使用与EAS部署调用
    167
  • 7
    Stable Diffusion使用窍门
    466
  • 8
    Stable Diffusion 介绍与入门
    1473
  • 9
    modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量
    786
  • 10
    这个社区可以互相交流学习AI相关的开发技术吗？自学开发AI图像算法插件一段时间，和大家分享一下经历吧，也不知道自己目前在折腾的东西有没有用。
    180

    • 相关课程

    更多
  • 云原生AI套件：一键训练大模型及部署GPU共享推理服务
  • 个性化语音合成模型微调
  • ModelScope社区Library技术架构介绍

    • 相关电子书

    更多
  • DeepStream: GPU加速海量视频数据智能处理
  • 阿里巴巴高性能GPU架构与应用
  • GPU在超大规模深度学习中的发展和应用

    • 相关实验场景

    更多
  • 部署Stable Diffusion玩转AI绘画（GPU云服务器）
  • 在云上部署ChatGLM2-6B大模型（GPU版）
  • 通过GPU云服务器生成AIGC 3D模型
  • 通过GPU云服务器训练GPT-2
    • 下一篇
    云函数