AI 助理
文档备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 文章 正文

modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量

2023-12-18 1220
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 由于个人需要，家里有多张卡，但是我只想通过输入device号的方式，在单卡上运行模型。如果设置环境变量的话我的其他服务将会受影响。

当我这样操作时，传入device为0或者“cuda:0”,都无法让其运行到指定gpu
self.skin_retouching = pipeline(Tasks.skin_retouching, model='damo/cv_unet_skin-retouching',device=device)
默认直接加载到多张卡上。
而且我发现对于不同的damo模型，使用这样的device传参方法，有的还会报错？难道达摩院内部的接口不统一吗？

对于我的需求我该如何修改我的代码？

文章标签：
GPU云服务器
视觉智能开放平台
异构计算
并行计算
达摩院
关键词：
modelscope模型
GPU云服务器模型
GPU云服务器运行
模型GPU云服务器
模型GPU云服务器运行
相关实践学习
在云上部署ChatGLM2-6B大模型（GPU版）
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验，可以学习如何配置AIGC开发环境，如何部署ChatGLM2-6B大模型。
游客jylnbcvdoiqxg
目录
相关文章
sinmu
|
人工智能 物联网
如何将Together AI上基于Qwen2-7B训练的模型部署到ModelScope平台
如何将Together AI上基于Qwen2-7B训练的模型部署到ModelScope平台
sinmu
316 10
ModelScope内容运营小助手
|
人工智能 开发框架 物联网
赢万元奖金 | 第七届CCF开源创新大赛ModelScope开源模型应用挑战赛开启报名！
第七届CCF开源创新大赛（后简称“大赛”） 由中国计算机学会（CCF）主办，长沙理工大学、CCF开源发展委员会联合承办。
ModelScope内容运营小助手
287 1
ModelScope内容运营小助手
|
人工智能 开发工具 Swift
ModelScope联手OpenDataLab：直接调用7000+开源数据集，赋能AI模型加速研发
魔搭社区和OpenDatalab浦数合作，共同开启一场模型与数据的深度融合，旨在为中国开发者打造更加高效、开放的AI体验。
ModelScope内容运营小助手
640 5
taro_秋刀鱼
|
机器学习/深度学习 测试技术 TensorFlow
ModelScope模型使用与EAS部署调用
本文以魔搭数据的模型为例，演示在DSW实例中如何快速调用模型，然后通过Python SDK将模型部署到阿里云PAI EAS服务，并演示使用EAS SDK实现对服务的快速调用，重点针对官方关于EAS模型上线后示例代码无法正常调通部分进行了补充。
taro_秋刀鱼
656 2
ModelScope内容运营小助手
|
机器学习/深度学习 人工智能 Swift
PAI x ModelScope： 在PAI使用ModelScope模型
在当前的人工智能领域，特别是大语言模型、文生图等领域，基于预训练模型完成机器学习模型的开发部署已成为重要的应用范式，开发者们依赖于这些先进的开源预训练模型，以简化机器学习应用的开发并加速创新。
ModelScope内容运营小助手
511 0
八进智
|
4月前
|
人工智能 算法 调度
阿里云ACK托管集群Pro版共享GPU调度操作指南
本文介绍在阿里云ACK托管集群Pro版中，如何通过共享GPU调度实现显存与算力的精细化分配，涵盖前提条件、使用限制、节点池配置及任务部署全流程，提升GPU资源利用率，适用于AI训练与推理场景。
八进智
405 1
专有云小编
|
4月前
|
人工智能 城市大脑 运维
喜讯！阿里云国产异构GPU云平台技术荣获“2025算力中国·年度重大成果”
2025年8月23日，在工业和信息化部新闻宣传中心、中国信息通信研究院主办的2025中国算力大会上，阿里云与浙江大学联合研发的“国产异构GPU云平台关键技术与系统”荣获「算力中国·年度重大成果」。该评选旨在选拔出算力产业具有全局性突破价值的重大成果，是业内公认的技术创新“风向标”。
专有云小编
508 0
弹性计算小冉
|
9月前
|
存储 机器学习/深度学习 数据库
阿里云服务器X86/ARM/GPU/裸金属/超算五大架构技术特点、场景适配参考
在云计算技术飞速发展的当下，云计算已经渗透到各个行业，成为企业数字化转型的关键驱动力。选择合适的云服务器架构对于提升业务效率、降低成本至关重要。阿里云提供了多样化的云服务器架构选择，包括X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器以及高性能计算等。本文将深入解析这些架构的特点、优势及适用场景，以供大家了解和选择参考。
弹性计算小冉
1305 61
阿里云运维工程师
|
12月前
|
存储 机器学习/深度学习 人工智能
2025年阿里云GPU服务器租用价格、选型策略与应用场景详解
随着AI与高性能计算需求的增长，阿里云提供了多种GPU实例，如NVIDIA V100、A10、T4等，适配不同场景。2025年重点实例中，V100实例GN6v单月3830元起，适合大规模训练；A10实例GN7i单月3213.99元起，适用于混合负载。计费模式有按量付费和包年包月，后者成本更低。针对AI训练、图形渲染及轻量级推理等场景，推荐不同配置以优化成本和性能。阿里云还提供抢占式实例、ESSD云盘等资源优化策略，支持eRDMA网络加速和倚天ARM架构，助力企业在2025年实现智能计算的效率与成本最优平衡。 （该简介为原文内容的高度概括，符合要求的字符限制。）
阿里云运维工程师
4813 86
ModelScope模型即服务

计算机视觉

热门文章

最新文章

  • 1
    Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
  • 2
    X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景
  • 3
    LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理
  • 4
    AddressCLIP：一张照片就能准确定位！中科院联合阿里云推出街道级图像地理定位模型
  • 5
    RF-DETR：YOLO霸主地位不保？开源 SOTA 实时目标检测模型，比眨眼还快3倍！
  • 6
    video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述
  • 7
    PSHuman：开源单图像3D人像重建技术，一张照片就能生成3D人像模型
  • 8
    STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频
  • 9
    UI-TARS：字节跳动开源专注于多平台 GUI 自动化交互的视觉语言模型
  • 10
    Manga Image Translator：开源的漫画文字翻译工具，支持多语言翻译并嵌入原图，保持漫画的原始风格和布局
  • 1
    NeurlPS 2025！多伦多大学TIRE助力3D/4D 生成精准保留主体身份
    160
  • 2
    【Github热门项目】DeepSeek-OCR项目上线即突破7k+星！突破10倍无损压缩，重新定义文本-视觉信息处理
    443
  • 3
    腾讯混元最新开源：一张图，秒变游戏大片
    508
  • 4
    漫画师福音！开源AI神器让线稿着色快如闪电！MagicColor：港科大开源多实例线稿着色框架，一键生成动画级彩图
    811
  • 5
    ACTalker：港科大联合腾讯清华推出，多模态驱动的说话人视频生成神器
    413
  • 6
    这个模型让AI角色会说话还会演！MoCha：Meta联手滑铁卢大学打造对话角色视频生成黑科技
    623
  • 7
    WorldScore：斯坦福开源世界生成模型评估新标杆：3000样本+九维指标，视频/4D/3D模型一网打尽
    657
  • 8
    EasyControl Ghibli：在线体验一键生成宫崎骏动画风，开源AI模型让你的照片秒变吉卜力
    1297
  • 9
    DreamActor-M1：字节跳动推出AI动画黑科技，静态照片秒变生动视频
    881
  • 10
    AI-ClothingTryOn：服装店老板连夜下架试衣间！基于Gemini开发的AI试衣应用，一键生成10种穿搭效果
    854

    • 相关课程

    更多
  • 云原生AI套件：一键训练大模型及部署GPU共享推理服务
  • 个性化语音合成模型微调
  • ModelScope社区Library技术架构介绍

    • 相关电子书

    更多
  • ModelScope助力语音AI模型创新与应用
  • 端到端GPU性能在深度学学习场景下的应用实践
  • DeepStream: GPU加速海量视频数据智能处理

    • 相关实验场景

    更多
  • 在云上部署ChatGLM2-6B大模型（GPU版）
  • 通过GPU云服务器训练GPT-2
    • 下一篇
    第五届伏魔挑战赛如约来袭，诚邀各路高手来战！