AI 助理
文档备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 文章 正文

modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量

2023-12-18 1219
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 由于个人需要，家里有多张卡，但是我只想通过输入device号的方式，在单卡上运行模型。如果设置环境变量的话我的其他服务将会受影响。

当我这样操作时，传入device为0或者“cuda:0”,都无法让其运行到指定gpu
self.skin_retouching = pipeline(Tasks.skin_retouching, model='damo/cv_unet_skin-retouching',device=device)
默认直接加载到多张卡上。
而且我发现对于不同的damo模型，使用这样的device传参方法，有的还会报错？难道达摩院内部的接口不统一吗？

对于我的需求我该如何修改我的代码？

文章标签：
GPU云服务器
视觉智能开放平台
异构计算
并行计算
达摩院
关键词：
modelscope模型
GPU云服务器模型
GPU云服务器运行
模型GPU云服务器
模型GPU云服务器运行
相关实践学习
在云上部署ChatGLM2-6B大模型（GPU版）
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验，可以学习如何配置AIGC开发环境，如何部署ChatGLM2-6B大模型。
游客jylnbcvdoiqxg
目录
相关文章
蚝油菜花
|
12月前
|
人工智能 Linux iOS开发
exo：22.1K Star！一个能让任何人利用日常设备构建AI集群的强大工具，组成一个虚拟GPU在多台设备上并行运行模型
exo 是一款由 exo labs 维护的开源项目，能够让你利用家中的日常设备（如 iPhone、iPad、Android、Mac 和 Linux）构建强大的 AI 集群，支持多种大模型和分布式推理。
蚝油菜花
2862 101
蚝油菜花
|
11月前
|
人工智能 自然语言处理 API
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
Proxy Lite 是一款开源的轻量级视觉语言模型，支持自动化网页任务，能够像人类一样操作浏览器，完成网页交互、数据抓取、表单填写等重复性工作，显著降低自动化成本。
蚝油菜花
812 11
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
小华同学ai
|
10月前
|
人工智能 自然语言处理 API
8.6K star！完全免费+本地运行+无需GPU，这款AI搜索聚合神器绝了！
FreeAskInternet是一款革命性的开源项目，它完美结合了多引擎搜索和智能语言模型，让你在不联网、不花钱、不暴露隐私的情况下，获得媲美ChatGPT的智能问答体验。这个项目最近在GitHub上狂揽8600+星，被开发者称为"本地版Perplexity"。
小华同学ai
475 2
sinmu
|
人工智能 物联网
如何将Together AI上基于Qwen2-7B训练的模型部署到ModelScope平台
如何将Together AI上基于Qwen2-7B训练的模型部署到ModelScope平台
sinmu
312 10
古明地盆
|
机器学习/深度学习 并行计算 调度
CuPy：将 NumPy 数组调度到 GPU 上运行
CuPy：将 NumPy 数组调度到 GPU 上运行
古明地盆
645 1
aliyun3944920541
|
机器学习/深度学习 并行计算 算法框架/工具
为什么深度学习模型在GPU上运行更快？
为什么深度学习模型在GPU上运行更快？
aliyun3944920541
321 2
ModelScope内容运营小助手
|
人工智能 开发框架 物联网
赢万元奖金 | 第七届CCF开源创新大赛ModelScope开源模型应用挑战赛开启报名！
第七届CCF开源创新大赛（后简称“大赛”） 由中国计算机学会（CCF）主办，长沙理工大学、CCF开源发展委员会联合承办。
ModelScope内容运营小助手
283 1
ModelScope内容运营小助手
|
人工智能 开发工具 Swift
ModelScope联手OpenDataLab：直接调用7000+开源数据集，赋能AI模型加速研发
魔搭社区和OpenDatalab浦数合作，共同开启一场模型与数据的深度融合，旨在为中国开发者打造更加高效、开放的AI体验。
ModelScope内容运营小助手
634 5
嘟嘟嘟嘟嘟嘟
|
运维 Serverless 文件存储
Serverless 应用引擎产品使用合集之函数实例运行期间相关的依赖资源（vcpu、临时磁盘、GPU）是否会随函数运行完毕而释放
阿里云Serverless 应用引擎（SAE）提供了完整的微服务应用生命周期管理能力，包括应用部署、服务治理、开发运维、资源管理等功能，并通过扩展功能支持多环境管理、API Gateway、事件驱动等高级应用场景，帮助企业快速构建、部署、运维和扩展微服务架构，实现Serverless化的应用部署与运维模式。以下是对SAE产品使用合集的概述，包括应用管理、服务治理、开发运维、资源管理等方面。
嘟嘟嘟嘟嘟嘟
218 1
小空门123-30335
|
机器学习/深度学习 TensorFlow API
Keras是一个高层神经网络API，由Python编写，并能够在TensorFlow、Theano或CNTK之上运行。Keras的设计初衷是支持快速实验，能够用最少的代码实现想法，并且能够方便地在CPU和GPU上运行。
Keras是一个高层神经网络API，由Python编写，并能够在TensorFlow、Theano或CNTK之上运行。Keras的设计初衷是支持快速实验，能够用最少的代码实现想法，并且能够方便地在CPU和GPU上运行。
小空门123-30335
284 0
ModelScope模型即服务

计算机视觉

热门文章

最新文章

  • 1
    Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
  • 2
    LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理
  • 3
    X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景
  • 4
    RF-DETR：YOLO霸主地位不保？开源 SOTA 实时目标检测模型，比眨眼还快3倍！
  • 5
    Figma-Low-Code：快速将Figma设计转换为Vue.js应用，支持低代码渲染、数据绑定
  • 6
    STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频
  • 7
    SAM 2.1：Meta 开源的图像和视频分割，支持实时视频处理
  • 8
    PSHuman：开源单图像3D人像重建技术，一张照片就能生成3D人像模型
  • 9
    UI-TARS：字节跳动开源专注于多平台 GUI 自动化交互的视觉语言模型
  • 10
    OOTDiffusion：开源AI虚拟试衣工具，智能适配性别和体型自动调整衣物
  • 1
    NeurlPS 2025！多伦多大学TIRE助力3D/4D 生成精准保留主体身份
    148
  • 2
    【Github热门项目】DeepSeek-OCR项目上线即突破7k+星！突破10倍无损压缩，重新定义文本-视觉信息处理
    437
  • 3
    腾讯混元最新开源：一张图，秒变游戏大片
    504
  • 4
    漫画师福音！开源AI神器让线稿着色快如闪电！MagicColor：港科大开源多实例线稿着色框架，一键生成动画级彩图
    801
  • 5
    ACTalker：港科大联合腾讯清华推出，多模态驱动的说话人视频生成神器
    410
  • 6
    这个模型让AI角色会说话还会演！MoCha：Meta联手滑铁卢大学打造对话角色视频生成黑科技
    613
  • 7
    WorldScore：斯坦福开源世界生成模型评估新标杆：3000样本+九维指标，视频/4D/3D模型一网打尽
    649
  • 8
    EasyControl Ghibli：在线体验一键生成宫崎骏动画风，开源AI模型让你的照片秒变吉卜力
    1287
  • 9
    DreamActor-M1：字节跳动推出AI动画黑科技，静态照片秒变生动视频
    873
  • 10
    AI-ClothingTryOn：服装店老板连夜下架试衣间！基于Gemini开发的AI试衣应用，一键生成10种穿搭效果
    839

    • 相关课程

    更多
  • 云原生AI套件：一键训练大模型及部署GPU共享推理服务
  • 个性化语音合成模型微调
  • ModelScope社区Library技术架构介绍

    • 相关电子书

    更多
  • DeepStream: GPU加速海量视频数据智能处理
  • 阿里巴巴高性能GPU架构与应用
  • GPU在超大规模深度学习中的发展和应用

    • 相关实验场景

    更多
  • 在云上部署ChatGLM2-6B大模型（GPU版）
  • 通过GPU云服务器训练GPT-2
    • 下一篇
    第五届伏魔挑战赛如约来袭，诚邀各路高手来战！