AI 助理
文档备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 文章 正文

modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量

2023-12-18 1362
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 由于个人需要，家里有多张卡，但是我只想通过输入device号的方式，在单卡上运行模型。如果设置环境变量的话我的其他服务将会受影响。

当我这样操作时，传入device为0或者“cuda:0”,都无法让其运行到指定gpu
self.skin_retouching = pipeline(Tasks.skin_retouching, model='damo/cv_unet_skin-retouching',device=device)
默认直接加载到多张卡上。
而且我发现对于不同的damo模型，使用这样的device传参方法，有的还会报错？难道达摩院内部的接口不统一吗？

对于我的需求我该如何修改我的代码？

文章标签：
GPU云服务器
视觉智能开放平台
异构计算
并行计算
达摩院
关键词：
modelscope模型
GPU云服务器模型
GPU云服务器运行
模型GPU云服务器
模型GPU云服务器运行
相关实践学习
在云上部署ChatGLM2-6B大模型（GPU版）
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验，可以学习如何配置AIGC开发环境，如何部署ChatGLM2-6B大模型。
游客jylnbcvdoiqxg
目录
相关文章
蚝油菜花
|
人工智能 Linux iOS开发
exo：22.1K Star！一个能让任何人利用日常设备构建AI集群的强大工具，组成一个虚拟GPU在多台设备上并行运行模型
exo 是一款由 exo labs 维护的开源项目，能够让你利用家中的日常设备（如 iPhone、iPad、Android、Mac 和 Linux）构建强大的 AI 集群，支持多种大模型和分布式推理。
蚝油菜花
4544 101
蚝油菜花
|
人工智能 自然语言处理 API
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
Proxy Lite 是一款开源的轻量级视觉语言模型，支持自动化网页任务，能够像人类一样操作浏览器，完成网页交互、数据抓取、表单填写等重复性工作，显著降低自动化成本。
蚝油菜花
1244 11
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
小华同学ai
|
人工智能 自然语言处理 API
8.6K star！完全免费+本地运行+无需GPU，这款AI搜索聚合神器绝了！
FreeAskInternet是一款革命性的开源项目，它完美结合了多引擎搜索和智能语言模型，让你在不联网、不花钱、不暴露隐私的情况下，获得媲美ChatGPT的智能问答体验。这个项目最近在GitHub上狂揽8600+星，被开发者称为"本地版Perplexity"。
小华同学ai
827 2
sinmu
|
人工智能 物联网
如何将Together AI上基于Qwen2-7B训练的模型部署到ModelScope平台
如何将Together AI上基于Qwen2-7B训练的模型部署到ModelScope平台
sinmu
442 10
古明地盆
|
机器学习/深度学习 并行计算 调度
CuPy：将 NumPy 数组调度到 GPU 上运行
CuPy：将 NumPy 数组调度到 GPU 上运行
古明地盆
857 1
ModelScope内容运营小助手
|
人工智能 开发框架 物联网
赢万元奖金 | 第七届CCF开源创新大赛ModelScope开源模型应用挑战赛开启报名！
第七届CCF开源创新大赛（后简称“大赛”） 由中国计算机学会（CCF）主办，长沙理工大学、CCF开源发展委员会联合承办。
ModelScope内容运营小助手
416 1
小空门123-30335
|
机器学习/深度学习 TensorFlow API
Keras是一个高层神经网络API，由Python编写，并能够在TensorFlow、Theano或CNTK之上运行。Keras的设计初衷是支持快速实验，能够用最少的代码实现想法，并且能够方便地在CPU和GPU上运行。
Keras是一个高层神经网络API，由Python编写，并能够在TensorFlow、Theano或CNTK之上运行。Keras的设计初衷是支持快速实验，能够用最少的代码实现想法，并且能够方便地在CPU和GPU上运行。
小空门123-30335
405 0
真的很搞笑
|
缓存 Serverless API
函数计算产品使用问题之GPU实例留运行但未进行 GPU 计算，是否还会计费
函数计算产品作为一种事件驱动的全托管计算服务，让用户能够专注于业务逻辑的编写，而无需关心底层服务器的管理与运维。你可以有效地利用函数计算产品来支撑各类应用场景，从简单的数据处理到复杂的业务逻辑，实现快速、高效、低成本的云上部署与运维。以下是一些关于使用函数计算产品的合集和要点，帮助你更好地理解和应用这一服务。
真的很搞笑
280 0
sunrr
|
自然语言处理
在ModelScope中，你可以通过设置模型的参数来控制输出的阈值
在ModelScope中，你可以通过设置模型的参数来控制输出的阈值
sunrr
708 1
vohelon
|
API 语音技术
ModelScope-FunASR**有支持热词又支持时间戳的模型**。
【2月更文挑战第30天】ModelScope-FunASR**有支持热词又支持时间戳的模型**。
vohelon
671 2
ModelScope模型即服务

计算机视觉

热门文章

最新文章

  • 1
    Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
  • 2
    video-subtitle-remover（VSR）--开源AI去字幕方案深度解析
  • 3
    StoryWeaver：故事可视化生成模型，快速生成故事绘本，支持处理单角色和多角色的故事可视化任务
  • 4
    STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频
  • 5
    CogVideoX-Flash：智谱首个免费AI视频生成模型，支持文生视频、图生视频，分辨率最高可达4K
  • 6
    RF-DETR：YOLO霸主地位不保？开源 SOTA 实时目标检测模型，比眨眼还快3倍！
  • 7
    X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景
  • 8
    DisPose：清华北大等多所高校联合推出基于人物图像增强视频生成技术，实现对人物动画的准确控制和一致性
  • 9
    LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理
  • 10
    Cobalt：开源的流媒体下载工具，支持解析和下载全平台的视频、音频和图片，支持多种视频质量和格式，自动提取视频字幕
  • 1
    红外小目标检测新突破！异常感知检测头AA-YOLO：节俭又鲁棒，小样本也能精准识别
    677
  • 2
    基于YOLO11的交通违规检测系统（Python源码+数据集+Pyside6界面）
    822
  • 3
    video-subtitle-remover（VSR）--开源AI去字幕方案深度解析
    3662
  • 4
    NeurlPS 2025！多伦多大学TIRE助力3D/4D 生成精准保留主体身份
    462
  • 5
    【Github热门项目】DeepSeek-OCR项目上线即突破7k+星！突破10倍无损压缩，重新定义文本-视觉信息处理
    701
  • 6
    腾讯混元最新开源：一张图，秒变游戏大片
    801
  • 7
    漫画师福音！开源AI神器让线稿着色快如闪电！MagicColor：港科大开源多实例线稿着色框架，一键生成动画级彩图
    1369
  • 8
    ACTalker：港科大联合腾讯清华推出，多模态驱动的说话人视频生成神器
    608
  • 9
    这个模型让AI角色会说话还会演！MoCha：Meta联手滑铁卢大学打造对话角色视频生成黑科技
    1299
  • 10
    WorldScore：斯坦福开源世界生成模型评估新标杆：3000样本+九维指标，视频/4D/3D模型一网打尽
    977

    • 相关课程

    更多
  • 云原生AI套件：一键训练大模型及部署GPU共享推理服务
  • 个性化语音合成模型微调
  • ModelScope社区Library技术架构介绍

    • 相关电子书

    更多
  • DeepStream: GPU加速海量视频数据智能处理
  • 阿里巴巴高性能GPU架构与应用
  • GPU在超大规模深度学习中的发展和应用

    • 相关实验场景

    更多
  • 在云上部署ChatGLM2-6B大模型（GPU版）
  • 通过GPU云服务器训练GPT-2
    • 下一篇
    一条命令迁移，帮你实现 OpenClaw 与 Hermes Agent 记忆互通！