当我这样操作时，传入device为0或者“cuda:0”,都无法让其运行到指定gpuself.skin_retouching = pipeline(Tasks.skin_retouching, model='damo/cv_unet_skin-retouching',device=device)
默认直接加载到多张卡上。
而且我发现对于不同的damo模型，使用这样的device传参方法，有的还会报错？难道达摩院内部的接口不统一吗？
对于我的需求我该如何修改我的代码？
modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量
2023-12-18
1113
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
简介：
由于个人需要，家里有多张卡，但是我只想通过输入device号的方式，在单卡上运行模型。如果设置环境变量的话我的其他服务将会受影响。
相关文章
|
7月前
|
人工智能
Linux
iOS开发
exo：22.1K Star！一个能让任何人利用日常设备构建AI集群的强大工具，组成一个虚拟GPU在多台设备上并行运行模型
exo 是一款由 exo labs 维护的开源项目，能够让你利用家中的日常设备（如 iPhone、iPad、Android、Mac 和 Linux）构建强大的 AI 集群，支持多种大模型和分布式推理。
1562
100
101
|
6月前
|
存储
测试技术
对象存储
容器计算服务ACS单张GPU即可快速搭建QwQ-32B推理模型
阿里云最新发布的QwQ-32B模型拥有320亿参数，通过强化学习大幅度提升了模型推理能力，其性能与DeepSeek-R1 671B媲美，本文介绍如何使用ACS算力部署生产可用的QwQ-32B模型推理服务。
320
66
66
|
6月前
|
人工智能
自然语言处理
API
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
Proxy Lite 是一款开源的轻量级视觉语言模型，支持自动化网页任务，能够像人类一样操作浏览器，完成网页交互、数据抓取、表单填写等重复性工作，显著降低自动化成本。
460
11
12
|
6月前
|
存储
人工智能
固态存储
轻量级AI革命：无需GPU就能运算的DeepSeek-R1-1.5B模型及其低配部署指南
随着AI技术发展，大语言模型成为产业智能化的关键工具。DeepSeek系列模型以其创新架构和高效性能备受关注，其中R1-1.5B作为参数量最小的版本，适合资源受限场景。其部署仅需4核CPU、8GB RAM及15GB SSD，适用于移动对话、智能助手等任务。相比参数更大的R1-35B与R1-67B+，R1-1.5B成本低、效率高，支持数学计算、代码生成等多领域应用，是个人开发者和初创企业的理想选择。未来，DeepSeek有望推出更多小型化模型，拓展低资源设备的AI生态。
1040
8
9
|
7月前
|
存储
人工智能
算法
Magic 1-For-1：北大联合英伟达推出的高质量视频生成量化模型，支持在消费级GPU上快速生成
北京大学、Hedra Inc. 和 Nvidia 联合推出的 Magic 1-For-1 模型，优化内存消耗和推理延迟，快速生成高质量视频片段。
364
3
3
|
6月前
|
存储
文件存储
对象存储
|
8月前
|
存储
文件存储
对象存储
AI 场景下，函数计算 GPU 实例模型存储最佳实践
当前，函数计算 FC 已被广泛应用在各种 AI 场景下，函数计算支持通过使用容器镜像部署 AI 推理应用，并且提供多种选项来访问训练好的模型。为了帮助开发者高效地在函数计算上部署 AI 推理应用，并快速解决不同场景下的模型存储选型问题，本文将对函数计算的 GPU 模型存储的优缺点及适用场景进行对比分析，以期为您的模型存储决策提供帮助。
277
3
3
|
8月前
|
人工智能
物联网
如何将Together AI上基于Qwen2-7B训练的模型部署到ModelScope平台
如何将Together AI上基于Qwen2-7B训练的模型部署到ModelScope平台
181
10
10
|
人工智能
开发框架
物联网
赢万元奖金 | 第七届CCF开源创新大赛ModelScope开源模型应用挑战赛开启报名！
第七届CCF开源创新大赛（后简称“大赛”） 由中国计算机学会（CCF）主办，长沙理工大学、CCF开源发展委员会联合承办。
211
1
1
|
机器学习/深度学习
并行计算
算法框架/工具
热门文章
最新文章
1
Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
2
LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理
3
X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景
4
InvSR：开源图像超分辨率生成模型，提升分辨率，修复老旧照片为超清图像
5
video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述
6
UI-TARS：字节跳动开源专注于多平台 GUI 自动化交互的视觉语言模型
7
EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
8
JoyCaption：开源的图像转提示词生成工具，支持多种风格和场景，性能与 GPT4o 相当
9
腾讯混元最新开源：一张图，秒变游戏大片
10
PSHuman：开源单图像3D人像重建技术，一张照片就能生成3D人像模型
1
腾讯混元最新开源：一张图，秒变游戏大片
154
2
漫画师福音！开源AI神器让线稿着色快如闪电！MagicColor：港科大开源多实例线稿着色框架，一键生成动画级彩图
421
3
ACTalker：港科大联合腾讯清华推出，多模态驱动的说话人视频生成神器
219
4
这个模型让AI角色会说话还会演！MoCha：Meta联手滑铁卢大学打造对话角色视频生成黑科技
280
5
Mini DALL·E 3：设计师福音！开源AI绘画神器：对话式修图+智能问答，草图秒变商业大作
345
6
WorldScore：斯坦福开源世界生成模型评估新标杆：3000样本+九维指标，视频/4D/3D模型一网打尽
295
7
EasyControl Ghibli：在线体验一键生成宫崎骏动画风，开源AI模型让你的照片秒变吉卜力
852
8
DreamActor-M1：字节跳动推出AI动画黑科技，静态照片秒变生动视频
573
9
AI-ClothingTryOn：服装店老板连夜下架试衣间！基于Gemini开发的AI试衣应用，一键生成10种穿搭效果
407
10
Runway Gen-4：AI视频生成新纪元！高保真特效一键生成影视级内容
336