AI 助理
备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 文章 正文

modelscope调用的模型如何指定在特定gpu上运行？排除使用CUDA_VISIBLE_DEVICES环境变量

2023-12-18 1077 发布于北京
版权
举报
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
视觉智能开放平台，分割抠图1万点
视觉智能开放平台，图像通用资源包5000点
视觉智能开放平台，视频通用资源包5000点
简介： 由于个人需要，家里有多张卡，但是我只想通过输入device号的方式，在单卡上运行模型。如果设置环境变量的话我的其他服务将会受影响。

当我这样操作时，传入device为0或者“cuda:0”,都无法让其运行到指定gpu
self.skin_retouching = pipeline(Tasks.skin_retouching, model='damo/cv_unet_skin-retouching',device=device)
默认直接加载到多张卡上。
而且我发现对于不同的damo模型，使用这样的device传参方法，有的还会报错？难道达摩院内部的接口不统一吗？

对于我的需求我该如何修改我的代码？

文章标签：
GPU云服务器
异构计算
并行计算
达摩院
关键词：
modelscope模型
GPU云服务器模型
GPU云服务器运行
模型GPU云服务器
模型GPU云服务器运行
相关实践学习
部署Stable Diffusion玩转AI绘画（GPU云服务器）
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作，开启AIGC盲盒。
游客jylnbcvdoiqxg
+关注
1文章1问答
目录
打赏
0
0
1
1
2
分享
相关文章
蚝油菜花
|
5月前
|
人工智能 Linux iOS开发
exo：22.1K Star！一个能让任何人利用日常设备构建AI集群的强大工具，组成一个虚拟GPU在多台设备上并行运行模型
exo 是一款由 exo labs 维护的开源项目，能够让你利用家中的日常设备（如 iPhone、iPad、Android、Mac 和 Linux）构建强大的 AI 集群，支持多种大模型和分布式推理。
蚝油菜花
1148 100
阿里云基础设施.
|
4月前
|
存储 测试技术 对象存储
容器计算服务ACS单张GPU即可快速搭建QwQ-32B推理模型
阿里云最新发布的QwQ-32B模型拥有320亿参数，通过强化学习大幅度提升了模型推理能力，其性能与DeepSeek-R1 671B媲美，本文介绍如何使用ACS算力部署生产可用的QwQ-32B模型推理服务。
阿里云基础设施.
283 66
小华同学ai
|
3月前
|
人工智能 自然语言处理 API
8.6K star！完全免费+本地运行+无需GPU，这款AI搜索聚合神器绝了！
FreeAskInternet是一款革命性的开源项目，它完美结合了多引擎搜索和智能语言模型，让你在不联网、不花钱、不暴露隐私的情况下，获得媲美ChatGPT的智能问答体验。这个项目最近在GitHub上狂揽8600+星，被开发者称为"本地版Perplexity"。
小华同学ai
141 2
蚝油菜花
|
4月前
|
人工智能 自然语言处理 API
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
Proxy Lite 是一款开源的轻量级视觉语言模型，支持自动化网页任务，能够像人类一样操作浏览器，完成网页交互、数据抓取、表单填写等重复性工作，显著降低自动化成本。
蚝油菜花
394 11
Proxy Lite：仅3B参数的开源视觉模型！快速实现网页自动化，支持在消费级GPU上运行
云流雨洄
|
4月前
|
存储 人工智能 固态存储
轻量级AI革命：无需GPU就能运算的DeepSeek-R1-1.5B模型及其低配部署指南
随着AI技术发展，大语言模型成为产业智能化的关键工具。DeepSeek系列模型以其创新架构和高效性能备受关注，其中R1-1.5B作为参数量最小的版本，适合资源受限场景。其部署仅需4核CPU、8GB RAM及15GB SSD，适用于移动对话、智能助手等任务。相比参数更大的R1-35B与R1-67B+，R1-1.5B成本低、效率高，支持数学计算、代码生成等多领域应用，是个人开发者和初创企业的理想选择。未来，DeepSeek有望推出更多小型化模型，拓展低资源设备的AI生态。
云流雨洄
713 8
蚝油菜花
|
5月前
|
存储 人工智能 算法
Magic 1-For-1：北大联合英伟达推出的高质量视频生成量化模型，支持在消费级GPU上快速生成
北京大学、Hedra Inc. 和 Nvidia 联合推出的 Magic 1-For-1 模型，优化内存消耗和推理延迟，快速生成高质量视频片段。
蚝油菜花
329 3
Magic 1-For-1：北大联合英伟达推出的高质量视频生成量化模型，支持在消费级GPU上快速生成
技术小达人
|
4月前
|
存储 文件存储 对象存储
AI 场景下，函数计算 GPU 实例模型存储最佳实践
AI 场景下，函数计算 GPU 实例模型存储最佳实践
技术小达人
106 0
sunrr
|
自然语言处理
在ModelScope中，你可以通过设置模型的参数来控制输出的阈值
在ModelScope中，你可以通过设置模型的参数来控制输出的阈值
sunrr
367 1
vohelon
|
API 语音技术
ModelScope-FunASR**有支持热词又支持时间戳的模型**。
【2月更文挑战第30天】ModelScope-FunASR**有支持热词又支持时间戳的模型**。
vohelon
363 2
ModelScope运营小助手
|
人工智能 API 决策智能
Modelscope结合α-UMi：基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent，由于模型容量和预训练能力获取的限制，无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
ModelScope运营小助手
800 3
ModelScope模型即服务

计算机视觉
+关注

热门文章

最新文章

  • 1
    X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景
    63
  • 2
    Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
    60
  • 3
    LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理
    52
  • 4
    EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
    51
  • 5
    video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述
    44
  • 6
    UI-TARS：字节跳动开源专注于多平台 GUI 自动化交互的视觉语言模型
    42
  • 7
    InvSR：开源图像超分辨率生成模型，提升分辨率，修复老旧照片为超清图像
    38
  • 8
    SkyReels-V1：短剧AI革命来了！昆仑开源视频生成AI秒出影视级短剧，比Sora更懂表演！
    34
  • 9
    STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频
    32
  • 10
    Cobalt：开源的流媒体下载工具，支持解析和下载全平台的视频、音频和图片，支持多种视频质量和格式，自动提取视频字幕
    28
  • 1
    漫画师福音！开源AI神器让线稿着色快如闪电！MagicColor：港科大开源多实例线稿着色框架，一键生成动画级彩图
    343
  • 2
    ACTalker：港科大联合腾讯清华推出，多模态驱动的说话人视频生成神器
    179
  • 3
    这个模型让AI角色会说话还会演！MoCha：Meta联手滑铁卢大学打造对话角色视频生成黑科技
    229
  • 4
    Mini DALL·E 3：设计师福音！开源AI绘画神器：对话式修图+智能问答，草图秒变商业大作
    291
  • 5
    WorldScore：斯坦福开源世界生成模型评估新标杆：3000样本+九维指标，视频/4D/3D模型一网打尽
    242
  • 6
    EasyControl Ghibli：在线体验一键生成宫崎骏动画风，开源AI模型让你的照片秒变吉卜力
    754
  • 7
    DreamActor-M1：字节跳动推出AI动画黑科技，静态照片秒变生动视频
    515
  • 8
    AI-ClothingTryOn：服装店老板连夜下架试衣间！基于Gemini开发的AI试衣应用，一键生成10种穿搭效果
    346
  • 9
    Runway Gen-4：AI视频生成新纪元！高保真特效一键生成影视级内容
    255
  • 10
    Amodal3R：3D重建领域新突破！这个模型让残破文物完美还原，3D重建结果助力文物修复
    161

    • 相关课程

    更多
  • 云原生AI套件：一键训练大模型及部署GPU共享推理服务
  • 个性化语音合成模型微调
  • ModelScope社区Library技术架构介绍

    • 相关电子书

    更多
  • DeepStream: GPU加速海量视频数据智能处理
  • 阿里巴巴高性能GPU架构与应用
  • GPU在超大规模深度学习中的发展和应用

    • 相关实验场景

    更多
  • 通过GPU云服务器训练GPT-2
  • 通过GPU云服务器生成AIGC 3D模型
  • 在云上部署ChatGLM2-6B大模型（GPU版）
  • 部署Stable Diffusion玩转AI绘画（GPU云服务器）
    • 下一篇
    阿里云oss简介和使用流程
    AI助理

    你好，我是AI助理

    可以解答问题、推荐解决方案等