备案控制台

开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope调用翻译模型时候，80g的gpu内存几乎占满了，在哪里设置内存分配比例？

ModelScope调用翻译模型时候，80g的gpu内存几乎占满了，在哪里设置内存分配比例？

展开

收起

鸡蛋灌饼儿 2023-02-06 12:36:21 475 0

1 条回答

写回答

取消提交回答

月亮很亮

减小batch size可以降低GPU显存的使用大小——该回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2023-02-06 18:03:38

赞同展开评论打赏

相关问答

计算机视觉

modelscope-funasr服务端部署的话，推荐什么样的GPU？

34

0

0

在modelscope-funasr如果使用GPU的话这个编译需要改什么？

37

0

0

在modelscope-funasr中funasr 中文实时的可以gpu部署吗？

39

0

0

ModelScope没有看见复制，模型选择、cpu/GPU选择有特别要求吗，有详细说明吗？

38

1

0

大佬，oracle单表增量同步时候源库服务器额外占用内存近2g，这不正常吧

520

1

0

服务器硬件中的内存宽带是指什么呢？

820

1

0

TSDB查询性能以及服务器内存

922

0

0

是否可以升级自定义镜像开通的云服务器ECS的CPU、内存、带宽、硬盘等？

1209

1

0

我想用持久内存型实例来运行我的参数服务器（PS），持久内存设置为内存使用方式，可以直接部署吗？

975

1

0

内存决定服务器的什么？

650

1

0

ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

热门讨论

热门文章

ModelScope中，模型下载默认路径在哪个路径？

com/action/joingroup?code=v1是什么意思

服务器上onnxruntime-gpu 调用结束，如何释放显存

我希望通过damo-YOLO训练1500*1500的图片

请问modelscope中，有一个依赖，kantts，要怎么安装？

ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？

在ModelScope中，请问模型下载到本地的具体方法？

ModelScope有没有人知道windows安装ttsfrd的方法或者ttsfrd源码？

请问在 ModelScope 上的模型断网使用报这个错误啥原因了?

streamlit 生成链接无法访问，gradio只生成内网，无法生成公网

展开全部

YOLOv10实战：红外小目标实战 | 多头检测器提升小目标检测精度

YOLOv10实战：SPPF原创自研 | SPPF_attention，重新设计加入注意力机制 | NEU-DET为案列进行展开

图像分类基础与实战

关键点检测从入门到进阶

关于flux.1 loras的8个问题

一种基于YOLOv8改进的高精度红外小目标检测算法（原创自研）

Stable Diffusion 介绍与入门

视觉AI技术体系及趋势概述

ModelScope模型使用与EAS部署调用

展开全部

相关课程

更多

云原生AI套件：一键训练大模型及部署GPU共享推理服务

73

1

去学习

相关电子书

更多

阿里巴巴高性能GPU架构与应用 立即下载

GPU在超大规模深度学习中的发展和应用 立即下载

云服务器ECS内存增强型实例re6全新发布 立即下载

相关实验场景

更多