备案控制台

开发者社区 ModelScope模型即服务计算机视觉正文

ModelScope服务器上做模型量化，报了这个错？

ModelScope服务器上做模型量化，报了这个错？
v100,bnb装了

展开

收起

真的很搞笑 2023-10-24 16:44:45 124 版权

1 条回答

写回答

取消提交回答

芯在这

直接不量化好了, 用lora好了, 别用qlora了，建议用3090, A10的机器，V100有点老了，你试试lora_ddp_ds的微调版本，lora效果比qlora好。建议用lora_ddp_ds的微调脚本, 不需要装bnb, 效果好, 显存估计20GB左右，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2023-10-24 21:28:02

赞同展开评论

相关问答

阿里云ecs服务器可以用来跑大模型吗，应该选择哪种类型？

70

1

0

在4卡4090（24G）服务器上利用modelscope离线部署Qwen2vl-Flux时报错

239

1

0

modelscope-funasr这个量化模型在哪里下载？

184

0

0

modelscope-funasr服务端docker启的启动没有报错，但连不上服务器，怎么回事？

171

1

0

为什么在云服务器和本地能直接用127.0.0.1，在modelscope需要环境变量呢？

99

1

0

ModelScope在windows服务器上训练的时候出现这个错误怎么办？执行的时候报错了

148

1

0

在modelscope-funasr中想问下只跑cpu，本地录音文件转文本，需要什么配置的服务器呀？

135

0

0

modelscope 安装是成功了，在服务器上弄时失败，怎么解决？

106

1

0

请问ModelScope自己学习和本地开发的话推荐什么样的服务器配置？

91

0

0

ModelScope有没有什么参数能让大模型不死锁在一个问题上？

90

0

0

ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

相关文章

pytorch基于AnimeFace128数据集训练DCGAN

高效率办公PDF批量处理：批量OCR识别PDF区域文字内容，用PDF内容批量改名或导出表格的货物运单应用案例

机器视觉软件平台哪个好：2025领衔的选型指南

机器视觉公司有哪些：德创测控引领，产教融合优选指南

机器视觉公司有哪些：国产平台德创引领产教融合

热门讨论

热门文章

com/action/joingroup?code=v1是什么意思

ModelScope下载速度慢怎么解决？

我希望通过damo-YOLO训练1500*1500的图片

ModelScope中，模型下载默认路径在哪个路径？

ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？

如何下载modelscope模型？

cpu部署报错 Torch not compiled with CUDA enabled

服务器上onnxruntime-gpu 调用结束，如何释放显存

在ModelScope中，下载模型时的ssl问题怎么解决？!

在ModelScope中，请问模型下载到本地的具体方法？

展开全部

Manga Image Translator：开源的漫画文字翻译工具，支持多语言翻译并嵌入原图，保持漫画的原始风格和布局

Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频

RF-DETR：YOLO霸主地位不保？开源 SOTA 实时目标检测模型，比眨眼还快3倍！

video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述

X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景

STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频

UI-TARS：字节跳动开源专注于多平台 GUI 自动化交互的视觉语言模型

SPAR3D：一张图片就能生成3D模型，每个物体的重建时间仅需0.7秒！

LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理

PSHuman：开源单图像3D人像重建技术，一张照片就能生成3D人像模型

展开全部

还有其他疑问?