备案控制台

开发者社区 ModelScope模型即服务计算机视觉正文

ModelScope中，帮忙看下图片上是什么问题？24g显存不够加载模型不是有lora量化

ModelScope中，帮忙看下图片上是什么问题？24g显存不够加载模型不是有lora量化
lQLPJx9QIoRDidjMmM0CNbC0Xge2IMtzHAUWjqoT30IA_565_152.png

展开

收起

多麻辣哦 2023-10-18 20:24:37 130 版权

1 条回答

写回答

取消提交回答

超爱吃辣

这个是显存的问题的是的模型13b, 不使用量化, 需要26GB.lora是微调的方法, 量化是 quantization_bit——此回答整理自钉群：魔搭ModelScope开发者联盟群 ①

2023-10-18 21:43:11

赞同展开评论

相关问答

modelscope-funasr这个量化模型在哪里下载？

156

0

0

ModelScope未量化模型推理很快，双卡推理也很快，只有4卡非常慢，怎么解决？

94

0

0

awq量化模型，启动时，报图中警告，并且ModelScope模型推理速度非常慢，这应该怎么办？

297

1

0

modelscope中使用:swift export，来合并量化模型，报错是为什么？

243

1

0

怎么设置可以实现合并￥量化后的ModelScope模型的group_size=64呢？

127

2

0

modelscope中关于用swift对LLM量化时，参数的含义咨询

170

1

0

modelscope中，在刚量化完一层时出现“已杀死”就直接结束进程是什么问题？

101

1

0

ModelScope量化过程中一直闪退，也没有报任何错误，怎么解决？

72

1

0

有人测过qwen2-72B-int4么，ModelScope量化后，精度下降了很多？

222

0

0

ModelScope中量化版本的最低的显卡配置是多少G呢？

90

1

0

ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

相关文章

开源赋能：重塑能源管理安全范式，驱动企业低碳转型新革命

零压力了解 LoRA 微调原理

CMSIS-NN：ARM Cortex-M处理器的高效神经网络内核——论文解读

μNAS：面向微控制器的约束神经架构搜索——论文解读

AR 巡检与普通巡检有哪些区别，有哪些优势｜阿法龙XR云平台

热门讨论

热门文章

cpu部署报错 Torch not compiled with CUDA enabled

ModelScope中，模型下载默认路径在哪个路径？

我希望通过damo-YOLO训练1500*1500的图片

如何下载modelscope模型？

ModelScope下载速度慢怎么解决？

com/action/joingroup?code=v1是什么意思

服务器上onnxruntime-gpu 调用结束，如何释放显存

ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？

在ModelScope中，请问模型下载到本地的具体方法？

modelscope cache 环境变量是啥？

展开全部

Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频

X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景

LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理

EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画

video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述

UI-TARS：字节跳动开源专注于多平台 GUI 自动化交互的视觉语言模型

STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频

WorldScore：斯坦福开源世界生成模型评估新标杆：3000样本+九维指标，视频/4D/3D模型一网打尽

InvSR：开源图像超分辨率生成模型，提升分辨率，修复老旧照片为超清图像

Cobalt：开源的流媒体下载工具，支持解析和下载全平台的视频、音频和图片，支持多种视频质量和格式，自动提取视频字幕

展开全部

还有其他疑问?