ModelScope中，有大佬用过通义千问-14B-Chat-Int4吗？
ModelScope中，有大佬用过通义千问-14B-Chat-Int4吗，运行会卡在加载的地方一直不动，二十分钟都不动，有大佬知道什么原因吗
展开
收起
2
条回答
写回答
写回答
-
可能是由于以下原因导致的：
- 网络连接问题：如果您所在的网络环境不稳定或者网络速度较慢，可能会导致模型加载速度变慢。您可以尝试切换到更稳定或者更快速的网络环境，看看是否能够解决问题。
- 硬件配置问题：如果您使用的设备硬件配置较低，可能会导致模型加载速度变慢。您可以尝试升级设备的硬件配置，看看是否能够解决问题。
- 模型数据量过大：通义千问-14B-Chat-Int4模型的数据量非常大，如果您使用的存储空间不足，可能会导致模型加载速度变慢。您可以尝试清理不必要的文件，释放更多的存储空间，看看是否能够解决问题。
- 模型加载问题：如果模型的加载过程中出现了错误，可能会导致模型加载速度变慢。
2023-10-19 11:04:26赞同 展开评论 打赏 -
之前使用新版的7B-chat-int4时，没有安装deepspeed就不能很好加载与运行，不知道你是不是同样情况——此回答整理自钉群：魔搭ModelScope开发者联盟群 ①
2023-10-18 21:28:46赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
9924
com/action/joingroup?code=v1是什么意思
7403
我希望通过damo-YOLO训练1500*1500的图片
8785
服务器上onnxruntime-gpu 调用结束，如何释放显存
5342
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2320
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
2046
ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？
3568
modelscope cache 环境变量是啥？
2811
streamlit 生成链接无法访问，gradio只生成内网，无法生成公网
2738
在ModelScope中，请问模型下载到本地的具体方法？
1625
展开全部
Sketch2Lineart：AI绘画工具，自动将手绘草图转换成清晰的线条画
76
AnchorCrafter：中科院联合腾讯推出的AI虚拟主播带货视频制作技术
58
EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
52
LTX Video：Lightricks推出的开源AI视频生成模型
49
MVGenMaster：复旦联合阿里等实验室推出的多视图扩散模型
42
Fancy123：华中科技和华南理工推出的3D网格生成技术
33
关键点检测从入门到进阶
1333
OneDiffusion：无缝支持双向图像合成和理解的开源扩散模型
28
OminiControl：AI图像生成框架，实现图像主题控制和空间精确控制
25
iDP3：斯坦福大学联合多所高校推出的改进型3D视觉运动策略
25
展开全部
