请问下ModelScope本地部署 Qwen-14B-Chat-Int8报这个错是为啥?
请问下ModelScope本地部署 Qwen-14B-Chat-Int8报这个错是为啥?
展开
收起
1
条回答
写回答
写回答
-
gradio 3.47.1或3.29.0,transformers4.33.2，您先试一下，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
2023-10-24 21:48:36赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
10064
com/action/joingroup?code=v1是什么意思
7507
我希望通过damo-YOLO训练1500*1500的图片
8845
服务器上onnxruntime-gpu 调用结束，如何释放显存
5398
ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？
3624
我想使用 Modelscope 自己下载下来的本地模型，不知道怎么操作？
790
请问transformer里的库导入有问题是什么原因呢？目前的版本是4.19.2
1530
ModelScope在使用pipeline的时候分配gpu设备，没有用呀？
736
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2367
modelscope cache 环境变量是啥？
2848
展开全部
ConsisID：北大联合鹏城实验室等机构推出的文本到视频生成模型
117
HunyuanVideo：腾讯推出的开源视频生成模型，参数高达130亿
82
OOTDiffusion：开源AI虚拟试衣工具，智能适配性别和体型自动调整衣物
53
MagicDriveDiT：华为联合港中文等机构推出的自动驾驶高分辨率长视频生成方法
50
See3D：智源研究院开源的无标注视频学习 3D 生成模型
41
Sketch2Lineart：AI绘画工具，自动将手绘草图转换成清晰的线条画
113
EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
94
Aurora：xAI 为 Grok AI 推出新的图像生成模型，xAI Premium 用户可无限制访问
32
SNOOPI：创新 AI 文本到图像生成框架，提升单步扩散模型的效率和性能
32
PersonaCraft：首尔国立大学推出的单参考图像生成多身份全身图像技术
32
展开全部
