modelscope-funasr为什么使用三方库torch_quant？
modelscope-funasr v0.8.8的export_model.py中，导出量化的torchscripts模型，为什么使用三方库torch_quant，而不是pytorch自带的quantization呀？
https://github.com/alibaba-damo-academy/FunASR/tree/v0.8.8/funasr/export
展开
收起
1
条回答
写回答
写回答
-
torch自带的识别率损失30%左右。细节可以看论文：
https://arxiv.org/abs/2305.11013 此回答整理自钉群“modelscope-funasr社区交流”2024-03-13 21:43:42赞同 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope-funasr的ASR 示例代码里报这个错误，如何解决？
31
如何提高qwen-7b-chat-int4的并行处理能力
1146
MGeo模型推理速度怎么提升？
27
modelscope-funasr大规模asr训练的话，还是用audio_datasets吗？
26
modelscope-funasr怎么使用 gpu 加速啊？
25
本地运行示例报错No module named 'deepspeed'
2718
关于通义千问Qwen-7B-Chat模型下载问题
1146
modelscope-funasr离线中文语音识别C++版本，有对音频的长度做限制吗？
136
modelscope-funasr“实时语音识别”是可以流式输入语音然后进行识别吗？
24
modelscope-funasr如何从本机磁盘加载模型文件？
40
展开全部
检索增强生成(RAG)实践：基于LlamaIndex和Qwen1.5搭建智能问答系统
391
基于LangChain-Chatchat实现的本地知识库的问答应用-快速上手（检索增强生成(RAG)大模型）
413
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
381
RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术
246
DashVector&千问7B模型，打造极简RAG 之 基于专属知识的问答服务实践
390
LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关
262
使用ModelScope社区搭建OCR应用
1252
ModelScope X 昇腾910快速上手
263
求助: 运行模型时报错module 'megatron_util.mpu' has no attribute 'get_model_parallel_rank'
314
中文竞技场（MS）大模型评测
97032
展开全部
