开发者社区 > ModelScope模型即服务 > 正文

modelscope-funasr的offline模型可以不进行缓存处理吗?

我当前需要将paraformer-large-contextual offline模型转换为RKNN模型部署到终端,遇到转换失败问题,需要对模型进行拆分,想参考online模型的拆分方式,我看到online模型拆分后在decoder部分需要进行缓存处理,想确认一下modelscope-funasr的offline模型可以不进行缓存处理吗?由于offline模型还要进行热词embedding处理,加上缓存处理复杂度较高!9b0f3b14e52a8570a42aa50b6b10eab8.jpg
lADPJx8Z3rFa9prNCrDNDkA_3648_2736.jpg
lADPJwY7aC_reJXNA8DNBQA_1280_960.jpg

展开
收起
三分钟热度的鱼 2024-01-17 18:53:29 79 0
0 条回答
写回答
取消 提交回答

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
基于英特尔 SSD 的虚拟机缓存解决SSD 立即下载
用户态高速块缓存方案 立即下载
高性能Web架构之缓存体系 立即下载