modelscope-funasr的timestamp预测目前不支持batch推理吗?
ModelScope-FunASR的timestamp预测模型确实支持batch推理。您可以使用多线程CPU或多个GPU进行解码,这在提高解码效率的同时,也支持大规模数据的处理。具体来说,您可以使用"infer.sh"脚本来进行批量推理,其中"--batch_size"参数可以用来设置每次推理处理的数据量。此外,ModelScope还为开发者提供了一套完整的语音识别链路技术模块和模型,以便构建面向应用的语音识别服务。
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352