"为啥用多进程ModelScope锁不住东西?
场景--长文本按句切分
一个请求有6条数据,需要按顺序逐条推理,占一个进程
然后三个请求,3个进程,各6条数据。
然后各个请求返回的结果,平分了这6条数据,即一个请求返回了两条数据
请求1,返回1,4条。请求2,返回2,5条。请求3,返回3,6条。"
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352