开发者社区 > ModelScope模型即服务 > 正文

为啥用多进程ModelScope锁不住东西?

"为啥用多进程ModelScope锁不住东西?

场景--长文本按句切分
一个请求有6条数据,需要按顺序逐条推理,占一个进程
然后三个请求,3个进程,各6条数据。
然后各个请求返回的结果,平分了这6条数据,即一个请求返回了两条数据
请求1,返回1,4条。请求2,返回2,5条。请求3,返回3,6条。"

展开
收起
小小爱吃香菜 2024-07-17 08:15:39 16 0
0 条回答
写回答
取消 提交回答

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
服务上云加速大家居产业C2M进程 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载

相关实验场景

更多