新模型==SeqGPTt: https://www.modelscope.cn/models/damo/nlp_seqgpt-560m/summary 是不是不支持加批处理的batch_size目前碰到的问题是这样de: >>在用pipline的时候 想使用批处理,于是传了batch_size参数。然后它报了这个错:'str' object has no attribute 'items' # p.forward>发现在seqgptpipline里preprocess这里没有处理inputs,是直接输出。
是不是seqgpt只能每次处理单条文本?如果我想批处理有解决方法吗
SeqGPT的问题seqgpt使用的text_generation pipeline暂时不支持批处理。此回答来自“魔搭ModelScope开发者联盟群 ①”