ModelScope中背景是我在做一个ner任务 在qwen1.8b微调,我把ner里的多个属性词单独拆开来问,比如:需要抽取国家、省份、城市,text为:中国福建省厦门市 训练数据为{instruction:国家,input:text,output:中国}{instruction:省份,input:text,output:福建省}{instruction:城市,input:text,output:厦门市} 我现在推理的时候是把 query = f'{instruction}\n{input}' 依次问每一属性 每次都需要对input编码 再去推理 有点浪费时间 你觉得我这个任务整体框架上该怎么调整比较好?
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352