在ModelScope中,麻烦问下,通过modelscope将Qwen-14B部署至阿里云函数计算FC,需要填写模型任务类型,Qwen-14B的模型任务类型是什么?text-generation吗?任务类型text-generation没问题吧?
问题一:在 ModelScope 中将 Qwen-14B 部署到阿里云函数计算(FC)时,需要填写模型任务类型。对于 Qwen-14B 模型,它的模型任务类型是文本生成(text-generation)。
问题二:是的,Qwen-14B 的任务类型是文本生成(text-generation)。该模型专注于生成与给定文本相关的连续文本输出,例如聊天机器人、故事生成等。
因此,在使用 ModelScope 部署 Qwen-14B 模型时,请确保选择任务类型为文本生成(text-generation)以正确配置和调用模型。
以下是一些常见的任务类型:
文本分类:用于对文本进行分类,例如情感分析、新闻分类等。
文本生成:用于生成文本,例如聊天机器人、自动摘要等。
语音识别:用于将语音转换为文本,例如语音输入、语音识别等。
机器翻译:用于将文本从一种语言翻译成另一种语言。
问答系统:用于回答用户的问题,例如智能客服、知识图谱问答等。
问题一:在ModelScope中,将Qwen-14B部署至阿里云函数计算FC时,需要填写模型任务类型。根据我的了解,Qwen-14B的模型任务类型应该是文本生成(text-generation)。
问题二:是的,任务类型text-generation是正确的选择。
我觉得fc目前部署应该显存不够~针对建议先用qwen -7B ,然后我们最近会支持int4 检查下模型文件下的configuration.json里面写有对应模型的task
从魔搭swingdeploy一键部署页面,部署QWen模型至阿里云函数计算FC,使用链路上会比较简单————此回答整理自钉群:“魔搭ModelScope开发者联盟群 ①”