在ModelScope中提供很多重复的tool，加了一些prompt限定词也无效，有什么经验么？
在ModelScope中，MSAgent-Qwen-7B 我无论用qwen_prompt还是ms_prompt ，返回的结果都会提供很多重复的tool，加了一些prompt限定词也无效，有什么经验么？
展开
收起
1
条回答
写回答
写回答
-
直接使用原始模型chat功能的话是会存在这个问题，因为没有把模型生成的api请求去调用对应的模型服务，模型就容易出现幻觉，自己去生成执行部分结果，生成的肯定是错误的，就会导致后面不断重复。我们后面也会优化下模型，对于这种不拼接请求结果的生成及时停止生成。
可以用我们agent来尝试，先注册一个api，然后agent会自动把模型生成的api请求去调用服务产生结果后，重新拼接给到大模型继续生成
https://github.com/modelscope/modelscope-agent/blob/master/demo/demo_register_new_tool.ipynb如果还是要用chat的话，可以先尝试用手动截断的方式。此回答来自“魔搭ModelScope开发者联盟群 ①”
2023-09-19 22:58:04赞同 展开评论 打赏
相关问答
热门讨论
热门文章
com/action/joingroup?code=v1是什么意思
3051
ModelScope中，模型下载默认路径在哪个路径？
2296
我希望通过damo-YOLO训练1500*1500的图片
6792
Modelscope魔塔的创空间的文件怎么下载到本地呀？
3076
服务器上onnxruntime-gpu 调用结束，如何释放显存
3101
ModelScope 使用14B模型推理时报这个错误？
750
ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？
1151
streamlit 生成链接无法访问，gradio只生成内网，无法生成公网
1554
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
859
在ModelScope中，请问模型下载到本地的具体方法？
578
展开全部
