Qwen2.5 工具调用的流式响应格式也太难用了

[
  {"function": {"arguments": "\"坐标\"", "name": "required", "id": "call_04f13ca7c76f40d6adb5db1", "index": 0, "type": "function"}},
  {"function": {"arguments": "\": [0, ", "name": "", "id": "", "index": 0, "type": "function"}},
  {"function": {"arguments": " 5,", "name": "", "id": "", "index": 0, "type": "function"}},
  {"function": {"arguments": " 0], \"物体名\"", "name": "", "id": "", "index": 0, "type": "function"}},
  {"function": {"arguments": "=\"\": \"树\"", "name": "", "id": "", "index": 0, "type": "function"}},
  {"function": {"arguments": "\"]", "id": "", "index": 0, "type": "function"}}
]

上面是一个简单的qwen2.5工具调用,api流式回复每一段的内容。居然从中间把arguments分成一段一段的了,第一眼看还以为是乱码呢。。。。为啥不整体拆分而是要从中间拆分啊

展开
收起
丶七步 2025-03-07 15:52:21 45 发布于江苏 分享
分享
版权
举报
1 条回答
写回答
取消 提交回答
  • 而且如果不开启强制调用工具,就会非常不稳定,同样的提示词明显要调用工具的,结果一会调一会不调。帖子发的这个api回复的工具调用,不但拆分的很难搞,而且函数名name也不对~。~经常都是乱的。貌似本地ollama部署的qwen2.5还比官网api回复的稳定些,也不会像这样拆分断句。

    2025-03-07 15:53:48 举报
    赞同 234 评论

    评论

    全部评论 (0)

    登录后可评论

基于通义系列大模型和开源大模型的一站式大模型服务平台,提供「生成式大模型的全流程应用工具」和「企业大模型的全链路训练工具」。为大模型,也为小应用。 阿里云百炼官网网址:https://www.aliyun.com/product/bailian

热门讨论

热门文章

还有其他疑问?
咨询AI助理