modelscope微调的数据集中添加了托底话术,没回答托底话术后面的乱七八糟的问题都回答,怎么调?

modelscope微调的数据集中,添加了托底话术,没回答托底话术,后面的乱七八糟的问题都回答,怎么调?

展开
收起
小小爱吃香菜 2024-03-18 19:49:02 75 分享 版权
2 条回答
写回答
取消 提交回答
  • 如果在modelscope微调的数据集中添加了托底话术(fallback responses),确保模型在遇到未知问题时能给出托底回复,而在实际应用中模型没有按照预期响应托底话术,而是继续回答其它问题,这可能涉及以下几点调整:

    • 检查模型的决策边界和阈值设定,确保在无法确定答案时能够触发托底策略。
    • 确认微调过程中是否充分考虑到了托底话术的学习,例如,在训练数据中明确标记哪些是应当触发托底的情况,并给予相应的正向反馈。
    • 如果模型具有置信度评分功能,可以通过设置阈值来决定何时启用托底话术。

    具体实现时,可能需要修改模型的推理代码逻辑,确保在模型输出的置信度低于某个阈值或其它条件满足时插入托底话术。如果modelscope提供了专门的接口或参数控制这一行为,您需要查阅其官方文档或API说明来了解如何正确配置和调用。

    2024-03-19 11:09:06
    赞同 展开评论
  • 全部不使用history也可以。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-03-18 20:43:47
    赞同 2 展开评论

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

热门讨论

热门文章

还有其他疑问?
咨询AI助理