大家好,我是初学者,想从一个简单的RAG程序开始了解基于LLM的NLP。
我使用的程序中模型的配置如图所示:
程序的工作流程是让先读取一个简单的文档,然后对内容进行分析推理,如下图:
对其进行简单的问题,程序可以正确的回答:
但是对于稍微需要逻辑推理的问题则无法正确回答:
请问以上这种情况是哪方面的问题?LLM的问题?分词器设置问题?
谢谢。
你遇到的情况可能是LLM的推理能力限制导致的,也有可能是分词器设置不够优化影响了模型的理解能力。建议检查模型的训练数据和分词器设置,必要时可以尝试调整参数或更换更擅长逻辑推理的模型试试。如果还是不理解的话,可以直接询问阿里云客服,或者提交工单给阿里云的技术顾问,回答不易,麻烦大佬给个采纳,谢谢。