blmdxiao_个人页

2024年05月

• 05.29 10:15:54
  发表了文章 2024-05-29 10:15:54

  OpenIM Bot: 用LLM构建企业专属的智能客服

  OpenIM Bot 通过结合LLM和RAG技术，构建企业专属的智能客服系统。该系统通过优化向量存储、混合检索和查询分析，解决了LLM的幻觉、新鲜度、token长度和数据安全问题，提升了用户体验。向量存储和预处理步骤确保文档高质量，而混合检索结合文本和语义搜索，增强了检索结果的准确性。通过迭代优化，OpenIM Bot 提供了高效、智能的支持服务，减轻了支持团队的负担，提升了问题解决效率。

  
• 05.24 10:14:22
  发表了文章 2024-05-24 10:14:22

  RAG-GPT实践过程中遇到的挑战

  大型语言模型如ChatGPT带来了新的人机交互解决方案，但它们在获取最新知识和领域特定信息方面有限。为解决这个问题，有两种方法：微调LLM或使用检索增强生成（RAG）系统。RAG结合了检索机制和LLM的生成能力，从文档中检索相关信息，然后使用LLM生成答案。RAG系统降低了LLM的幻觉，允许关联特定领域知识，并减少了数据处理需求。然而，它也面临挑战，如内容缺失、相关文档检索不足、答案不在上下文中、提取错误和格式问题。RAG的优势在于它可以持续更新知识，但需要优化Chunking和Embedding策略、选择微调还是RAG，以及测试和监控系统。