tairvector_个人页

2023年06月

• 06.19 14:42:24
  发表了文章 2023-06-19 14:42:24

  基于LLM+Tair构建具备私域知识的专属Chatbot

  ChatGPT因为之前的一个故障，使我们得以一窥内部架构，其使用了Redis作为ChatGPT的Cache系统。Tair是企业版的内存数据库系统，兼容Redis生态，并且也提供了向量检索的能力，是阿里云上Redis的平替。本服务基于开源的langchain-ChatGLM实现，借助Tair的高性能内存引擎和向量索引能力，实现了“企业私域数据”的理解问答，以帮助企业快速构建专属Chatbot服务；并实现了对用户长Session聊天历史记录缓存，以摆脱LLM的Token数限制。模型ChatGLM-6B是由清华大学团队开发的是一个开源的、支持中英双语的对话语言模型，请自觉遵守用户协议、法律法规等。