【5月更文挑战第10天】本文介绍了检索增强生成（RAG）技术，这是一种将AI模型与内部数据结合，提升处理和理解能力的方法。通过实时从大型文档库检索信息，扩展预训练语言模型的知识。文章通过示例说明了当模型需要回答未公开来源的内容时，RAG如何通过添加上下文信息来增强模型的回答能力。讨论了实际应用中令牌限制和文本分块的问题，以及使用文本嵌入技术解决相关性匹配的挑战。最后，概述了实现RAG的步骤，并预告后续将分享构建检索增强服务的详情。

ModelScope-Agent是一个交互式创作空间，它支持LLM（Language Model）的扩展能力，例如工具调用（function calling）和知识检索（knowledge retrieval）。它已经对相关接口进行了开源，以提供更原子化的应用LLM能力。用户可以通过Modelscope-Agent上的不同代理（agent），结合自定义的LLM配置和消息，调用这些能力。

【5月更文挑战第9天】 使用Python和预训练的AI模型，结合Gradio前端框架，创建了一个文本及PDF摘要聊天机器人。通过加载"FalconsAI/text_summarization"模型，实现文本和PDF的预处理，包括PDF合并与文本提取。聊天机器人接收用户输入，判断是文本还是PDF，然后进行相应的摘要生成。用户可以通过运行`app.py`启动机器人，访问`localhost:7860`与之交互，快速获取内容摘要。这个工具旨在帮助忙碌的人们高效获取信息。

本文为魔搭社区轻量级训练推理工具SWIFT微调实战教程系列

【5月更文挑战第7天】基于检索增强技术（RAG）构建大语言模型（LLM）应用程序实践

5月6日，幻方继1月份推出首个国产MoE模型，历时4个月，带来第二代MoE模型DeepSeek-V2，并开源了技术报告和模型权重，魔搭社区可下载体验。