这篇文章介绍了使用开源工具NextChat和Higress搭建的一个模拟ChatGPT和通义千问对话PK的测试场景。
XTuner和魔搭社区（SWIFT）合作引入了一项长序列文本训练技术，该技术能够在多GPU环境中将长序列文本数据分割并分配给不同GPU，从而减少每个GPU上的显存占用。通过这种方式，训练超大规模模型时可以处理更长的序列，提高训练效率。魔搭社区的SWIFT框架已经集成了这一技术，支持多种大模型和数据集的训练。此外，SWIFT还提供了一个用户友好的界面，方便用户进行训练和部署，并且支持评估功能。
本文以百炼官方文档问答助手为例，介绍如何基于百炼平台打造基于LlamaIndex的RAG文档问答产品。我们基于百炼平台的底座能力，以官方帮助文档为指定知识库，搭建了问答服务，支持钉钉、Web访问。介绍了相关技术方案和主要代码，供开发者参考。
在当今 GPT 技术盛行的时代，大模型推动了向量检索技术的迅猛发展。向量检索相较于传统的基于关键词的检索方法，能够更精准地捕捉数据之间的语义关系，极大提升了信息检索的效果。特别是在自然语言处理、计算机视觉等领域，向量能够将不同模态的数据在同一空间中进行表达和检索，推动了智能推荐、内容检索、RAG 和知识库等应用的广泛普及。阿里云表格存储（Tablestore）的多元索引提供了向量检索能力。表格存储是一款 Serverless 的分布式结构化数据存储服务，诞生于 2009 年阿里云成立时，主要特点是分布式、Serverless 开箱即用、按量付费、水平扩展和查询功能丰富和性能优秀等。
当代AI来势汹汹，本文从AI的特点、对研发的挑战、AI的应用工程和场景分化等剖析了AI时代的应用工程化架构演进之路。