类目筛选
2024-05-15
1650
大模型推理优化实践：KV cache复用与投机采样
在本文中，我们将详细介绍两种在业务中实践的优化策略：多轮对话间的 KV cache 复用技术和投机采样方法。我们会细致探讨这些策略的应用场景、框架实现，并分享一些实现时的关键技巧。
1,650
2024-05-15
116227
阿里云PAI大模型RAG对话系统最佳实践
本文为大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
116,227
2024-11-21
58
突破T-SQL限制：利用CLR集成扩展RDS SQL Server的功能边界
CLR集成为SQL Server提供了强大的扩展能力，突破了T-SQL的限制，极大地拓展了SQL 的应用场景，如：复杂字符串处理、高性能计算、图像处理、机器学习集成、自定义加密解密等，使开发人员能够利用 .NET Framework的丰富功能来处理复杂的数据库任务。
58
2024-05-15
62605
通义千问开源模型在PAI灵骏的最佳实践
本文将展示如何基于阿里云PAI灵骏智算服务，在通义千问开源模型之上进行高效分布式继续预训练、指令微调、模型离线推理验证以及在线服务部署。
62,605
2024-05-15
2929
从Citus深度解密如何基于PostgreSQL做分布式数据库
前言分布式数据库能够解决海量数据存储、超高并发吞吐、大表瓶颈以及复杂计算效率等单机数据库瓶颈难题，当业务体量即将突破单机数据库承载极限和单表过大导致性能、维护问题时，分布式数据库是解决上述问题的高性价比方案。数据库作为分布式改造的最大难点，就是"和使用单机数据库一样使用分布式数据库"，这也一直是广大...
2,929
2024-11-21
52
“无”中生有：基于知识增强的RAG优化实践
本文作者基于自身在RAG技术领域长达半年的实践经验，分享了从初识RAG的潜力到面对实际应用挑战的心路历程，以及如何通过一系列优化措施逐步解决这些挑战的过程。
52
