类目筛选
2024-10-17
567
阿里云开源 AI 应用开发框架：Spring AI Alibaba
阿里云开源 Spring AI Alibaba，旨在帮助 Java 开发者快速构建 AI 应用，共同构建物理新世界。
567
2024-05-15
117153
阿里云PAI大模型RAG对话系统最佳实践
本文为大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
117,153
2024-05-15
2410
大模型推理优化实践：KV cache复用与投机采样
在本文中，我们将详细介绍两种在业务中实践的优化策略：多轮对话间的 KV cache 复用技术和投机采样方法。我们会细致探讨这些策略的应用场景、框架实现，并分享一些实现时的关键技巧。
2,410
2024-09-03
2212
【算法精讲系列】通义模型Prompt调优的实用技巧与经验分享
本文详细阐述了Prompt的设计要素，包括引导语、上下文信息等，还介绍了多种Prompt编写策略，如复杂规则拆分、关键信息冗余、使用分隔符等，旨在提高模型输出的质量和准确性。通过不断尝试、调整和优化，可逐步实现更优的Prompt设计。
2,212
2024-11-15
2119
通义千问Qwen2.5-Coder 全系列来咯！强大、多样、实用
千问团队开源了强大的 Qwen2.5-Coder 系列模型，涵盖 0.5B 到 32B 六种尺寸，旨在推动开放代码模型的发展。该系列模型在代码生成、修复和推理等方面表现出色，支持多种编程语言，并在多个基准测试中达到 SOTA 水平。此外，Qwen2.5-Coder 还提供了丰富的应用场景，如代码助手、Artifacts 和 Interpreter，满足不同开发者的需求。
2,119
2025-02-14
523
DeepSeek-V3 高效训练关键技术分析
本文从模型架构、并行策略、通信优化和显存优化四个方面展开，深入分析了DeepSeek-V3高效训练的关键技术，探讨其如何以仅5%的算力实现对标GPT-4o的性能。
523