# 大模型服务平台百炼 #
1
关注
1669内容
Qwen3：小而强，思深，行速
Qwen3（千问3）于北京时间4月29日凌晨发布，是Qwen系列大型语言模型的最新成员，具备全系列、开源最强、混合推理等特性。它包括两款MoE模型（Qwen3-235B-A22B和Qwen3-30B-A3B）及六个Dense模型，支持119种语言。Qwen3在代码、数学和通用能力测试中超越行业顶尖模型，如DeepSeek-R1和Grok-3。其旗舰版Qwen3-235B-A22B仅需4张H20即可本地部署，成本为DeepSeek-R1的35%。此外，Qwen3原生支持思考模式与非思考模式切换，降低复杂任务门槛，并支持MCP协议优化Agent架构。
开发更可控，部署更便捷：AgentScope 迈入1.0时代
AgentScope 1.0 是通义实验室推出的开源多智能体开发框架，旨在打造稳定、安全、开箱即用的智能体生产级解决方案。通过“核心框架+运行时+可视化工具”三层架构，支持智能体的构建、部署、监控全生命周期管理，具备实时干预、高效工具调用与智能上下文管理能力，助力开发者实现从“能跑”到“可控、可落地”的跨越。
全新开源通义千问Qwen3，它来了！
Qwen3是通义千问系列的最新模型，融合推理与非推理模式，兼具QwQ和Instruct模型能力。提供多种尺寸，包括235B-A22B、30B-A3B及六个Dense模型，大幅提升数学、代码、逻辑推理和对话能力，达到业界领先水平。旗舰模型Qwen3-235B-A22B在多场景测试中表现优异，小型模型如Qwen3-4B性能媲美大模型。用户可在阿里云百炼平台免费体验各100万Token。
# Qwen3-8B 与 Qwen3-14B 的 TTFT 性能对比与底层原理详解
通义千问Qwen3系列是通义实验室2025年推出的最新大模型，包含多种参数版本，其中Qwen3-8B与Qwen3-14B均支持32K token上下文。Qwen3-8B参数量较小，响应更快，适合低延迟交互；Qwen3-14B参数更多，推理更强，适用于复杂任务。两者在TTFT、架构优化、量化技术及部署方案上各有侧重，满足多样应用场景需求。
LLM推理成本直降60%：PD分离在大模型商业化中的关键价值
在LLM推理中，Prefill（计算密集）与Decode（访存密集）阶段特性不同，分离计算可提升资源利用率。本文详解vLLM框架中的PD分离实现及局限，并分析Dynamo、Mooncake、SGLang等主流方案，探讨KV缓存、传输机制与调度策略，助力LLM推理优化。建议点赞收藏，便于后续查阅。
意图识别准确率97.6%！高阶多轮对话RAG架构实战分享
本文系统解析NLU中意图识别与槽位抽取的4种技术方案：从提示词工程入门，到节点分离、RAG增强，再到多轮对话优化，覆盖不同场景的选型策略，助力AI智能体精准理解用户需求。
Qwen模型角色扮演最佳实践
角色扮演大模型通过模拟特定角色的行为、语言风格和情感表达，实现高度拟人化和定制化的互动体验。与传统通用模型相比，角色扮演模型在语言风格、性格特征和情绪反应上更加细腻，提供更真实的交互体验。本文介绍了如何通过system prompt、few-shot学习和微调等技术实现大模型的拟人化，包括使用阿里云百炼平台进行角色扮演测试，以及如何通过合成数据和Lora微调提高模型的表演效果。最终，展示了如何通过优化数据质量和训练策略，显著提升角色扮演模型的表现。
AI大模型开发语言排行
AI大模型开发涉及多种编程语言：Python为主流，用于算法研发；C++/CUDA优化性能；Go/Rust用于工程部署；Java适配企业系统；Julia等小众语言用于科研探索。
使用TensorRT LLM构建和运行Qwen模型
本文档介绍如何在单GPU和单节点多GPU上使用TensorRT LLM构建和运行Qwen模型，涵盖模型转换、引擎构建、量化推理及LoRA微调等操作，并提供详细的代码示例与支持矩阵。
免费试用