阿里云发布并开源全新的推理模型通义千问QwQ-32B。通过大规模强化学习，千问QwQ-32B在数学、代码及通用能力上实现质的飞跃，整体性能比肩DeepSeek-R1。在保持强劲性能的同时，千问QwQ-32B还大幅降低了部署使用成本，在消费级显卡上也能实现本地部署。此次，阿里云采用宽松的Apache2.0协议，将千问QwQ-32B模型向全球开源，所有人都可免费下载及商用。同时，用户将可通过通义APP免费体验最新的千问QwQ-32B模型。
QwQ-32B 在一系列基准测试中进行了评估，测试了数学推理、编程能力和通用能力。下图展示了 QwQ-32B 与其他模型的性能对比，包括 DeepSeek-R1-Distilled-Qwen-32B、DeepSeek-R1-Distilled-Llama-70B、o1-mini 以及原始的 DeepSeek-R1。
在数学能力的 AIME24 评测集上，以及评估代码能力的 LiveCodeBench 中，通义千问 QwQ-32B 测试表现与 DeepSeek-R1 相当，远胜于 o1-mini 及相同尺寸的 R1 后续模型。
由Meta首席科学家杨立昆领衔的“最难LLM评估排行榜”LiveBench、谷歌等提出的指令遵循能力IFEval测试集、由加州大学伯克利分校等提出的评估调用函数或工具方面的BFCL测试中，QwQ-32B的得分均超越了DeepSeek- R1。
性能比肩全球最强开源推理模型
千问QwQ-32B是探索推理模型的最新成果。在冷启动基础上，通义团队针对数学和编程任务、通用能力分别进行了两轮大规模强化学习，在32B的模型尺寸上获得了令人惊喜的推理能力提升，应证了大规模强化学习可显著提高模型性能。
在一系列权威基准测试中，千问QwQ-32B 模型表现异常出色，几乎完全超越了OpenAI-o1-mini，比肩最强开源推理模型DeepSeek-R1：在测试数学能力的AIME24评测集上，以及评估代码能力的LiveCodeBench中，千问QwQ-32B表现与DeepSeek-R1相当，远胜于o1-mini及相同尺寸的R1蒸馏模型；在由Meta首席科学家杨立昆领衔的“最难LLMs评测榜”LiveBench、谷歌等提出的指令遵循能力IFEval评测集、由加州大学伯克利分校等提出的评估准确调用函数或工具方面的BFCL测试中，千问QwQ-32B的得分均超越了DeepSeek-R1。
在冷启动基础上，我们针对数学和编程任务、通用能力分别进行了两轮大规模强化学习。在初始阶段，我们特别针对数学和编程任务进行了强化学习。与依赖传统的奖励模型不同，我们通过生成答案的正确性来为数学问题提供反馈，并通过代码执行服务器评估生成的代码成功率，通过测试来提供代码是否提供反馈。
我们发现在强化学习延伸过程中，随着训练轮次的推进，这两个领域中的性能均表现出持续的提升。
在第一阶段的强化学习之后，我们增加了另一个针对通用能力的强化学习。该阶段使用通用奖励模型并基于一些规则的验证器进行训练。我们发现，通过少量步骤的通用强化学习，提升其他通用能力，同时在数学和编程任务上的性能没有显着提升。
此外，通义千问QwQ-32B模型还集成了与智能体Agent相关的能力，产出能够在使用工具的同时进行批判性思考，并根据环境反馈调整推理过程。
目前，通义千问QwQ-32B已经在阿里云百炼，魔搭社区及HuggingFace上线开源，并采用了Apache 2.0开源协议，欢迎大家下载体验。
以下为 API 调用示例代码：
from openai import OpenAI import os # Initialize OpenAI client client = OpenAI( # If the environment variable is not configured, replace with your API Key: api_key="sk-xxx" # How to get an API Key：https://help.aliyun.com/zh/model-studio/developer-reference/get-api-key api_key=os.getenv("DASHSCOPE_API_KEY"), base_url="https://dashscope.aliyuncs.com/compatible-mode/v1" ) reasoning_content = "" content = "" is_answering = False completion = client.chat.completions.create( model="qwq-32b", messages=[ {"role": "user", "content": "Which is larger, 9.9 or 9.11?"} ], stream=True, # Uncomment the following line to return token usage in the last chunk # stream_options={ # "include_usage": True # } ) print("\n" + "=" * 20 + "reasoning content" + "=" * 20 + "\n") for chunk in completion: # If chunk.choices is empty, print usage if not chunk.choices: print("\nUsage:") print(chunk.usage) else: delta = chunk.choices[0].delta # Print reasoning content if hasattr(delta, 'reasoning_content') and delta.reasoning_content is not None: print(delta.reasoning_content, end='', flush=True) reasoning_content += delta.reasoning_content else: if delta.content != "" and is_answering is False: print("\n" + "=" * 20 + "content" + "=" * 20 + "\n") is_answering = True # Print content print(delta.content, end='', flush=True) content += delta.content
体验地址：
https://modelscope.cn/models/Qwen/QwQ-32B
https://huggingface.co/Qwen/QwQ-32B
Qwen Chat免费体验：
https://chat.qwen.ai/?models=Qwen2.5-Plus
消费级显卡即可本地部署
通义千问QwQ-32B既能提供极强的推理能力，又能满足更低的资源消耗需求，非常适合快速响应或对数据安全要求高的应用场景，开发者和企业可以在消费级硬件上轻松将其部署到本地设备中，进一步打造高度定制化的AI解决方案。
此外，千问QwQ-32B模型中还集成了与智能体Agent相关的能力，使其能够在使用工具的同时进行批判性思考，并根据环境反馈调整推理过程。通义团队表示，未来将继续探索将智能体与强化学习的集成，以实现长时推理，探索更高智能进而最终实现AGI的目标。
从2023年至今，通义团队已开源200多款模型，包含大语言模型千问Qwen及视觉生成模型万相Wan等两大基模系列，开源囊括文本生成模型、视觉理解/生成模型、语音理解/生成模型、文生图及视频模型等「全模态」，覆盖从0.5B到110B等参数「全尺寸」，屡次斩获Chatbot Arena、司南OpenCompass等权威榜单「全球开源冠军」、「国产模型冠军」。截至目前，海内外AI开源社区中千问Qwen的衍生模型数量突破10万，超越美国Llama系列模型，成为全球最大的开源模型族群。
当然🏀如果您还想要了解更多通义大模型的模型详细信息以及直接进入体验，可以直接点击🔗https://www.aliyun.com/product/tongyi直接进入查看和体验哦~~
