Qwen2.5-Max 发布，探索大规模 MoE 模型的智能

过去有一种观点认为，持续地增长数据规模和模型参数规模是一种通向 AGI 的可能的路径。然而，整个大模型社区对于训练超大规模的模型的经验都相对匮乏，不论是稠密模型还是 MoE 模型。

今天，超大规模的 MoE 模型 Qwen2.5-Max 正式上线，Qwen 团队使用超过 20 万亿 token 的预训练数据及精心设计的后训练方案进行训练。

今天，我们很高兴能给大家分享 Qwen2.5-Max 目前所取得的成果。大家可以在Qwen Chat 直接体验，或是通过阿里云百炼平台调用 API 服务。

Qwen2.5-Max 模型性能

我们将 Qwen2.5-Max 与业界领先的模型（无论是闭源还是开源）在一系列广受关注的基准测试上进行了对比评估。

这些基准测试包括测试大学水平知识的 MMLU-Pro、评估编程能力的 LiveCodeBench，全面评估综合能力的 LiveBench，以及近似人类偏好的 Arena-Hard。我们的评估结果涵盖了基座模型和指令模型的性能得分。

首先，我们直接对比了指令模型的性能表现。指令模型即我们平常使用的可以直接对话的模型。

我们将 Qwen2.5-Max 与业界领先的模型（包括 DeepSeek V3、GPT-4o 和 Claude-3.5-Sonnet）的性能结果进行了对比。

在 Arena-Hard、LiveBench、LiveCodeBench 和 GPQA-Diamond 等基准测试中，Qwen2.5-Max 的表现领先。同时在 MMLU-Pro 等其他评估中也展现出了极具竞争力的成绩。

在基座模型的对比中，由于无法访问 GPT-4o 和 Claude-3.5-Sonnet 等闭源模型的基座模型，我们将 Qwen2.5-Max 与目前领先的开源 MoE 模型 DeepSeek V3、最大的开源稠密模型 Llama-3.1-405B，以及同样位列开源稠密模型前列的 Qwen2.5-72B 进行了对比。

对比结果如下图所示：

我们的基座模型在大多数基准测试中都展现出了显著的优势。我们相信，随着后训练技术的不断进步，下一个版本的 Qwen2.5-Max 将会达到更高的水平。

使用 Qwen2.5-Max

现在您可以在 Qwen Chat （https://chat.qwenlm.ai）中使用 Qwen2.5-Max，直接与模型对话，或者使用 artifacts、搜索等功能。

Qwen2.5-Max 的 API（模型名称为 「qwen-max-2025-01-25」）现已开放使用。

您可以先注册阿里云账号(https://account.alibabacloud.com/register/intl_register.htm)  并开通阿里云大模型服务平台，然后在控制台创建 API 密钥。

由于 Qwen 的 API 与 OpenAI API 兼容，我们可以直接按照使用 OpenAI API 的常规方式进行调用。

以下是使用 Python 调用 Qwen2.5-Max 的示例：

``` python
from openai import OpenAI
import os

client = OpenAI(
    api_key=os.getenv("API_KEY"),
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)

completion = client.chat.completions.create(
    model="qwen-max-2025-01-25",
    messages=[
        {'role': 'system', 'content': 'You are a helpful assistant.'},
        {'role': 'user', 'content': 'Which number is larger, 9.11 or 9.8?'}
    ]
)

print(completion.choices[0].message)
```

未来展望

持续提升数据规模和模型参数规模能够有效提升模型的智能水平。接下来，我们将持续探索，除了在预训练的 scaling 继续探索外，将大力投入强化学习的 scaling，希望能实现超越人类的智能，驱动 AI 探索未知之境。

最后，Qwen 再次祝大家新春快乐，巳巳如意！