今天，DeepSeek低调地在魔搭社区开源 DeepSeek-V3-0324 模型，虽然官方低调称之为小版本升级，但能力提升一点也不小。
模型地址：
https://www.modelscope.cn/models/deepseek-ai/DeepSeek-V3-0324
01.模型表现
DeepSeek-V3-0324 在多个关键方面展示了相较于其前代产品 DeepSeek-V3 的显著改进。
推理能力
- 基准测试性能显著提升：
- MMLU-Pro: 75.9 → 81.2 (+5.3)
- GPQA: 59.1 → 68.4 (+9.3)
- AIME: 39.6 → 59.4 (+19.8)
- LiveCodeBench: 39.2 → 49.2 (+10.0)
前端网页开发
- 提高了代码的可执行性
- 更美观的网页和游戏前端
中文写作能力
- 增强了风格和内容质量：
- 符合 R1 写作风格
- 在中长篇写作中的质量更高
- 功能增强
- 改进了多轮交互式重写
- 优化了翻译质量和书信写作
中文搜索能力
- 增强了报告分析请求，输出更详细
函数调用改进
- 提高了函数调用的准确性，修复了 V3 之前版本的问题
02.使用建议
系统提示
在官方 DeepSeek 网站/应用程序中，使用带有特定日期的相同系统提示。
该助手为DeepSeek Chat，由深度求索公司创造。 今天是{current date}。
例如
该助手为DeepSeek Chat，由深度求索公司创造。 今天是3月24日，星期一。
温度设置
在deepseek的网页和应用环境中，温度参数被设置为 0.3。因为许多用户在 API 调用时使用默认的温度 1.0，所以DeepSeek实现了一个 API 温度 TapiT_{api}Tapi 映射机制，将输入的 API 温度值 1.0 调整为最适合模型的温度设置 0.3。
文件上传和网络搜索的提示
对于文件上传，请按照模板创建提示，其中 {file_name}, {file_content} 和 {question} 是参数。
file_template = \ """[file name]: {file_name} [file content begin] {file_content} [file content end] {question}"""
对于网络搜索，{search_results}, {cur_date}, 和 {question} 是参数。
对于中文查询，使用的提示是：
对于英文查询，使用的提示是：
03.本地运行
使用SGLang进行推理（官方推荐）
SGLang目前支持MLA 优化、DP Attention、FP8（W8A8）、FP8 KV Cache 和 Torch Compile，在开源框架中提供最先进的延迟和吞吐量性能。
同时，SGLang v0.4.1完全支持在NVIDIA 和 AMD GPU上运行 DeepSeek-V3 ，使其成为一种高度通用且强大的解决方案。
SGLang 还支持多节点张量并行，能够在多台联网的机器上运行此模型。
推理代码：
# Installation pip install "sglang[all]>=0.4.3" --find-links https://flashinfer.ai/whl/cu124/torch2.5/flashinfer-python # Launch python3 -m sglang.launch_server --model /Your_Model_Path/DeepSeek-V3-0324 --tp 8 --trust-remote-code
根据需要添加性能优化选项。
许可证
仓库及模型权重遵循 MIT License
欢迎点击链接跳转模型详情~
