DeepSeek-R1论文细节时间线梳理
中国AI初创公司DeepSeek发布了大语言模型R1，该模型在推理任务上媲美OpenAI的ChatGPT，且训练成本仅600万美元。DeepSeek由杭州对冲基金High-Flyer支持，总部位于杭州和北京。R1基于V3-Base，使用监督微调和强化学习训练，针对硬件限制进行了优化。模型在多语言处理、推理风格等方面表现出色，但存在一些局限性，如法语表现欠佳、偶尔切换语言等。DeepSeek的创新技术包括FP8量化、多头潜在注意力和蒸馏方法，引发了广泛关注和讨论。开源社区正积极尝试复现其结果，但面临训练数据和代码未公开的挑战。DeepSeek的低成本高效训练策略为AI领域带来了新的思考方向。
