大模型在云上的训练与部署
本文系统阐述大模型在云上的训练与部署实践路径，涵盖发展趋势、GPU集群搭建、框架选型、数据处理、分布式训练、模型部署、成本优化及金融行业应用案例，全面解析云计算如何支撑大模型高效落地，并展望“大模型即服务”（MaaS）的未来生态。
近端策略优化(PPO)算法的理论基础与PyTorch代码详解
近端策略优化（PPO）是深度强化学习中高效的策略优化方法，广泛应用于大语言模型的RLHF训练。PPO通过引入策略更新约束机制，平衡了更新幅度，提升了训练稳定性。其核心思想是在优势演员-评论家方法的基础上，采用裁剪和非裁剪项组成的替代目标函数，限制策略比率在[1-ϵ, 1+ϵ]区间内，防止过大的策略更新。本文详细探讨了PPO的基本原理、损失函数设计及PyTorch实现流程，提供了完整的代码示例。
Triton入门教程：安装与编写和运行简单Triton内核
Triton是一款开源GPU编程语言与编译器，专为AI和深度学习领域设计，提供高性能GPU代码开发的高效途径。它支持通过Python编写自定义GPU内核，性能接近专家级CUDA代码，但无需掌握底层CUDA知识。本文全面介绍了Triton的核心功能、安装方法、基础应用、高级优化策略，以及与CUDA和PyTorch的技术对比。此外，还探讨了其在实际项目中的应用场景，如加速Transformer模型训练和实现高效的量化计算内核。Triton简化了GPU编程流程，降低了开发门槛，同时保持高性能表现，成为连接高级框架与底层硬件的重要工具。
23_Transformer架构详解：从原理到PyTorch实现
Transformer架构自2017年Google发表的论文《Attention Is All You Need》中提出以来，彻底改变了深度学习特别是自然语言处理领域的格局。在短短几年内，Transformer已成为几乎所有现代大型语言模型（LLM）的基础架构，包括BERT、GPT系列、T5等革命性模型。与传统的RNN和LSTM相比，Transformer通过自注意力机制实现了并行化训练，极大提高了模型的训练效率和性能。
深度学习炼丹-超参数设定和模型训练
所谓超参数，即不是通过学习算法本身学习出来的，需要作者手动调整（可优化参数）的参数(理论上我们也可以设计一个嵌套的学习过程，一个学习算法为另一个学习算法学出最优超参数)，卷积神经网络中常见的超参数有: 优化器学习率、训练 Epochs 数、批次大小 batch_size 、输入图像尺寸大小。
DeepSeek 背后的技术：GRPO，基于群组采样的高效大语言模型强化学习训练方法详解
强化学习（RL）是提升大型语言模型（LLM）推理能力的重要手段，尤其在复杂推理任务中表现突出。DeepSeek团队通过群组相对策略优化（GRPO）方法，在DeepSeek-Math和DeepSeek-R1模型中取得了突破性成果，显著增强了数学推理和问题解决能力。GRPO无需价值网络，采用群组采样和相对优势估计，有效解决了传统RL应用于语言模型时的挑战，提升了训练效率和稳定性。实际应用中，DeepSeek-Math和DeepSeek-R1分别在数学推理和复杂推理任务中展现了卓越性能。未来研究将聚焦于改进优势估计、自适应超参数调整及理论分析，进一步拓展语言模型的能力边界。
