❤️ 如果你也关注 AI 的发展现状，且对 AI 应用开发非常感兴趣，我会每日分享大模型与 AI 领域的最新开源项目和应用，提供运行实例和实用教程，帮助你快速上手AI技术，欢迎关注我哦！
🥦 微信公众号｜搜一搜：蚝油菜花 🥦
🚀 快速阅读
- 平台简介：Oumi 是一个完全开源的 AI 平台，简化从数据准备、模型训练到评估和部署的整个生命周期。
- 主要功能：支持多种训练技术、多模态模型、数据合成与管理、高效部署及企业级支持。
- 技术原理：通过零样板代码设计、灵活的训练框架和分布式训练优化开发流程。
正文（附运行示例）
Oumi 是什么
Oumi 是一个完全开源的 AI 平台，旨在简化从数据准备、模型训练到评估和部署的整个生命周期。它支持从 1000 万到 4050 亿参数的模型训练，涵盖文本和多模态模型（如 Llama、Qwen 等），提供零样板代码（Zero Boilerplate）的开发体验。
通过高度抽象化的设计，Oumi 使开发者能够专注于核心任务，而无需编写大量重复的代码。用户可以通过简单的配置文件（如 YAML 格式）定义模型的训练参数、数据路径和训练策略等，极大提高了开发效率。
Oumi 的主要功能
- 模型训练与微调：支持多种训练技术，如监督微调（SFT）、LoRA、QLoRA、DPO 等。
- 多模态支持：支持文本和多模态模型的训练与部署。
- 数据合成与管理：能通过 LLM（大型语言模型）评估器合成和整理训练数据。
- 高效部署：支持多种流行的推理引擎（如 vLLM、SGLang），可在本地、集群或云端（AWS、Azure、GCP 等）运行。
- 企业级支持：提供定制化模型开发、安全可靠的 AI 解决方案以及专家支持。
Oumi 的技术原理
- 零样板代码（Zero Boilerplate）：Oumi 通过高度抽象化的设计，简化了 AI 开发流程。开发者只需通过简单的配置文件定义模型的训练参数、数据路径、训练策略等，无需编写大量重复的代码。
- 灵活的训练框架：Oumi 支持多种训练技术，包括监督微调（SFT）、LoRA（Low-Rank Adaptation）、QLoRA（Quantization + LoRA）和 DPO（Direct Preference Optimization）等。开发者可以根据具体需求选择合适的训练方法，优化模型性能。
- 分布式训练：Oumi 优化了分布式训练的流程，支持多 GPU 和多节点的训练任务。开发者可以在大规模数据集上高效训练大型模型，保持训练过程的稳定性和可扩展性。
如何运行 Oumi
1. 安装 Oumi
安装 Oumi 在你的环境中非常简单：
# 安装 CPU 版本
pip install oumi # 适用于本地开发和测试
# 安装 GPU 版本（需要 Nvidia 或 AMD GPU）
pip install oumi[gpu] # 适用于 GPU 训练
# 获取最新版本，从源代码安装
pip install git+https://github.com/oumi-ai/oumi.git
更多高级安装选项，请参阅：
2. 使用 Oumi CLI
你可以通过 oumi 命令快速进行模型训练、评估和推理：
# 训练
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml
# 评估
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml
# 推理
oumi infer -c configs/recipes/smollm/inference/135m_infer.yaml --interactive
更多详细信息请参阅以下指南：
- 训练指南：https://oumi.ai/docs/en/latest/user_guides/train/train.html
- 评估指南：https://oumi.ai/docs/en/latest/user_guides/evaluate/evaluate.html
- 推理指南：https://oumi.ai/docs/en/latest/user_guides/infer/infer.html
- LLM 作为评委指南：https://oumi.ai/docs/en/latest/user_guides/judge/judge.html
3. 远程运行任务
你可以使用 oumi launch 命令在云平台上（如 AWS、Azure、GCP、Lambda 等）远程运行任务：
# GCP
oumi launch up -c configs/recipes/smollm/sft/135m/quickstart_gcp_job.yaml
# AWS
oumi launch up -c configs/recipes/smollm/sft/135m/quickstart_aws_job.yaml
# Azure
oumi launch up -c configs/recipes/smollm/sft/135m/quickstart_azure_job.yaml
# Lambda
oumi launch up -c configs/recipes/smollm/sft/135m/quickstart_lambda_job.yaml
注意：Oumi 目前处于 beta 阶段，核心功能已稳定，但部分高级功能可能会随着平台的改进而变化。
资源
- 项目官网：https://oumi.ai
- 官方文档：https://oumi.ai/docs
- GitHub 仓库：https://github.com/oumi-ai/oumi
❤️ 如果你也关注 AI 的发展现状，且对 AI 应用开发非常感兴趣，我会每日分享大模型与 AI 领域的最新开源项目和应用，提供运行实例和实用教程，帮助你快速上手AI技术，欢迎关注我哦！
🥦 微信公众号｜搜一搜：蚝油菜花 🥦
