混元 Video 模型自发布以来，已成为目前效果最好的开源文生视频模型，然而，这个模型极为高昂的硬件需求让大多数玩家望而却步。魔搭社区的开源项目 DiffSynth-Studio 近期为混元 Video 模型提供了更高效的显存管理的支持，目前已支持使用24G显存进行无任何质量损失的视频生成，并在极致情况下，用低至 6G 的显存运行混元 Video 模型！

在2025年，大型语言模型（LLM）的规模已经达到了数千亿甚至数万亿参数，训练这样的庞然大物需要先进的分布式训练技术支持。本文将深入探讨LLM训练中的高效分布式策略，从基础的数据并行到最先进的ZeRO优化技术，为读者提供全面且实用的技术指南。

在2025年的大模型开发环境中，云端开发平台已经成为开发者的首选。随着大模型规模的不断扩大，本地开发环境往往难以满足训练和推理的需求，而云端平台提供了强大的计算资源、灵活的扩展能力和便捷的协作功能。在众多云端开发平台中，Amazon SageMaker和Google Colab凭借各自的优势，成为了大模型开发者最常用的两个选择。

TL;DR：很多 AI Agent 被困在受限且一刀切的沙箱内，而 MuleRun 是全球首个通过提供可完全自定义且持久化的 Agent Runtime 来解决这一问题的平台——即你可以定义操作系统、访问原生软件、跨会话保留状态并分配硬件资源。这让你能打造真正的“数字化工人”，而不仅仅是受限的聊天机器人。

AI 编程助手已成为开发者不可或缺的伙伴，但一个核心问题也随之而来：我们该如何衡量它们真正的代码实力？现有 Benchmark（基准测试）正面临严峻挑战——数据污染、测试用例不足等问题频出，导致模型排

近期，字节跳动Seed推出了 BAGEL—— 一个开源的多模态理解和生成础模型，具有70亿个激活参数（总共140亿个），并在大规模交错多模态数据上进行训练。

阶跃多模态再添一员：阶跃与 ACE Studio 联合开源音乐大模型 ACE-Step！

GPT-4o-Transcribe 是 OpenAI 推出的高性能语音转文本模型，支持多语言和方言，适用于复杂场景如呼叫中心和会议记录，定价为每分钟 0.006 美元。

### 测评报告：零门槛、轻松部署您的专属 DeepSeek 模型 DeepSeek 是一款强大的推理模型，尤其擅长数学、代码和自然语言处理任务。由于算力限制，官方服务支持不稳定，阿里云提供了四种云上调用及部署方案，包括基于百炼调用API、PAI平台部署、函数计算部署和GPU云服务器部署。测评显示，PAI平台最具灵活性和易用性，但整体方案在文档指引、部署时间和成本方面仍有改进空间。建议优化文档和技术支持，提升用户体验。

基于强化学习的专家优化系统

该系统将结合人工智能技术与区块链技术，实现对医疗设备的智能化管理。目标是提高医疗设备的管理效率，确保医疗设备的数据安全，优化医疗资源的配置，提升医疗服务质量。

大型语言模型（LLM）的训练面临着前所未有的计算和内存挑战。随着模型规模达到数百亿甚至数千亿参数，高效的内存管理成为训练成功的关键因素之一。2025年，LLM训练的内存优化技术已经取得了显著进展，从ZeRO优化器到Flash Attention等创新技术，为训练超大规模模型提供了可能。

在大型语言模型（LLM）的预训练阶段，训练目标函数的设计直接影响模型的学习效率和最终性能。Masked Language Modeling（MLM）作为BERT等模型采用的核心预训练任务，通过随机掩盖文本中的部分token并让模型预测这些被掩盖的token，有效地训练了模型的双向表示能力。然而，传统的静态掩码策略存在重复率高、训练效率低等问题。动态掩码技术的引入显著提升了预训练效率和模型性能。本文将全面探讨MLM优化策略，深入推导动态掩码的效率提升原理，并介绍2025年最新的MLM优化技术，为高效预训练LLM提供理论和实践指导。

在大型语言模型（LLM）时代，高效微调成为降低大模型应用门槛的关键技术。随着模型规模的不断扩大，传统的全参数微调方法面临着巨大的计算资源消耗和内存需求挑战。QLoRA（Quantized Low-Rank Adaptation）作为一种创新的参数高效微调技术，以其独特的量化+低秩适应双重策略，成功地在大幅降低资源消耗的同时保持了接近全精度微调的性能。本文将深入剖析QLoRA的技术原理、实现细节、性能特点，并提供丰富的实践案例，帮助读者全面掌握这一2025年仍然广泛应用的高效微调方法。

在2025年的LLM训练环境中，随着模型规模和复杂度的指数级增长，训练过程的可视化已经从简单的性能监控工具演变为模型健康状态的诊断系统。训练可视化不仅仅是绘制几条曲线，而是构建一个完整的训练神经系统，能够实时捕捉训练动态、预测潜在问题、优化训练策略，并最终确保模型达到最佳性能。

在大型语言模型（LLM）的发展历程中，我们见证了模型从简单的文本生成工具，逐渐演变为能够理解复杂指令、进行多轮对话、甚至展示创造性思维的智能系统。然而，这一进化并非仅仅依靠模型规模的增大和数据量的增加，更重要的是训练方法的创新。其中，人类反馈强化学习（Reinforcement Learning from Human Feedback, RLHF）作为一种革命性的训练范式，在2022年随着ChatGPT的问世而广受关注，并在随后的GPT-4、Claude、Gemini等先进模型中得到广泛应用。

2025年10月，IROS （智能机器人与系统国际会议）期间，上海人工智能实验室（上海AI实验室）将举办物理世界中的多模态机器人学习研讨会，IROS 2025“桃源”与真实世界机器人学习挑战赛（机器人学习挑战赛）现已启动报名，欢迎全球创新者与挑战者参加。

7月28日晚，智谱带来新一代旗舰模型——GLM-4.5！GLM-4.5 系列模型是专为智能体设计的基础模型。GLM-4.5拥有 3550 亿总参数量，其中 320 亿活跃参数；GLM-4.5-Air 采用更紧凑的设计，拥有 1060 亿总参数量，其中 120 亿活跃参数。GLM-4.5模型统一了推理、编码和智能体能力，以满足智能体应用的复杂需求。

今天，小米开源发布两款 7B 规模视觉-语言模型 MiMo-VL-7B-SFT 和 MiMo-VL-7B-RL。

4月15日，中国第一AI开源社区魔搭（ModelScope）推出全新MCP广场，上架千余款热门的MCP服务，包括支付宝、MiniMax等全新MCP服务在魔搭独家首发。魔搭社区为AI开发者提供丰富的MCP服务及调试工具，并支持第三方平台集成和调用，通过开源开放的方式加速Agent及AI应用的创新和落地。

微软近期推出 Phi-4-multimodal 和 Phi-4-mini，这些模型是 Microsoft Phi 系列小型语言模型 (SLM) 中的最新模型。Phi-4-multimodal 能够同时处理语音、视觉和文本，为创建创新且具有上下文感知能力的应用程序开辟了新的可能性。另一方面，Phi-4-mini 在基于文本的任务方面表现出色，以紧凑的形式提供高精度和可扩展性。

本文提出了一种高效的多模态大模型，多阶段去除冗余视觉token——MustDrop。多模态大模型中的视觉tokens通常表现出显著的空间和时间冗余，并且大模型的大部分输入令牌是视觉tokens，这极大程度上影响了多模态大模型推理效率。

Tarsier2 是字节跳动推出的大规模视觉语言模型，支持高质量视频描述、问答与定位，在多个视频理解任务中表现优异。

特别介绍`graphrag-practice-chinese`项目，这是一个针对中文优化的GraphRAG应用实例，通过改进文本切分策略、使用中文提示词及选择更适合中文的模型等手段，显著提升了处理中文内容的能力。项目不仅包括详细的搭建指南，还提供了《红楼梦》全文的索引构建与查询测试示例，非常适合个人学习和研究。

在大语言模型（LLM）的实际生产环境中，模型更新是维持服务质量和持续改进的关键环节。随着业务需求的演变、数据分布的变化以及模型能力的提升，如何高效、安全地更新已部署的LLM成为技术团队面临的重要挑战。传统的全量模型替换方法往往伴随着服务中断风险、资源消耗大以及可能的性能波动等问题。为此，增量微调技术作为一种轻量级的模型更新策略，正逐渐成为2025年LLM部署领域的主流选择。

在大型语言模型(LLM)训练和推理的竞赛中，计算硬件的选择直接决定了研发效率和成本。Google的Tensor Processing Unit(TPU)作为专为AI计算设计的专用芯片，正逐渐成为大规模LLM开发的首选平台之一。随着2025年第七代TPU架构Ironwood的发布，Google在AI计算领域再次确立了技术领先地位。

在大语言模型（LLM）应用中，提示工程已成为提升模型性能和控制输出的关键技术。然而，随着模型能力的增强和应用场景的复杂化，提示文本往往变得冗长，导致token消耗急剧增加。这不仅直接影响到API调用成本，还可能超出模型的上下文窗口限制，特别是在使用GPT-4、Claude 3等大模型时，每1000个token的成本可能高达数美分。对于需要频繁交互或批量处理的应用场景，如客服系统、内容生成平台或自动化工作流，token消耗的优化就显得尤为重要。

腾讯自研 FastMTP 重磅开源：推理速度暴涨 203%，消费级显卡也能跑出无损速度翻倍！

很高兴向大家宣布，ModelScope AIGC 专区的工作流功能正式上线！

AgentScope 作为一款功能强大的开源多智能体开发框架，为开发者提供了智能体构建、工具使用、多智能体编排等全方位支持。