在当今人工智能快速发展的时代，大语言模型（LLM）已经成为自然语言处理领域的核心技术。然而，传统的LLM部署通常需要强大的服务器资源，这限制了其在资源受限环境中的应用。随着边缘计算的兴起，在轻量级设备上部署和运行LLM成为了新的技术趋势。树莓派（Raspberry Pi）作为一款广泛使用的单板计算机，凭借其小巧的体积、低功耗特性和不断提升的计算能力，成为了边缘部署LLM的理想选择。

在大语言模型（LLM）训练和推理过程中，GPU资源的高效监控和管理至关重要。随着模型规模的不断增长和计算需求的提升，如何精确监控GPU利用率、及时发现性能瓶颈并进行优化，成为AI研究人员和工程师面临的重要挑战。NVIDIA-SMI作为NVIDIA官方提供的GPU监控工具，提供了丰富的功能来监控和管理GPU资源。本文将深入探讨NVIDIA-SMI的进阶使用方法，以及如何利用其与其他工具结合构建高效的GPU利用率可视化监控系统。

不会编程也能体验的 AI 魔法，外滩大会代码原生地等你解锁

本文探讨了如何利用能够根据自然语言提示执行命令、管理基础设施和自动部署的 AI 技术，来革新 DevOps 流程。通过模型上下文协议（MCP），AI 助手不仅能回答问题，还能直接操作终端、编辑文件并管理开发环境，从而简化复杂的 DevOps 任务，提高效率并降低错误率。

9 月 2 日，腾讯混元宣布，其3D世界模型系列最新成员——HunyuanWorld-Voyager（简称混元Voyager）发布并开源，这将推动AI在空间智能领域的应用扩展，为虚拟现实、物理仿真、游戏开发等领域提供高保真3D场景漫游能力，加速行业应用落地。

在传统的企业技能培训体系中，“纸上谈兵”长期是一个难以根除的痛点。无论是高危行业的安全生产，还是精密设备的运维检修，传统的课堂讲授与文档阅读往往难以转化为实际操作能力。学员在面对真实设备时，常因缺乏肌肉记忆、空间感知不足或心理压力过大而导致操作失误。随着云计算、人工智能（AI）、扩展现实（XR）以及5G通信技术的成熟，基于虚拟现实（VR）与增强现实（AR）的沉浸式培训方案正逐步成为企业数字化转型的关键一环。

在工业4.0与数字化转型的浪潮中，传统设备运维模式正面临严峻挑战。纸质记录易丢失、数据滞后、专家资源稀缺以及现场作业标准化难落地等问题，长期制约着企业的生产效率与安全管理水平。增强现实（Augmented Reality, AR）技术与云计算、物联网（IoT）、人工智能（AI）的深度融合，催生了新一代AR智能巡检系统。该系统不仅实现了运维数据的实时化与可视化，更通过“数字孪生”与“远程协作”赋予一线工人“透视”设备内部状态与获取专家即时支持的“超能力”。

在电力能源行业，高压输电线路与变电站设备的日常巡检是保障电网稳定运行的基石。然而，传统的人工登塔、近距离目视检查不仅效率低下，更伴随着极高的人身安全风险。随着增强现实（AR）、云计算、人工智能（AI）及5G通信技术的成熟，一种基于智能穿戴设备的“AR智慧运维系统”正在重塑这一领域的作业模式。本文将深入探讨基于云边端协同架构的AR智能巡检技术方案，分析其如何通过数字化手段实现作业标准化、远程专家协作及全流程数据闭环，从而从根本上提升电力高空巡检的安全性与效率。

本文复盘企业级移动端RPA重构实践，介绍如何以“侠客工坊”AI数字员工平台替代传统坐标录制方案：基于多模态大模型实现视觉语义决策、高并发多机型调度、零代码编排、异常自愈及MCP协议集成，显著提升自动化鲁棒性与运维效率。

OmniScience是深势科技开源的科研图像理解数据集，含150万高质量“图-文-上下文”三元组、500万子图，覆盖10大科学领域。依托Uni-Parser与多模态大模型重描述，显著提升AI对科学图表的深层语义理解能力。

本文详解PPO算法在大模型RLHF落地中的核心应用：聚焦对话风格、客服话术、内容生成、安全合规、垂直领域及多模态六大场景，强调“偏好定制化”价值。全程无代码，提供4步落地法与3大实操要点，助力企业高效实现大模型优化。（239字）

本文探讨LLM推理中Prefix Caching机制的原理与实践：解释为何将动态内容（如React循环中的tool call结果）放在system prompt会破坏缓存命中，导致成本激增；强调应将变量部分置于user prompt末尾，以最大化复用system+固定user前缀的KV缓存，显著降本提效

2月4日，上海AI实验室开源万亿参数科学多模态大模型Intern-S1-Pro，全球开源社区中规模最大的AI4S模型。基于SAGE“通专融合”架构与MoE设计，融合傅里叶位置编码与创新路由机制，科学推理达奥赛金牌水平，综合能力稳居国际第一梯队，赋能AGI for Science范式革命。（239字）

分享一套课程设计AI指令，能将DeepSeek/Kimi变成教学设计顾问，帮助教师和培训师快速构建目标明确、结构合理的专业课程方案。从"讲得好"跨越到"教得好"，让学习真正发生。

本文介绍如何将AI Agent或MCP服务部署上线，获取免费二级域名（如*.aiagenta2z.com），并在ChatGPT、Claude等客户端中直接使用。涵盖代码准备、入口命令配置、GitHub部署及调试全流程，支持Python/Node.js项目，助力开发者快速实现服务托管与集成。

本文深入解析了大模型三大核心技术：输入编码、多头自注意力机制和前馈网络层，从应用视角阐述了它们的工作原理和协同效应。输入编码负责将文本转换为富含语义和位置信息的数学表示；多头自注意力机制通过多专家团队模式建立全局依赖关系，解决长距离依赖问题；前馈网络层则通过非线性变换进行深度语义消歧。文章通过可视化示例展示了词向量的语义关系建模、注意力权重的分布模式以及前馈网络的语义过滤功能，形象地说明了大模型如何通过这三层架构实现"广泛联系-深度加工"的认知过程。

幂等性指操作执行一次或多次结果一致。读操作（如HTTP GET）不改变数据，天然幂等；写操作（如POST、PUT、DELETE）可能改变状态，需额外机制保障幂等。

自1995年发布以来，MySQL凭借轻量高效、易用友好、生态完善、灵活扩展四大优势，成为全球最受欢迎的开源关系型数据库。广泛适配各类开发语言、开源项目与云平台，支持从个人博客到大型电商的全场景应用，持续稳居DB-Engines排名前列，是Web开发的“标配”与开源数据库的“常青树”。（238字）

本文以电商系统为实战场景，手把手教你从零搭建MySQL数据库。涵盖环境配置、需求分析、表结构设计（遵循三大范式）、数据初始化、关联查询及性能优化，结合SQL语句与设计思路，帮助初学者快速掌握数据库项目落地全流程。

本文系统梳理Java开发者从初级工程师到架构师的成长路径，涵盖各阶段技术能力要求与提升方向，强调基础夯实、架构设计、业务理解及软实力培养，为职业进阶提供清晰指引。

MiniMax视频团队推出首个开源工作VTP，首次将视觉tokenizer作为scaling主角，通过融合通用表征学习，实现生成性能随参数、算力、数据规模持续提升，展现tokenizer在视觉生成系统中的核心潜力。

面对"屎山"代码不敢动？本文介绍了一套专业的AI重构指令，化身拥有15年经验的首席架构师。它能精准识别代码异味，提供基于设计模式的重构方案，并生成验证清单，帮助开发者安全高效地偿还技术债务。

本课程深入讲解微服务架构下的任务调度与数据一致性方案，涵盖XXL-JOB分布式调度原理、幂等性设计、MySQL存储引擎对比、索引优化及SQL调优策略。通过实战掌握热点数据缓存预热、分片广播任务处理、避免重复执行等核心技能，提升系统性能与可靠性。（238字）

清华CoAI与智谱AI提出Glyph新范式，将长文本渲染为图像，通过视觉语言模型实现高效长上下文处理。3-4倍压缩比，性能媲美主流大模型，显存占用降2/3，低成本支持百万token任务，开源可商用。

在大型语言模型（LLM）的发展历程中，如何让模型输出与人类偏好保持一致一直是研究的核心挑战。从早期的监督微调（SFT）到基于人类反馈的强化学习（RLHF），再到如今的直接偏好优化（DPO），对齐技术经历了显著的迭代与创新。

随着大型语言模型(LLM)规模的不断增长，从数百亿到数千亿参数，传统的全参数微调方法面临着计算资源消耗巨大、训练效率低下等挑战。2025年，大模型微调技术已经从早期的全参数微调发展到如今以LoRA、QLoRA为代表的参数高效微调方法，以及多种技术融合的复杂策略。本文将深入对比全参数微调和参数高效微调的技术原理、适用场景、性能表现和工程实践，为研究者和工程师提供全面的技术参考。

在大型语言模型(LLM)训练和推理的竞赛中，计算硬件的选择直接决定了研发效率和成本。Google的Tensor Processing Unit(TPU)作为专为AI计算设计的专用芯片，正逐渐成为大规模LLM开发的首选平台之一。随着2025年第七代TPU架构Ironwood的发布，Google在AI计算领域再次确立了技术领先地位。

随着大型语言模型(LLM)的快速发展，模型规模呈指数级增长，从最初的数亿参数到如今的数千亿甚至万亿参数。这种规模扩张带来了惊人的能源消耗和训练成本，同时也给部署和推理带来了巨大挑战。2025年，大模型的"瘦身"已成为行业发展的必然趋势。本文将深入剖析大模型压缩与量化的核心技术、最新进展及工程实践，探讨如何通过创新技术让大模型在保持高性能的同时实现轻量化部署，为企业和开发者提供全面的技术指导。

在2025年的大模型开发环境中，云端开发平台已经成为开发者的首选。随着大模型规模的不断扩大，本地开发环境往往难以满足训练和推理的需求，而云端平台提供了强大的计算资源、灵活的扩展能力和便捷的协作功能。在众多云端开发平台中，Amazon SageMaker和Google Colab凭借各自的优势，成为了大模型开发者最常用的两个选择。

在大语言模型（LLM）应用中，提示工程已成为提升模型性能和控制输出的关键技术。然而，随着模型能力的增强和应用场景的复杂化，提示文本往往变得冗长，导致token消耗急剧增加。这不仅直接影响到API调用成本，还可能超出模型的上下文窗口限制，特别是在使用GPT-4、Claude 3等大模型时，每1000个token的成本可能高达数美分。对于需要频繁交互或批量处理的应用场景，如客服系统、内容生成平台或自动化工作流，token消耗的优化就显得尤为重要。

在2025年的大模型时代，微调技术已经成为将通用大语言模型（LLM）适配到特定领域和任务的核心技术手段。随着模型规模的不断膨胀——从早期的数十亿参数到如今的数千亿甚至万亿参数，如何在有限的计算资源下高效地微调大模型，成为AI工程师面临的关键挑战。本文将深入探讨两种主流的微调方法：全参数微调和LoRA（Low-Rank Adaptation）低秩适应微调，从原理、技术实现、资源需求、性能表现等多个维度进行全面对比分析，帮助读者在实际项目中做出最优的技术选择。

Kubernetes 是当前 DevOps、云原生和 SRE 领域的关键技能。本文总结了 20 个高频面试问题，涵盖架构组件、工作原理及核心概念，助你轻松掌握 Kubernetes 基础，提升面试与实战能力。

今天，Kimi K2 模型的最新版本 0905 开源发布，进一步提升其在真实编程任务中的表现

FlowBench 是由 ModelScope x Muse 团队打造的一站式 AI 工作流创作平台，现已开启全面公测。该平台以工作流为核心，支持本地与云端资源协同运行，面向开发者、设计师及 AI 创作者提供高效、稳定、易用的可视化创作体验。FlowBench 原生支持 QwenImage 图像生成模型，最低仅需 8GB 显存即可实现本地生图，并支持多 LoRA 融合、多图批量生成等强大功能。用户可在 Mac 和 Windows 系统下载使用，同时享受云端与本地自由切换带来的灵活体验。公测期间，FlowBench 团队将持续优化功能，推出更多创新特性，助力用户开启高效 AI 创作之旅。

9月1日，美团正式发布 LongCat-Flash-Chat，并同步开源。LongCat-Flash 采用创新性混合专家模型（Mixture-of-Experts, MoE）架构，总参数 560 B，激活参数 18.6B~31.3B（平均 27B），实现了计算效率与性能的双重优化。