类目筛选
联合XTuner，魔搭社区全面支持数据集的长文本训练
XTuner和魔搭社区（SWIFT）合作引入了一项长序列文本训练技术，该技术能够在多GPU环境中将长序列文本数据分割并分配给不同GPU，从而减少每个GPU上的显存占用。通过这种方式，训练超大规模模型时可以处理更长的序列，提高训练效率。魔搭社区的SWIFT框架已经集成了这一技术，支持多种大模型和数据集的训练。此外，SWIFT还提供了一个用户友好的界面，方便用户进行训练和部署，并且支持评估功能。
海量大模型如何一键部署上云，函数计算 x ModelScope 社区给出答案
得益于阿里云函数计算的产品能力，魔搭 SwingDeploy 后的模型推理 API 服务默认具备极致弹性伸缩（缩零能力）、GPU 虚拟化（最小 1GB 显存粒度）、异步调用能力、按用付费、闲置计费等能力，这些能力帮助算法工程师大大加快了魔搭开源模型投入生产的生命周期。
告别头文件，编译效率提升 42%！C++ Modules 实战解析 | 干货推荐
本文中，阿里云智能集团开发工程师李泽政以 Alinux 为操作环境，讲解模块相比传统头文件有哪些优势，并通过若干个例子，学习如何组织一个 C++ 模块工程并使用模块封装第三方库或是改造现有的项目。
C5GAME 游戏饰品交易平台借助 RocketMQ Serverless 保障千万级玩家流畅体验
游戏行业蓬勃发展，作为国内领先的 STEAM 游戏饰品交易的服务平台，看 C5GAME 如何利用 RocketMQ Serverless 技术，为千万级玩家提供流畅的游戏体验，同时降低成本并提升运维效率。
【实战干货】AI大模型工程应用于车联网场景的实战总结
本文介绍了图像生成技术在AIGC领域的发展历程、关键技术和当前趋势，以及这些技术如何应用于新能源汽车行业的车联网服务中。
任务调度企业级场景下的新选择，兼容 XXL-JOB 通信协议
XXL-JOB 是一个开源的分布式任务调度平台，开箱即用、简单易上手，得到了很多开发者的喜爱。和其他中间件开源项目一样，当开发者把开源项目部署到公共云，应用到企业级场景中时，就会在稳定性、性能、安全、其他云产品间集成体验上提出更高的要求。基于此背景，阿里云微服务引擎 MSE 基于自研的分布式任务调度平台 SchedulerX，通过兼容 XXL-JOB 客户端的通信协议，在开源 XXL-JOB 版本的基础上，提升了稳定性、安全、性能、可观测等能力，满足企业客户的需求。此外，为方便测试，提供了一个月 400 元额度的免费试用和预付费首购 5 折、续费 6.5 折起的优惠。
大模型推理服务全景图
推理性能的提升涉及底层硬件、模型层，以及其他各个软件中间件层的相互协同，因此了解大模型技术架构的全局视角，有助于我们对推理性能的优化方案进行评估和选型。
破解 vLLM + DeepSeek 规模化部署的“不可能三角”
vLLM 是一种便捷的大型语言模型（LLM）推理服务，旨在简化个人和企业用户对复杂模型的使用。通过 vLLM，用户可以轻松发起推理请求，享受高效、稳定的 LLM 服务。针对大规模部署 vLLM 的挑战，如大模型参数量、高效推理能力和上下文理解等，阿里云函数计算（FC）提供了 GPU 预留实例闲置计费功能，优化了性能、成本和稳定性之间的平衡。此外，FC 支持简便的部署流程和多种应用集成方式，帮助企业快速上线并管理 vLLM 服务。总结来说，vLLM 结合 FC 的解决方案为企业提供了强大的技术支持和灵活的部署选项，满足不同业务需求。
