类目筛选
2024-05-15
206
联合XTuner，魔搭社区全面支持数据集的长文本训练
XTuner和魔搭社区（SWIFT）合作引入了一项长序列文本训练技术，该技术能够在多GPU环境中将长序列文本数据分割并分配给不同GPU，从而减少每个GPU上的显存占用。通过这种方式，训练超大规模模型时可以处理更长的序列，提高训练效率。魔搭社区的SWIFT框架已经集成了这一技术，支持多种大模型和数据集的训练。此外，SWIFT还提供了一个用户友好的界面，方便用户进行训练和部署，并且支持评估功能。
206
2023-10-09
29872
基于阿里云服务网格流量泳道的全链路流量管理（一）严格模式流量泳道
灰度发布是一种常见的对新版本应用服务的发布手段，其特点在于能够将流量在服务的稳定版本和灰度版本之间时刻切换，以帮助我们用更加可靠的方式实现服务的升级。
29,872
2024-05-15
423
vLLM部署Yuan2.0：高吞吐、更便捷
vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。
423
2024-05-15
47040
SLS 查询新范式：使用 SPL 对日志进行交互式探索
像 Unix 命令一样支持多级管道级联，像加工预览一样实时处理查询结果，更便捷的交互，更丰富的算子，更灵活的探索半结构化日志，快来试试使用 SPL 语言查询日志数据吧~
47,040
2024-06-13
55570
基于云效 AppStack，5 分钟搞定一个 AI 应用的开发和部署
区别于传统的流水线工具，本实验将带你体验云效应用交付平台 AppStack，从应用视角，完成一个 AI 聊天应用的高效交付。
55,570
2024-09-10
37
ROS CDK魔法书：建立你的游戏王国（JavaScript篇）
本文介绍了如何利用阿里云资源编排服务（ROS）的云开发套件（CDK）将2048小游戏部署到云端。ROS CDK允许开发者使用编程语言定义和管理云资源，简化部署流程。通过部署示例，展示了从环境准备、依赖安装到资源栈的创建与删除全过程。借助ECS等云服务，实现游戏快速上线，使更多玩家享受游戏乐趣。
37
