类目筛选
2024-05-15
306
联合XTuner，魔搭社区全面支持数据集的长文本训练
XTuner和魔搭社区（SWIFT）合作引入了一项长序列文本训练技术，该技术能够在多GPU环境中将长序列文本数据分割并分配给不同GPU，从而减少每个GPU上的显存占用。通过这种方式，训练超大规模模型时可以处理更长的序列，提高训练效率。魔搭社区的SWIFT框架已经集成了这一技术，支持多种大模型和数据集的训练。此外，SWIFT还提供了一个用户友好的界面，方便用户进行训练和部署，并且支持评估功能。
306
2024-05-15
11463
Llama 3开源，魔搭社区手把手带你推理，部署，微调和评估
Meta发布了 Meta Llama 3系列，是LLama系列开源大型语言模型的下一代。在接下来的几个月，Meta预计将推出新功能、更长的上下文窗口、额外的模型大小和增强的性能，并会分享 Llama 3 研究论文。
11,463
2024-05-15
329
微服务化框架 - Spring Cloud介绍
Spring Cloud 版本众多，组件也在不断扩充中，是一个非常强大的微服务框架，不过也不是万能的，任何框架都不是完美的，需要适当的评估是否适合自己。
329
2024-05-15
174
OpenSergo 流量路由：从场景到标准化的探索
本文从常见的微服务治理场景出发，从流量路由这个场景入手。先是根据流量路由的实践设计流量路由的 Spec，同时在 Spring Cloud Alibaba 中实践遵循 OpenSergo 标准的流量路由能力。
174
2024-05-15
189
基于 OPLG 从 0 到 1 构建统一可观测平台实践
“可观测”是近几年比较火的一个议题，而 OPLG 就是包含了 OpenTelemetry、Prometheus、Loki 和 Grafana 在内的开源可观测技术合集，它们之间将碰撞出什么样的火花？请阅读本文介绍的基于 OPLG 从 0 到 1 构建统一可观测平台实践。
189
