类目筛选
2023-12-01
79988
AI 时代的 GPU 生存工具包，每个开发人员必须知道的最低限度
AI技术迎来了“百花齐放”的春天，这既是我们的挑战也是机会。而AI+千行百业创造了无限可能，也为独立开发者提供了大量的资源、支持以及学习经验的机会。本文分享一篇摘录自Hexmos 期刊的AI 时代的 GPU 生存工具包。
79,988
2024-05-15
183
倚天测评|倚天云服务器初次体验
随着云计算技术的快速发展，云服务器在各个领域得到了广泛应用。其中，倚天云服务器以其独特的CIPU架构和倚天710处理器的优势，引起了广大用户的关注。本测评报告旨在通过对倚天云服务器的实例使用、业务部署、性能测试和迁移体验等方面进行评估。
183
2024-05-15
476
Mistral 7B v0.2 基础模型开源，魔搭社区微调教程和评测来啦！
Mistral AI在3月24日突然发布并开源了 Mistral 7B v0.2模型，有如下几个特点
476
2024-05-15
179
元象开源首个MoE大模型：4.2B激活参数，效果堪比13B模型，魔搭社区最佳实践来了
近日，元象发布其首个Moe大模型 XVERSE-MoE-A4.2B， 采用混合专家模型架构 （Mixture of Experts），激活参数4.2B，效果即可媲美13B模型。该模型全开源，无条件免费商用，支持中小企业、研究者和开发者可在元象高性能“全家桶”中按需选用，推动低成本部署。
179
2024-05-16
88089
通义千问 2.5 “客串” ChatGPT4，看这篇让你分清楚
这篇文章介绍了使用开源工具NextChat和Higress搭建的一个模拟ChatGPT和通义千问对话PK的测试场景。
88,089
2024-09-14
131
使用通义灵码，参与开源项目全程纪实
我借助通义灵码完成了 obdiag 项目的第一个 PR，成为了 obdiag 项目的 contributor，我知道通义灵码的能力还远没有发挥出来，今后继续探索，未来可期。
131
2024-05-15
560
vLLM部署Yuan2.0：高吞吐、更便捷
vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。
560