类目筛选
2024-05-15
547
vLLM部署Yuan2.0：高吞吐、更便捷
vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。
547
2024-07-29
584
阿里云百炼产品月刊【2024年7月】
阿里云百炼产品月刊【2024年7月】，涵盖本月产品和功能发布、市场活动和应用实践等内容，帮助您快速了解阿里云百炼产品的最新动态。
584
2024-08-22
427
阿里云百炼应用实践系列-10分钟在企业微信中集成一个 AI 助手
在阿里云平台上，您只需十分钟，无需任何编码，即可在企业微信上为您的组织集成一个具备大模型能力的AI助手。此助手可24小时响应用户咨询，解答各类问题，尤其擅长处理私域问题，从而成为您企业的专属助手，有效提升用户体验及业务竞争力。
427
2024-05-15
238865
一文掌握大模型提示词技巧：从战略到战术
本文将用通俗易懂的语言，带你从战略（宏观）和战术（微观）两个层次掌握大模型提示词的常见技巧，真正做到理论和实践相结合，占领 AI 运用的先机。
238,865
2022-05-16
1901
【最佳实践】K8s挂载PVC日志采集“轻量级”玩法
本文提供一种相对Sidecar部署更轻量级的采集方式，只需要部署少量的Logtail容器，即可采集不同业务容器的日志。
1,901
