类目筛选
2024-05-15
1138
vLLM部署Yuan2.0：高吞吐、更便捷
vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。
1,138
2024-05-15
1120
全景剖析阿里云容器网络数据链路（六）—— ASM Istio
本文是[全景剖析容器网络数据链路]第六部分部分，主要介绍ASM Istio模式下，数据面链路的转转发链路。
1,120
2024-05-16
88535
通义千问 2.5 “客串” ChatGPT4，看这篇让你分清楚
这篇文章介绍了使用开源工具NextChat和Higress搭建的一个模拟ChatGPT和通义千问对话PK的测试场景。
88,535
2024-06-25
824
ROS CDK魔法书：点亮博客上云新技能（JavaScript篇）
ROS CDK提供Asset类，将本地文件转化为云资源，通过ROS CDK部署时，自动上传到指定的OSS Bucket。ROS CDK简化了基础设施即代码的流程，通过TypeScript、JavaScript等编程语言代替JSON或YAML模板，提高了效率和安全性。在实际应用中，通过ROS CDK和OSS，可以将本地博客项目打包并部署到阿里云OSS，实现静态网站的云托管。整个过程包括初始化项目、配置凭证、打包博客内容、通过CDK将内容部署到OSS Bucket，以及配置静态网站托管和自定义域名。
824
2024-09-04
547
用Prompt技巧激发无限创意
本文深入探讨当前最前沿的prompt engineering方案，结合OpenAI、Anthropic和Google等大模型公司的资料，以及开源社区中宝贵的prompt技巧分享，全面解析这一领域的实践策略。
547