ECS 打造云端开发/协同办公 “军火库”
本文着重在 ECS 的使用实践,面向个人开发者或者是小型团队。借着这次评测的机会,期望把一些个人实践分享出来供大家交流,全文篇幅较长,涉及到的面也会广一些,如果你正计划学习 Kubernetes ,我期望本文对你入门 Kubernetes 生态会有一定的实践帮助,让我们看一下新一代性能怪兽 ECS 可以激起多大的浪花🌊。
数据缓存系列分享(一):打开大模型应用的另一种方式
容器镜像的加速技术如今已经非常成熟,比如阿里云容器镜像缓存,还有p2p分发技术以及开源的dadi、nydus等按需加载技术,然而这些加速技术对于大模型文件的加载都很难有显著的效果。
MaaS的概念最近开始被提出,模型已经逐渐开始具备相对独立的存储、版本管理能力,也有类OCI的概念被提出,模型与应用的解耦会是必然的一个趋势。
为了解决模型加载与容器镜像加载解耦的问题,我们提供了模型缓存的技术,让模型无需从远端的仓库加载,也不用打包进应用的镜像里,就可以直接像加载本地的文件一样使用模型,而且在模型缓存的制作、使用流程上做了极大的简化。