AI 助理
备案控制台
开发者社区 问答 正文

如果我实例上需要开发LLM应用部署，这种情况更加适合docker还是直接在实例上开发？

如果我实例上需要开发LLM应用部署，也就是会跑GPU的模型，这种情况更加适合docker还是直接在实例上开发？

展开
收起
提问的橘子 2024-07-30 12:18:06 32 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

0 条回答
写回答
取消 提交回答
问答分类：
容器 Docker 异构计算 GPU云服务器
问答标签：
Docker应用部署 开发Docker Docker开发 LLM应用部署 Docker实例
问答地址：
开发者社区 > 云原生 > 问答
相关问答
函数计算docker实例在空闲时，健康检查的周期性调用是否也会计入cpu和内存占用？
57
0
0
AI Earth可以使用docker部署到自有服务器吗？
49
1
0
在阿里语音AI中，部署到docker测试出现采样率不支持16000，这个是什么原因呢？
56
0
0
PolarDB-X在docker部署的场景下，如何设置数据库初始帐号和密码？
171
1
0
Serverless场景下的实例Exec功能与K8S和Docker相比有哪些本质区别？
61
1
0
对docker在Python web应用部署方面有什么看法，是否会得到大规模的应用呢 ？
32
1
0
docker对于web开发有啥帮助？
47
1
0
polardbx paxos三副本 能docker部署运行么？非pxd方式
69
2
0
请教一下机器学习PAI 这个镜像部署之后，进入docker会报错?!
125
2
0
docker部署的higress，需要增加secret，或者修改某个Ingress 的配置，有办法？
48
1
0