1
条回答
写回答
写回答
-
应该是可以的，可以参考上面的文档改一下模型和启动配置，用vllm 0.5.1版本镜像就行。 此回答整理自钉群“云原生AI套件客户交流群”
2024-07-18 08:53:32赞同 1 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
阿里云拥有国内全面的云原生产品技术以及大规模的云原生应用实践，通过全面容器化、核心技术互联网化、应用 Serverless 化三大范式，助力制造业企业高效上云，实现系统稳定、应用敏捷智能。拥抱云原生，让创新无处不在。
热门讨论
热门文章
怎么查看registry.aliyuncs.com/google_containers都有哪些镜像
8813
请教下 mqtt连接成功了，能收到消息， 后面又自动断开了连接， 是什么情况？
6677
为什么mqtt 连接一直显示 Not authorized to connect ？用的官网示例。
5679
登录nacos客户端提示no message available，怎么办？
6521
nacos登录页面打开后未登录时弹出提示：user not found及权限认证失败怎么办？
2285
请问主域名备案了，子域名还要备案吗？
8491
dubbo go 建两个client实例发请求，但后者get时出错，请问是什么问题呢？
689
seata2.0.0报错如下如何处理？
1285
RocketMQ有时候发送能消费到，有时候消费不到消息，发送都是成功了，这怎么排查是哪里出现问题了？
912
哪位大佬知道stable diffusion生成的图片存在哪个文件夹?
11704
展开全部
Minikube - Kubernetes本地实验环境
235172
Docker的Windows容器初体验
101334
Kubernetes Ingress 日志分析与监控的最佳实践
24501
Kafka、RabbitMQ、RocketMQ消息中间件的对比—— 消息发送性能
27361
HiSDP —— 高效的C++软件开发平台
24742
业界主流MQ对比
26055
Kafka、RabbitMQ、RocketMQ 消息中间件的对比 | 消息发送性能篇
25680
容器内日志收集方案示例
18929
Spring Cloud构建微服务架构-创建“服务提供方”
12236
confd + Nacos | 无代码侵入的配置变更管理
10249
展开全部
相关文章
相关电子书
更多
