1
条回答
写回答
写回答
-
应该是可以的，可以参考上面的文档改一下模型和启动配置，用vllm 0.5.1版本镜像就行。 此回答整理自钉群“云原生AI套件客户交流群”
2024-07-18 08:53:32赞同 1 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
阿里云拥有国内全面的云原生产品技术以及大规模的云原生应用实践，通过全面容器化、核心技术互联网化、应用 Serverless 化三大范式，助力制造业企业高效上云，实现系统稳定、应用敏捷智能。拥抱云原生，让创新无处不在。
热门讨论
热门文章
登录nacos客户端提示no message available，怎么办？
5700
nacos登录页面打开后未登录时弹出提示：user not found及权限认证失败怎么办？
1696
请教下 mqtt连接成功了，能收到消息， 后面又自动断开了连接， 是什么情况？
5782
MQTT保持连接的话, 应该设置成多少?
232
Springcloud连接nacos2.2.3一直报错403，user not found，啥原因？
11560
怎么查看registry.aliyuncs.com/google_containers都有哪些镜像
8041
nacos.core.auth.server.identity.value和key是随便写的嘛？
968
为什么mqtt 连接一直显示 Not authorized to connect ？用的官网示例。
5148
请问主域名备案了，子域名还要备案吗？
7964
从哪个版本开始nacos分成了两个端口？8848和9848
2758
展开全部
相关文章
相关电子书
更多
