1
条回答
写回答
写回答
-
应该是可以的，可以参考上面的文档改一下模型和启动配置，用vllm 0.5.1版本镜像就行。 此回答整理自钉群“云原生AI套件客户交流群”
2024-07-18 08:53:32赞同 1 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
阿里云拥有国内全面的云原生产品技术以及大规模的云原生应用实践，通过全面容器化、核心技术互联网化、应用 Serverless 化三大范式，助力制造业企业高效上云，实现系统稳定、应用敏捷智能。拥抱云原生，让创新无处不在。
热门讨论
热门文章
MQTT保持连接的话, 应该设置成多少?
7683
请教下 mqtt连接成功了，能收到消息， 后面又自动断开了连接， 是什么情况？
4600
登录nacos客户端提示no message available，怎么办？
4272
怎么查看registry.aliyuncs.com/google_containers都有哪些镜像
7374
RocketMQ如何自定义延时消息时间？
260
RocketMQ-spring-boot-starter有支持mq5.0以上的的坐标吗？
271
RocketMQ如何设置消费重试次数？
342
RocketMQ cve-2024-23321 漏洞
682
Rabbit MQ 和 Rocket MQ 两者之间有什么区别？
658
函数计算FC提示网页可能暂时无法连接，或者它已永久性地移动到了新网址是什么意思？
474
展开全部
