"使用ollama部署的qwen2:1.5b模型，
尝试使用AnythingLLM连接，本地始终无法调用，不管怎么设置都失败。（云服务器没有显示器，直接不支持gui界面。。。）
选择了open-webui项目
https://github.com/open-webui/open-webui
本地部署成功了，但是只能通过http://localhost:3000/访问，下面的本地地址就访问不了。
ecs服务器也部署成功了，但是没法访问，下面的地址是私网地址也访问不了，应该怎么解决呢？"
"看起来是端口连不上的问题，您需要参见openwebui或者anything LLM相关文档。
近期modelscope会支持一键基于ollma实现云上部署，敬请期待。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"
ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352
你好，我是AI助理
可以解答问题、推荐解决方案等
评论
全部评论 (0)