备案控制台

开发者社区 > ModelScope模型即服务 > 多模态 > 正文

docker和open-webui、ollama 部署本地的qwen2 14b 提供了API接口吗？

部署本地的大模型提供了API接口吗？如果没有API接口，个人是否可以定义API接口呢？

展开

收起

Qwen2-7B-Instruct体验

游客ruuucchvrvp5q 2024-06-10 09:04:11 273 0

1 条回答

写回答

取消提交回答

索利文斯顿

API接口？
我按照教程把ollama，docker，open-webui依次安装好，然后cmd执行一下ollama run qwen2:7b就ok了，没涉及到API接口，其实我也不知道api接口怎么搞

2024-06-12 10:42:44

赞同 15 展开评论打赏

相关问答

在阿里语音AI中，部署到docker测试出现采样率不支持16000，这个是什么原因呢？

19

0

0

调用qwen-long接口后部署一个项目，一个api密钥能给多少人同时使用？

16

1

0

部署阿里的大模型，调用API适合企业部署吗，会泄露商密吗？

25

0

0

在函数计算FC，按教程部署了comfyui，如何对外提供api有教程吗？

47

1

0

PolarDB-X在docker部署的场景下，如何设置数据库初始帐号和密码？

31

1

0

在 Serverless 模式下，PHP 开发者如何编写并部署一个弹性高可用的 Web API？

24

1

0

如何将.NET API与MySQL部署到Linux服务器？

14

0

0

模型部署成功后，除了webui可以在线推理，有api可以调用吗？

8

0

0

docker中的API接口的作用是什么？

844

1

0

请问在云效的流水线里面可以构建跨平台的docker镜像吗？

863

1

0

ModelScope模型即服务

多模态

包含图像描述、文本生成图片、版面分析、多模态表征、视觉问答、文档理解等多个领域

我要提问

热门讨论

热门文章

请问Qwen-VL怎么用自己的数据集微调

mPLUG-HiTeA模型的video-question-answering报错问题。

modelscope中“mPLUG-HiTeA模型”使用报错求助是什么原因

当下载大模型时，出现过慢的情况，有什么更好的方式解决

mPLUG图像描述模型-中文-base 如何finetune得到的？

代码问题关于videofusion

Modelscope下载Youku-mPLUG出现oss2.exceptions.NoSuchKey

中文CLIP模型卷土重来，这次加量不加价！

请问如何根据自己的数据进行finetune呢？

!pip install open_clip_torch !pip install pytorch-

展开全部

一种基于YOLOv8改进的高精度表面缺陷检测网络， NEU-DET和GC10-DET涨点明显（原创自研）

《YOLOv5原创自研》专栏介绍 & CSDN独家改进创新实战&专栏目录

多模态AI单词助记模型体验

Vript：最为详细的视频文本数据集，每个视频片段平均超过140词标注｜多模态大模型，文生视频

中文竞技场大模型评测体验报告

请问有没有能撰写期刊学术论文的模型和数据？

展开全部

相关课程

更多

基于Docker与Jenkins实现自动化部署

2576

9

去学习

Docker 快速入门

5614

32

去学习

Docker完全自学手册图文教程

7973

19

去学习

AI开发者的Docker实践

3114

17

去学习

2313

2

去学习

相关电子书

更多

Spring Boot2.0实战Redis分布式缓存 立即下载

CUDA MATH API 立即下载

API PLAYBOOK 立即下载

相关实验场景

更多