备案控制台

开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

阿里有没有modelscope大模型加速框架？

阿里有没有modelscope大模型加速框架？

展开

收起

小小爱吃香菜 2024-01-22 21:58:01 46 0

1 条回答

写回答

取消提交回答

为了利利

推荐使用VLLM或者*.cpp，适用于cpu的c++推理引擎。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2024-01-23 10:59:57

赞同展开评论打赏

相关问答

有没有详细一些的微调modelscope-funasr上模型的教程（非大模型）？

42

0

0

modelscope大模型知识抽取框架 oneke，支持垂类的知识抽取吗？

38

1

0

为什么我微调modelscope大模型时报错，让我升级内核啊？能升级吗？

38

1

0

modelscope微调后的多模态大模型Qwen-VL和graghrag相结合构建知识库的案例有嘛？

55

0

0

ModelScope中qwen为什么不支持寻常其他大模型都支持的特殊字符？

36

1

0

ModelScope中Swift框架下加载 deepseek-coder-v2-lite怎么回事？

36

1

0

ModelScope大模型比较擅长的是json格式来提取码吗？

33

1

0

ModelScope有没有什么格式是大模型一定能够按照那个格式提取文字的？

22

1

0

ModelScope哪个框架支持部署本地qwen2外挂知识库？

42

1

0

ModelScope有没有对各种大模型使用各种微调方法所需要显存的统计？

44

1

0

ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

热门讨论

热门文章

ModelScope中，模型下载默认路径在哪个路径？

com/action/joingroup?code=v1是什么意思

服务器上onnxruntime-gpu 调用结束，如何释放显存

我希望通过damo-YOLO训练1500*1500的图片

请问在 ModelScope 上的模型断网使用报这个错误啥原因了?

在ModelScope中，请问模型下载到本地的具体方法？

如何下载modelscope模型？

ModelScope 使用14B模型推理时报这个错误？

ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？

streamlit 生成链接无法访问，gradio只生成内网，无法生成公网

展开全部

YOLOv10实战：红外小目标实战 | 多头检测器提升小目标检测精度

关键点检测从入门到进阶

YOLOv10实战：SPPF原创自研 | SPPF_attention，重新设计加入注意力机制 | NEU-DET为案列进行展开

关于flux.1 loras的8个问题

一种基于YOLOv8改进的高精度红外小目标检测算法（原创自研）

《YOLOv8原创自研》专栏介绍 & CSDN独家改进创新实战&专栏目录

Stable Diffusion 介绍与入门

图像分类基础与实战

展开全部

相关课程

更多

个性化语音合成模型微调

252

1

去学习

ModelScope社区Library技术架构介绍

227

1

去学习

相关电子书

更多

视觉AI能力的开放现状及ModelScope实战 立即下载

ModelScope助力语音AI模型创新与应用 立即下载

低代码开发师（初级）实战教程 立即下载