备案控制台

开发者社区 > ModelScope模型即服务 > 正文

魔塔ModelScope社区搭建大模型需要准备一台gpu服务器吗？

魔塔ModelScope社区搭建大模型需要准备一台gpu服务器吗？

展开

收起

小小爱吃香菜 2024-07-09 08:05:59 47 0

1 条回答

写回答

取消提交回答

为了利利

大模型一般需要gpu。用ollama在cpu上也可以运行，dashscope那边有部署好的模型，您也可以看下。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2024-07-09 21:49:05

赞同 3 展开评论打赏

相关问答

在企业VPC环境中部署并微调Qwen2-72B大模型，需要什么样的服务器资源？

9

1

0

在OceanBase数据库，我这个ob社区版，昨天服务器异常断电之后，就启动不了？

4

0

0

qwen-long模型本地化部署需要什么配置的服务器？

11

0

0

部署qwen2 72b模型需要什么配置的服务器？

15

0

0

适合视频制作和跑大模型的服务器是那个？

7

0

0

请问是modelscope-funasr社区版的不能用嘛？

8

0

0

想在ModelScope的huggingface社区里面下载数据集，也报错，怎么解决？

10

1

0

部署图片合成大模型以处理业务需要考虑什么？

11

1

0

在ModelScope上部署大模型RAG对话系统时，推荐使用的GPU服务器配置是什么？

20

0

0

下载魔搭ModelScope社区的一些数据集，发生了数据集特征键不匹配的问题，请问怎么解决？

30

1

0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

热门讨论

热门文章

ModelScope中，模型下载默认路径在哪个路径？

com/action/joingroup?code=v1是什么意思

ModelScope默认的下载位置是在哪里？

ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？

ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？

服务器上onnxruntime-gpu 调用结束，如何释放显存

请问ModelScope中，怎么修改本地运行，模型自动下载到 c 盘下？

无法导入 modelscope，已经pip install了

modelscope上跑报错，提示要pip install ttsfrd，搞不定

是modelscope版本不对还是哪个模块没装？

展开全部

未来语音交互新纪元：FunAudioLLM技术揭秘与深度评测

multi-agent：多角色Agent协同合作，高效完成复杂任务

Llama 3开源！魔搭社区手把手带你推理，部署，微调和评估

阿里云通义千问向全社会开放！

vanna+qwen实现私有模型的SQL转换

开源版图生视频I2VGen-XL：单张图片生成高质量视频

大模型时代，还缺一只雨燕｜ SWIFT：魔搭社区轻量级微调推理框架

Phi-3：小模型，大未来！（附魔搭社区推理、微调实战教程）

多模态AI单词助记模型体验

【RAG实践】Rerank，让RAG更近一步

展开全部

相关课程

更多

ECS上云入门三部曲

564

1

去学习

服务器硬件基础

1132

1

去学习

Linux Web服务器Nginx搭建与配置

14397

5

去学习

7天玩转云服务器

211256

9

去学习

云服务器选型、迁云最佳实践

675

3

去学习

云服务器ECS基本操作

4367

7

去学习

相关电子书

更多

基于ECS倚天实例的应用构建最佳实践 立即下载

视觉AI能力的开放现状及ModelScope实战 立即下载

ModelScope助力语音AI模型创新与应用 立即下载

相关实验场景

更多