AI 助理
备案控制台
开发者社区 问答 正文

ModelScope中GPT3模型支持离线部署吗？

ModelScope中GPT3模型支持离线部署吗？就是本地推理。 比如私有化部署到客户环境。需要把gpt3的大模型download到本地。

展开
收起
fuxixi 2022-12-09 13:07:30 656 分享 版权
来自： 阿里云开发者学堂

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 宇航员w

    gpt3目前需要多卡（8卡）能跑起来，客户环境需要多卡资源就可以。此答案整理自钉钉群“魔搭ModelScope开发者联盟群 ①”

    2022-12-11 10:48:11
    赞同 展开评论
问答标签：
modelscope模型 modelscope离线部署 modelscope离线 modelscope部署 modelscope模型部署
问答地址：
开发者社区 > 阿里云开发者学堂 > 问答
相关问答
在4卡4090（24G）服务器上利用modelscope离线部署Qwen2vl-Flux时报错
88
1
0
modelscope-funasr部署完没有任何返回结果是为什么？
48
0
0
modelscope-funasr离线版的翻译返回的时间戳是一句话的结束时间吗？
111
0
0
modelscope-funasr服务端部署的话，推荐什么样的GPU？
87
0
0
modelscope-funasr的语音情感识别，如何离线部署？
67
0
0
modelscope-funasr的GPU离线转写服务的说话人识别模块要怎么配置啊？
101
0
0
modelscope-funasr使用离线这个推理示例音频的时候，报了错误，是为什么？
61
1
0
在modelscope-funasr中funasr 中文实时的可以gpu部署吗？
69
0
0
在modelscope-funasr中这个离线转写支持spk_model吗？
45
1
0
在modelscope-funasr，离线和在线的版本在处理音频时有什么区别吗？
89
1
0
收录在圈子:
阿里云开发者学堂
131201
+ 订阅
技术图谱：由专家组参与技术图谱的绘制与编写，知识与实践的结合让开发者们掌握学习路线与逻辑，快速提升技能 电子书：电子书由阿里内外专家打造，供开发者们下载学习，更与课程相结合，使用户更易理解掌握课程内容 训练营：学习训练营 深入浅出，专家授课，带领开发者们快速上云 精品课程：汇集知识碎片，解决技术难题，体系化学习场景，深入浅出，易于理解 技能自测：提供免费测试，摸底自查 体验实验室：学完即练，云资源免费使用
问答排行榜
最热
最新
  • 【大咖问答】对话PostgreSQL 中国社区发起人之一，阿里云数据库高级专家 德哥
  • 据说在家办公的程序员是这样写代码的？
  • 阿里云开放端口权限
  • 如何升级配置
  • 【藏经阁一起读（27）】本周推荐《Apache Flink案例集（2022版）》，你有哪些心得？
  • 传统动画创作 VS AI动画创作，你更偏向哪一个？
  • 2025 年 AI 产业会迎来全面爆发吗？
  • 在魔塔社区-模型服务 里面一键部署的deepseek模型怎么使用？
  • 开源PolarDB-X｜follow节点的binlog日志没有自动清理
  • 通义灵码在vscode中无法正确工作
    • 还有其他疑问?
    咨询AI助理