GPT3本地部署如何操作?

已解决

我想本地部署一下这个模型,然后使用,总是不成功,是不是缺少东西呢,请大神指教一下

展开
收起
wallowlip 2023-02-24 10:18:11 3197 分享 版权
1 条回答
写回答
取消 提交回答
  • 推荐回答

    GPT3目前提供了多个规格的模型,当前13B规模以上的模型因为checkpoint较大,而且需要多卡GPU才能加载,还没有开放下载。可以移步1.3B或2.7B规格的模型,根据模型介绍先试用一下。例如

    https://www.modelscope.cn/models/damo/nlp_gpt3_text-generation_1.3B/summary

    我们正在完善如何让大规模模型可以在notebook里面也做到开箱即用。尽情关注哈!

    2023-02-24 10:37:19
    赞同 展开评论

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理