我想本地部署一下这个模型,然后使用,总是不成功,是不是缺少东西呢,请大神指教一下
GPT3目前提供了多个规格的模型,当前13B规模以上的模型因为checkpoint较大,而且需要多卡GPU才能加载,还没有开放下载。可以移步1.3B或2.7B规格的模型,根据模型介绍先试用一下。例如
https://www.modelscope.cn/models/damo/nlp_gpt3_text-generation_1.3B/summary
我们正在完善如何让大规模模型可以在notebook里面也做到开箱即用。尽情关注哈!