可以参考模型介绍里的说明:
依赖安装 要使用中文GPT3进行推理,需要额外安装DeepSpeed依赖,推荐使用0.7.2版本,可以通过以下命令进行安装:
pip install deepspeed==0.7.2
pip install megatron_util -f https://modelscope.oss-cn-beijing.aliyuncs.com/releases/repo.html
下个版本发布会更好的梳理这些依赖关系,再次感谢对我们社区和模型的反馈,我们会不断改进社区模型的质量和易用度,并完善相关文档。