开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

GPT3-13B 推理运行报错 NCCL

1677575329130.png

运行后会报错,本机的两块显卡进行推理。

展开
收起
g_tanfy 2023-02-28 17:11:36 674 0
1 条回答
写回答
取消 提交回答
  • 您好,13B模型暂不支持下载,因此本地推理也是做不了的,只能通过调用demo测试

    2023-03-07 21:59:33
    赞同 展开评论 打赏

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载

相关实验场景

更多