GPT3-13B 推理报错
文本推理，一直停留在 compiling and loading fused kernels。其中 modelscope 1.2.1
展开
收起
1
条回答
写回答
写回答
-
十分耕耘，一定会有一分收获！楼主你好，根据你的问题描述，可以推出卡在compiling and loading fused kernels的原因就是你的bulid路径下产生了lock，可能是你在上次ninja还没有编译成功就提前强制结束程序造成的，你可以试试排查一下。
2023-02-16 10:14:44赞同 1 展开评论 打赏
相关问答
热门讨论
热门文章
modelscope-funasr的FunClip怎么安装的？
2001
练的pth模型文件，怎么转成bin文件？
922
gpt3,加载数据时，MsDataset.load报错
1197
在modelscope-funasr中找不到有效的 OpenPGP 数据，如何解决？
120
基于SQL数据库的RAG的若干疑问
32
如何下载llama模型到本地？
2841
小白求助，跟着大模型微调教程做不太明白
801
请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
1172
modelscope-funasr怎么使用 gpu 加速啊？
475
如何修改通义千问的system prompt，以修改自定义名字
791
展开全部
智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
1773
今日 AI 开源｜共 4 项｜DeepSeek 推出新一代 AI 推理模型，实力比肩 OpenAI o1-preview！
49
Perplexica：开源 AI 搜索引擎，Perplexity AI 的开源替代品，支持多种搜索模式、实时信息更新
46
Open Interpreter：AI 赋能终端！在终端中对话AI模型进行编程，通过运行代码来完成各种计算机操作任务
43
最佳实践！使用 GraphRAG + GLM-4 对《红楼梦》全文构建中文增强检索
38
RAG+AI工作流+Agent：LLM框架该如何选择，全面对比MaxKB、Dify、FastGPT、RagFlow、Anything-LLM,以及更多推荐
661
Memoripy：支持 AI 应用上下文感知的记忆管理 Python 库
31
VideoChat：高效学习新神器！一键解读音视频内容，结合 AI 生成总结内容、思维导图和智能问答
30
AI Shell：在命令行里“对话” AI ，微软推出将 AI 助手引入命令行的 CLI 工具，打造对话式交互命令行
25
LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关
936
展开全部
