开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

qwen-14B-chat-Int8模型启动报错Unrecognized tensor

Snipaste_2023-11-08_09-36-29.png

RuntimeError: Unrecognized tensor type ID: AutocastCUDA

展开
收起
7q53djewhjqbu 2023-11-08 09:43:48 237 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    QWEN-14B-Chat-Int8模型可能是基于Transformers库构建的预训练语言模型之一。出现“Unrecognized tensor”的报错可能是因为以下原因:

    1. 输入的数据格式不正确:请确保输入的数据格式符合模型的要求,例如文本长度、词汇表大小、是否分词等。
    2. 缺少必要的参数或模块:检查您的代码中是否存在缺失的参数或模块,导致模型无法识别某些张量。
    3. 不兼容的版本问题:请确保您的TensorFlow或Transformers库版本与模型兼容。
    4. 其他硬件或环境问题:检查您的硬件资源是否充足,以及其他运行环境是否满足模型的需求。
    2023-11-11 14:28:40
    赞同 展开评论 打赏
  • 这个错误提示表明在启动qwen-14B-chat-Int8模型时遇到了无法识别的张量。这可能是由于以下原因之一导致的:

    1. 模型文件损坏或不完整:请确保您提供的模型文件是完整的,并且没有损坏。您可以重新下载模型文件并尝试再次启动。

    2. TensorFlow版本不兼容:请检查您的TensorFlow版本是否与qwen-14B-chat-Int8模型兼容。如果需要,可以尝试升级或降级TensorFlow版本以解决此问题。

    3. 输入数据格式不正确:请确保您提供的输入数据与模型期望的输入数据格式相匹配。检查输入数据的维度、形状和数据类型是否正确。

    4. 内存不足:如果您的计算机内存不足,可能会导致无法识别的张量错误。尝试关闭其他占用大量内存的程序,或者增加计算机的内存容量。

    5. 其他未知错误:如果以上方法都无法解决问题,可能是由于其他未知错误导致的。在这种情况下,您可以尝试查看详细的错误日志以获取更多信息,并根据日志中的错误提示进行相应的修复。

    2023-11-09 16:45:35
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载