ModelScope这个一般是什么问题呢？
ModelScope这个一般是什么问题呢？Traceback (most recent call last):
File "llm_sft.py", line 7, in
best_ckpt_dir = sft_main()
File "/mnt/workspace/swift/swift/llm/utils/utils.py", line 194, in x_main
return llm_x(args, **kwargs)
File "/mnt/workspace/swift/swift/llm/sft.py", line 161, in llm_sft
training_args = Seq2SeqTrainingArguments(
File "", line 123, in init
File "/opt/conda/lib/python3.8/site-packages/transformers/training_args.py", line 1376, in post_init
raise ValueError(
ValueError: Your setup doesn't support bf16/gpu. You need torch>=1.10, using Ampere GPU with cuda>=11.0
root@eais-bj31jokmhac2pupwykvs-d6795cc5b-fqmpw:/mnt/workspace/swift/examples/pytorch/llm#
写回答
-
这个错误提示是因为你的环境不支持bf16/gpu。你需要安装torch>=1.10，使用Ampere GPU（cuda>=11.0）。你可以尝试更新PyTorch和CUDA版本来解决这个问题。
2023-11-29 17:29:18赞同 展开评论 打赏 -
面对过去，不要迷离；面对未来，不必彷徨；活在今天，你只要把自己完全展示给别人看。这是一个由 PyTorch 错误导致的问题。该错误表明在运行代码时遇到了错误，原因是 PyTorch 版本太低，不支持 BF16 GPU 加速。
要解决这个问题，你可以升级 PyTorch 版本至 1.10 或更高版本，以支持 BF16 GPU 加速。你可以在 Anaconda 中使用 conda install 或 pip install 安装相应版本的 PyTorch。此外，你需要确认 CUDA 版本 >= 11.0。
更多的信息可以查阅 PyTorch 的官方文档，找到关于 BF16 GPU 加速的支持版本。2023-11-17 14:40:48赞同 展开评论 打赏 -
