flash-attn 1.0.8 安装不成功,报错:
Error limit reached.
100 errors detected in the compilation of "ln_bwd_1024.cu".
Compilation terminated.
error: command 'C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin\nvcc.exe' failed with exit code 4294967295。
尝试安装flash-attn==1.0.9成功,但是提示import flash_attn rms_norm fail。
只支持flash-attn 1.0.8吗?还是CUDA版本问题?
使用python版本3.9.17。
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352