ModelScope中,用notebook直接调用demo测试,发现也会报错
Expected is_sm90 || is_sm8x || is_sm75 to be true, but got false. (Could this error message be improved? If so, please report an enhancement request to PyTorch.)我看了下modelscope-agent-7b这个有更新,是这个影响了么
有可能不过demo里指定了revision,应该不会影响才对部分模型用到flash-attension不支持v100感觉像是环境问题,你那里安装flash_attn了么?在A10notebook中我这里正常的,没有安装flash_attn——此回答整理自钉群:魔搭ModelScope开发者联盟群 ①