python脚本中用的话,os.environ['MODELSCOPE_CACHE']='your path' 您在前面加个环境变量看看,MODELSCOPE_CACHE=your_path 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
虽然空闲内存总量足够,但内存可能已经被分割成了较小的块,无法分配一个足够大的连续块来满足18.00 GiB的需求。
Try setting PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True to avoid fragmentation.
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352