魔塔GPU平台加载DeepSeek Qwen 7B的模型时,提示提示The kernel for xxxxxx.ipynb appears to have died. It will restart automatically.是怎么回事,怎么解决?
算了不等了,自己回答吧,可能是由于虚拟机分配的内存不足导致的,后继我又下载了qwen3-4G的模型,用相同的代码进行了微调,程序执行正常。
PS:没有在本地服务器上尝试微调,网上相关资料显示7B模型微调,显存开销大概在16 ~18G左右,仅做参考,目前采用LoRA尝试qwen3-4B模型的微调
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352