modelscope模型微调必须是32G及以上的显卡还是A1024G的显卡？

可以多卡，您参考下这个example,
https://github.com/modelscope/swift/blob/main/examples/pytorch/llm/scripts/qwen_14b_chat/lora_ddp_ds/sft.sh
此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

包括32GB及以上的显卡和A1024G的显卡。具体要求取决于您选择使用的模型和微调任务的需求。

https://help.aliyun.com/document_detail/2401803.html?spm=a2c6h.14164896.0.0.49eb47c5wFrRef&scm=20140722.S_help@@%E6%96%87%E6%A1%A3@@2401803.S_RQW@ag0+BB2@ag0+BB1@ag0+os0.ID_2401803-RL_modelscope%20%E6%A8%A1%E5%9E%8B-LOC_search~UND~helpdoc~UND~item-OR_ser-V_3-P0_8

魔搭ModelScope开源社区推出的SWIFT（Scalable lightWeight Infrastructure for Fine-Tuning）推理框架，是一个基于PyTorch的轻量级、开箱即用的模型微调工具。它设计的初衷就是让AI爱好者能够使用自己的消费级显卡进行大模型和AIGC的操作。

关于显卡的要求，SWIFT支持多种类型的显卡，包括但不限于NVIDIA GPU、AMD GPU和Intel CPU。但是，对于具体的14B的qwen模型微调，建议您查看ModelScope官方文档或者该模型的特定要求，以确定最合适的显卡配置。