开发者社区 > ModelScope模型即服务 > 正文

以上modelscope问题怎么解决?

"RuntimeError: Failed to import transformers.trainer because of the following error (look up to see its traceback):
No module named 'transformers.models.gemma'

CUDA_VISIBLE_DEVICES=0 \
swift sft \
--model_type codegeex2-6b \
--model_revision master \
--sft_type lora \
--tuner_backend swift \
--quantization_bit 4 \
--dtype AUTO \
--output_dir output \
--dataset leetcode-python-en \
--train_dataset_sample -1 \
--num_train_epochs 1 \
--max_length 1096 \
--check_dataset_strategy warning \
--lora_rank 8 \
--lora_alpha 32 \
--lora_dropout_p 0.05 \
--lora_target_modules DEFAULT \
--gradient_checkpointing true \
--batch_size 1 \
--weight_decay 0.1 \
--learning_rate 1e-4 \
--gradient_accumulation_steps 16 \
--max_grad_norm 0.5 \
--warmup_ratio 0.03 \
--eval_steps 100 \
--save_steps 100 \
--save_total_limit 2 \
--logging_steps 10 \
--save_only_model true \ 以上modelscope问题怎么解决?"

展开
收起
小小爱吃香菜 2024-04-09 18:25:25 110 0
0 条回答
写回答
取消 提交回答

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

热门讨论

热门文章

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载