"PYTHONPATH=../../.. \
CUDA_VISIBLE_DEVICES=0 \
python /mnt/10101/staryea/aigc/modelscope_tuning/swift-main/examples/pytorch/llm/llm_infer.py \
--ckpt_dir ""output/v3/qwen1half-1_8b-chat/v0-20240401-070137/checkpoint-200"" \
--load_dataset_config true \
--max_length -1 \
--use_flash_attn false \
--max_new_tokens 2048 \
--temperature 0.1 \
--top_p 0.7 \
--do_sample false \
--val_dataset_sample -1 \
--eval_human false \
--custom_val_dataset_path /mnt/10101/staryea/aigc/modelscope_tuning/data/qwen_intent_val_data_v3.jsonl \
modelscope中,只想验证custom_val_dataset_path里面的数据,咋改?"
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352