" 请问modelscope在vllm部署中遇到过类似 SIGSEGV received at time=1716731787 on cpu xx 的问题吗? NCCL_DEBUG=INFO
RAY_memory_monitor_refresh_ms=0
CUDA_VISIBLE_DEVICES=0,1,2,3,4,5,6,7
swift deploy \
--model_type qwen1half-72b-chat \
--tensor_parallel_size 8 \
--dtype fp16 \ 这是我的启动代码ed ,这是一部分报错信息
"
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352