开发者社区 > ModelScope模型即服务 > 正文

modelscope加载模型,如何指定gpu卡?

"modelscope加载模型,如何指定gpu卡?
tokenizer = AutoTokenizer.from_pretrained(
model_path_image_interpretation_1, trust_remote_code=True
)

    # pipe = AutoModelForCausalLM.from_pretrained(
    #     model_path_image_interpretation_1,
    #     device_map=""auto"",
    #     trust_remote_code=True,
    #     fp16=True,
    # ).eval()
    os.environ[""CUDA_LAUNCH_BLOCKING""] = ""0""
    pipe = AutoModel.from_pretrained(
        model_path_image_interpretation_1,
        torch_dtype=torch.bfloat16,
        low_cpu_mem_usage=True,
        trust_remote_code=True,
        device_map=""auto"",
    ).eval()"

展开
收起
小小爱吃香菜 2024-05-21 22:21:07 24 0
0 条回答
写回答
取消 提交回答

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
DeepStream: GPU加速海量视频数据智能处理 立即下载
阿里巴巴高性能GPU架构与应用 立即下载
GPU在超大规模深度学习中的发展和应用 立即下载