modelscope中，没有device参数了，无法使用gpu怎么解决？
"用训练后的结果进行数据处理的时候 提示错误：
/opt/miniconda3/envs/mt5text38/lib/python3.8/site-packages/transformers/modeling_utils.py:962: FutureWarning: The device argument is deprecated and will be removed in v5 of Transformers.
warnings.warn(
/opt/miniconda3/envs/mt5text38/lib/python3.8/site-packages/transformers/generation/utils.py:1178: UserWarning: Using the model-agnostic default max_length (=20) to control the generation length. We recommend setting max_new_tokens to control the maximum length of the generation.
warnings.warn(
/opt/miniconda3/envs/mt5text38/lib/python3.8/site-packages/transformers/modeling_utils.py:916: FutureWarning: The device argument is deprecated and will be removed in v5 of Transformers.
modelscope中，没有device参数了，无法使用gpu怎么解决？"
写回答
-
对于第一条错误信息，它提示在Transformers库v5版本中将移除
device参数。在ModelScope（魔搭）中，若无法指定GPU设备，您可以尝试通过设置环境变量CUDA_VISIBLE_DEVICES来指定使用的GPU，或者确保您的代码中正确设置了模型加载和运算时的设备上下文，例如使用torch.device("cuda")或device="cuda"（如果存在GPU资源）。2024-03-19 16:05:50赞同 展开评论 打赏 -
在 transformers 库中，您收到的警告信息是关于
device参数即将在 v5 版本中移除，推荐通过设置max_new_tokens来控制生成文本的最大长度。对于 ModelScope 中无法指定设备（GPU）的问题，通常情况下，您可以直接将模型和数据加载到 GPU 上，例如：import torch device = torch.device("cuda" if torch.cuda.is_available() else "cpu") model.to(device)2024-03-19 11:07:02赞同 展开评论 打赏 -
"https://modelscope.cn/docs/%E8%AE%AD%E7%BB%83%E7%9A%84%E8%AF%A6%E7%BB%86%E5%8F%82%E6%95%B0
此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"2024-03-18 21:02:05赞同 1 展开评论 打赏
ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352
