问题一:ModelScope训练模型推理 测试了 但是我的grpc python 要如何调用我训练好的模型?
ModelScope训练模型推理 测试了
但是我的grpc python 要如何调用我训练好的模型?
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/516775?spm=a2c6h.14164896.0.0.28161edf0EjcQd
问题二:ModelScope训练好的模型可以离线部署吗?
ModelScope训练好的模型可以离线部署吗?
参考回答:
可以https://www.modelscope.cn/docs/%E9%83%A8%E7%BD%B2EAS
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/500957?spm=a2c6h.14164896.0.0.28161edf0EjcQd
问题三:您好,请问您ModelScope训练时,是在内网离线训练吗?
您好,请问您ModelScope训练时,是在内网离线训练吗?
参考回答:
可以离线训练的,本身开源社区的意义就是用户自由使用 from modelscope.utils.hub import snapshot_download model_dir = snapshot_download('damo/nlp_gpt3_text-generation_chinese-base')
将model_dir的目录拷贝到离线环境中
kwargs = dict( # 这里的model_dir是离线环境的模型路径 model=model_dir, train_dataset=train_dataset, eval_datase=eval_dataset, max_epochs=max_epochs, work_dir=tmp_dir, cfg_modify_fn=cfg_modify_fn) 可以这样处理
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/500944?spm=a2c6h.14164896.0.0.28161edf0EjcQd
问题四:咨询个问题,ModelScope训练模型能设置使用cpu核数么?
咨询个问题,ModelScope训练模型能设置使用cpu核数么?
参考回答:
从您提供的输出信息来看,似乎在设置 PyTorch 的线程数时没有生效,线程数依然为 64。这可能是因为您的操作系统、硬件或软件环境导致的。下面是一些建议,希望能帮助您解决问题:
确保您的代码在主程序的开始部分设置了线程数。将线程数的设置放在所有 PyTorch 操作之前,以确保设置能够在整个程序中生效。 请确保环境变量设置正确。您可以使用以下代码检查环境变量设置: python Copy code import os
print("OMP_NUM_THREADS:", os.environ.get("OMP_NUM_THREADS")) print("MKL_NUM_THREADS:", os.environ.get("MKL_NUM_THREADS")) 请检查您的代码中是否有其他地方可能影响到线程数设置的部分,例如其他模块、包或者脚本。 请检查您使用的 PyTorch 版本是否存在已知的线程数设置问题。您可以通过运行 print(torch.version) 来检查您当前的 PyTorch 版本。如果可能,请尝试升级到最新版本的 PyTorch。 如果您在 Jupyter Notebook、Colab 或其他交互式环境中运行代码,请尝试在独立的 Python 脚本中运行相同的代码,以排除环境相关的问题。 如果问题仍然存在,请提供更多关于您的环境(操作系统、硬件配置、Python 版本等)和代码的详细信息,以便我能更好地为您提供帮助。
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/498843?spm=a2c6h.14164896.0.0.28161edf0EjcQd
问题五:ModelScope训练的时候卡在这里怎么办?
ModelScope训练的时候卡在这里怎么办?
参考回答:
可以参考model card 中使用dureader数据集的训练,这个示例是有tgt的,评价标准这行删掉就可以,默认会使用bleu和rouge指标
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/495166?spm=a2c6h.14164896.0.0.28161edf0EjcQd