机器学习PAI我改了allow_growth之后,gpu内存打的还是很满,这正常吗?能看出来allo

机器学习PAI我改了allow_growth之后,gpu内存打的还是很满,这正常吗?能看出来allow_growth是生效的,因为每张卡内存占用是有差别的

展开
收起
真的很搞笑 2023-08-14 14:51:15 119 分享 版权
1 条回答
写回答
取消 提交回答
  • 在 TensorFlow 中,使用 allow_growth 参数可以让 TensorFlow 动态申请 GPU 内存,即只申请使用到的内存。但是在实际使用中,TensorFlow 可能会提前申请比需要更多的内存,这是为了避免内存不足的情况发生。

    如果您需要使用 allow_growth 参数来优化 GPU 内存的使用,可以通过以下方法进行调优:

    降低 allow_growth 参数的值。
    减少模型中张量的大小。
    减少模型中激活函数的激活次数。

    2023-09-22 11:47:24
    赞同 展开评论

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

还有其他疑问?
咨询AI助理