机器学习PAI为啥本地不支持 mirrored 啊？
- MirroredStrategy 单机多卡模式，仅在PAI上可以使用，本地和EMR上不能使用
，看文档上有一句这个是什么原因呀？机器学习PAI为啥本地不支持 mirrored 啊？这个按说也是tf的功能呀。
写回答
-
MirroredStrategy是TensorFlow提供的一种分布式训练策略，用于在单机多卡环境下进行模型训练。这种策略利用多个GPU或TPU设备在同一台机器上并行处理不同的数据副本，并使用梯度聚合来更新模型参数。
虽然MirroredStrategy是TensorFlow的功能，但在本地环境和EMR（Elastic MapReduce）等云服务上使用时需要满足以下条件：
多卡设备：MirroredStrategy需要在一台具有多个可用GPU或TPU设备的机器上运行。如果你的本地计算机或EMR实例只有单个GPU或TPU设备，则无法使用MirroredStrategy。
分布式环境：MirroredStrategy通常与分布式训练一起使用，以实现更高效的计算和通信。在本地环境中，如果没有设置适当的分布式配置，MirroredStrategy可能无法正常工作。而在EMR等云服务上，由于网络和资源配置的限制，可能也无法在分布式环境中使用MirroredStrategy。
机器学习PAI平台为了提供更好的分布式训练体验，在其特定的环境中，对MirroredStrategy进行了适配和支持。它为用户提供了能够在单机多卡环境下使用MirroredStrategy的便利性，无需用户自行配置底层的分布式环境。
总结起来，MirroredStrategy在本地和EMR等云服务上不能直接使用的原因是需要满足多卡设备和适当的分布式环境条件。机器学习PAI通过提供集成的平台和相关资源，使得在其环境中可以方便地使用MirroredStrategy进行单机多卡训练。
2023-07-31 17:57:02赞同 展开评论 打赏 -
DS上建议用MultiWorkerMirroredStrategy 此回答整理自钉群“【EasyRec】推荐算法交流群”
2023-07-11 19:15:29赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
