耗时两年，谷歌用强化学习打造23个机器人帮助垃圾分类

机器之心编译

编辑：王强

以后垃圾分类这个活，可以交给机器人了。

强化学习（RL）可以让机器人通过反复试错进行交互，进而学会复杂行为，并随着时间的推移变得越来越好。之前谷歌的一些工作探索了 RL 如何使机器人掌握复杂的技能，例如抓取、多任务学习，甚至是打乒乓球。虽然机器人强化学习已经取得了长足进步，但我们仍然没有在日常环境中看到有强化学习加持的机器人。因为现实世界是复杂多样的，并且随着时间的推移不断变化，这为机器人系统带来巨大挑战。然而，强化学习应该是应对这些挑战的优秀工具：通过不断练习、不断进步和在工作中学习，机器人应该能够适应不断变化的世界。在谷歌的论文《 Deep RL at Scale: Sorting Waste in Office Buildings with a Fleet of Mobile Manipulators 》中，研究人员探讨了如何通过最新的大规模实验解决这个问题，他们在两年内部署了一支由 23 个支持 RL 的机器人组成的群组，用于在谷歌办公楼中进行垃圾分类和回收。使用的机器人系统将来自真实世界数据的可扩展深度强化学习与来自模拟训练的引导和辅助对象感知输入相结合，以提高泛化能力，同时保留端到端训练优势，通过对 240 个垃圾站进行 4800 次评估试验来验证。 论文地址：https://rl-at-scale.github.io/assets/rl_at_scale.pdf问题设置如果人们没有正确分类垃圾，成批的可回收物品可能会受到污染，堆肥可能会被不当丢弃到垃圾填埋场。在谷歌的实验中，机器人在办公楼周围漫游，寻找 “垃圾站”（可回收垃圾箱、堆肥垃圾箱和其它垃圾箱）。机器人的任务是到达每个垃圾站进行垃圾分类，在不同垃圾箱之间运输物品，以便将所有可回收物品（罐头、瓶子）放入可回收垃圾箱，将所有可堆肥物品（纸板容器、纸杯）放入堆肥垃圾箱，其他所有东西都放在其它垃圾箱里。就如下面视频展示的：

强化学习在该大规模应用中的示意图。使用脚本生成的数据引导策略的启动（左上图）。然后训练一个从仿真到实际的模型，在仿真环境中生成额外的数据（右上图）。在每个部署周期中，添加在 “robot classrooms” 中收集的数据（右下图）。在办公楼中部署和收集数据（左下图）。这里使用的强化学习框架基于 QT-Opt，实验室环境下的不同垃圾的抓取以及一系列其他技能也是使用该框架。在仿真环境中从简单的脚本策略开始引导，应用强化学习，并使用基于 CycleGAN 的迁移方法，利用 RetinaGAN 使仿真图像看起来更加逼真。

:30