雨天美图大法:单图去雨的RESCAN新方式

简介: 其实在过去十年中,图像去除已经有了不少有趣的研究。现有方法可以分为两类,包括基于视频的方法和单图去除方法。基于视频的方法可以利用视频中图片的关系框架,因此相对容易;相对而言,单图像去除更具挑战性。

最近一周的南北方降雨量可能不相上下,不仅雨量大,而且每场雨都在瓢泼。

南方台风中的画风是这样的

image

而北京进入“看海”节奏,根本不需要台风

image

雨滴会严重降低能见度,除了给日常出行造成各种不便,也导致许多当前的计算机视觉算法都无法工作。特别是在大雨中,来自各个方向的雨水积累和使背景场景朦胧,严重影响比如视频监控,物体检测,以及在自动驾驶跟踪等方向的准确性。

因此,除去雨水并从雨水图像中恢复背景,是一项重要的任务。

其实在过去十年中,图像去除已经有了不少有趣的研究。

现有方法可以分为两类,包括基于视频的方法和单图去除方法。基于视频的方法可以利用视频中图片的关系框架,因此相对容易;相对而言,单图像去除更具挑战性。

在今年的雨季,来自北京大学和上海交通大学的几位研究者,针对“单图去雨”任务进行了研究,他们基于深度卷积和循环神经网络,建立了一种新颖的神经网络架构,并获得了不错的结果。

这一成果在ArXiv上发表,并已被ECCV(欧洲计算机视觉国际会议,计算机视觉三大会议之一)采纳。

除了论文成果,里边对之前各种关于单图去雨的历史研究论述总结颇为详细,在今天读来是个很应景的话题,感兴趣的同学可以自行下载

image


大数据文摘微信公众号后台回复“下雨”获得本论文哟~~~

我们对论文的精华编译如下:

对于单图像去除,传统方法,例如判别稀疏编码、低秩表示以及高斯混合模型,都可以应用于这项任务,并且有不错的表现。最近,基于深度学习的消除方法,由于其强大的特征表示能力而受到广泛关注。但是所有这些相关方法仍有很多空间需要改进。

现有方法主要有两个局限。

一方面,根据之前的研究,空间背景信息对于雨点的消除非常有用。然而,许多当前的方法基于图像补丁去除雨条纹,忽略了大区域的背景信息。

另一方面,由于大雨中的雨滴会呈现各种各样的方向和形状,它们会以不同的方式让背景模糊不清。

分解整体,通过不同的阶段去除雨水条纹,是一种常见的方法,这种方法可以将问题分解为多个阶段,以便我们可以迭代地去除雨条纹。然而,现有方法只对每个阶段独立除雨,而不考虑它们的相关性。

我们提出了一种新颖的深度网络架构,基于深度卷积和递归神经网络对单张图像的雨水进行去除。

在大雨中,雨滴有各种各样的方向和形状,由于雨条纹层各自重叠,在一个阶段去除雨水并不容易。所以我们进一步分解雨水为多个阶段。利用循环神经网络以保留前几个阶段的有用信息,有利于后期去雨。我们在合成和真实数据集上进行了大量实验,所有评估指标的表现都优于先前的方法。

image

在解决上述两个局限性后,我们提出了一种新颖的深层网络,从而用于单个图像的除雨。例如上图,体现了逐步消除雨条纹的阶段。

在每个阶段,我们都使用有多个卷积层的集成网络对背景图像的雨水条纹进行消除。由于雨条纹有各种方向和形状,我们让每个网络层对应一种雨条纹,并根据其在每个卷积层中的相互依赖性为其赋值。

受益于指数级增加的卷积层,这一神经网络接受域大且深度低,可以获取更多的背景图信息。我们接下来利用三种不同的循环神经网络(RNN),进一步最大限度的利用之前几个阶段搜集到的背景信息,来指导后期的雨滴去除。

我们将这一方法命名为REcurrent SE Context Aggregation Net(RESCAN)。

本文的主要贡献如下:
1、对于单图除雨提出了一种新颖的集成深度网络。

2、据我们所知,这是首篇考虑不同阶段除雨相关性的论文。通过RNN体系结构的三种不同循环单元,可以结合前几个阶段的来指导后期阶段。这一神经网络适用于复杂的下雨环境。

3、与最先端的方法相比,我们的深度网络在不同数据集上展现了更卓越的性能。

原文发布时间为:2018-07-24
本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“大数据文摘”。

相关文章
|
4月前
|
人工智能 IDE 开发工具
【开发者必看】WindSurf官网下载安装:AI编程IDE让写代码更轻松
Windsurf 是 Codeium 推出的新一代 AI 原生 IDE,深度集成 Cascade 智能代理,支持实时代码库理解、多行智能补全、自然语言驱动的跨文件修改与错误诊断。区别于插件式方案,它从底层重构开发体验,免费版即享核心功能。(239字)
|
6月前
|
人工智能 自然语言处理 安全
阿里云百炼Token Plan(团队版)怎么样?为企业解决了哪些AI订阅痛点?功能、优势与适用场景解析
阿里云百炼Token Plan(团队版)是面向企业团队推出的AI大模型订阅服务,以Credits统一计量,支持Qwen、GLM、Kimi等20+主流模型灵活切换,兼容Qoder、OpenClaw等主流AI编程与智能体工具。提供标准、高级、尊享三档坐席套餐及共享用量包,包月预算可控。内置团队管理后台,支持席位分配、用量分析与权限控制;通过统一接入解决企业多平台分散管理、成本不透明、安全失控等痛点,适合规模化AI开发与跨部门协作场景。
|
6月前
|
机器学习/深度学习 数据采集 人工智能
焊接情况检测数据集分享(适用于YOLO系列深度学习分类检测任务)
本数据集含约1000张真实工业焊接图像,标注3类(不良/良好焊缝、缺陷),采用YOLO格式,已划分训练/验证/测试集,适配YOLO等主流检测模型,助力焊接缺陷智能识别与工业质检落地。(239字)
426 5
|
10月前
|
人工智能 弹性计算 安全
阿里云DDoS防护产品类型、功能、收费标准、选型参考
阿里云DDoS防护服务的核心作用,是依托全球分布式防护网络和AI智能系统,抵御各类DDoS攻击(包括流量型攻击、资源耗尽型攻击等),避免业务出现访问延迟、卡顿甚至中断,尤其适合对网络安全有需求的个人开发者、企业及跨境业务用户。2026年,阿里云不仅优化了DDoS防护的功能体验,还通过产品直降、首购赠品、优惠券等优惠,降低用户使用成本。以下结合最新信息,详细拆解产品类型、核心功能、计费规则及优惠活动,帮大家清晰了解如何选择和使用。
962 2
|
人工智能 Serverless 视频直播
活动实践 | AI智能体实时语音互动
AI智能体实时语音互动方案提供端到端的实时音频交互,用户通过终端SDK与云端AI智能体进行音频通话。AI智能体接收音频输入,依据预定义工作流处理并生成响应,通过ARTC网络推送结果。该方案支持灵活编排AI组件如语音转文字、大语言模型等,确保高可用、低延迟的通信体验。用户可轻松创建和管理智能体及实时工作流,实现高效对话,并可通过示例网站体验功能。
|
人工智能 数据可视化 程序员
精心整理自学python的宝藏网站,不看亏死
精心整理自学python的宝藏网站,不看亏死
2991 4
精心整理自学python的宝藏网站,不看亏死
|
移动开发 JavaScript 前端开发
ThreeJs简介
这篇文章介绍了Three.js的基础知识,包括其相对于WebGL的优势以及如何使用Three.js创建基本的3D场景。
1068 1
|
算法 数据挖掘 数据库
|
人工智能 资源调度 安全
密码学承诺之原理和应用 - Kate多项式承诺
密码学承诺之原理和应用 - Kate多项式承诺
|
Web App开发 JSON JavaScript
Chrome 插件各模块之间的消息传递
Chrome 插件各模块之间的消息传递 一、消息传递 1. 消息传递分类 Chrome 插件的 Action、Background 和 content_script 三个模块之间的信息传输 插件和插件之间的信息传输 网页向插件进行信息传输 与原生应用进行消息传递
1521 0