先来做个“真假美猴王”的游戏。
你将看到两段画面相同的视频，请判断哪段来自视频原声，哪段是AI根据视频画面配上的假声？
莫非两个都是真的？不可能，答案文末揭晓。（还有更多真假难辨的视频原声和配音大对比）
真假难辨，简直让人怀疑耳朵。模型合成的假音效，什么时候都这么逼真了？一切还得从这个自动为自然环境下的视频配音的项目说起。
视听关联
看闪电，知雷声。
对人类来说，声音和视觉通常会打包出现传递信息。就像一个孩子看到闪电会下意识捂住耳朵，看到沸腾的水会想起水汽呼呼的声音。
在论文（Visual to Sound: Generating Natural Sound for Videos in the Wild）中，北卡罗来纳大学的博士生Yipin Zhou，其导师Tamara L. Berg联合Adobe公司的Zhaowen Wang、Chen Fang和Trung Bui三人，想做出一个计算模型来学习视觉和声音间的关系，减少繁琐的音频编辑流程。
论文一作Yipin Zhou
要做出这样一个模型，那第一步肯定是找出一个合适的数据集来训练。
这个数据集可没有那么好找。
加工数据集
研究人员掐指一算，觉得AudioSet不错。
这是今年3月谷歌开放的一个大规模的音频数据集，包含了632个类别的音频及2084320条人工标记的音频，每段音频长度均为10秒。人与动物、乐器与音乐流派、日常环境的声音均覆盖在数据集内。
数据集代码地址：
https://github.com/audioset/ontology
但由于AudioSet中很多的音频与视频的关联松散，目标声音可能被音乐等其他声音覆盖，这些噪音会干扰模型学习正确的声音和图像间的映射（mapping），因此也不是很理想。研究人员先清理了数据的一个子集，让它们适应生成任务。
研究人员从AudioSet中选择10个类别进行进一步的清理，分别为婴儿啼哭、人打鼾、狗、流水、烟火、铁路运输、打印机、打鼓、直升机和电锯。每个类别中包含1500-3000个随机抽取的视频。
其中4个类别的视频帧及相应波形。图像边界颜色与波形上的标记标记一致，表示整个视频中当前帧的位置
之后，研究人员用亚马逊众包平台Mechanical Turk(AMT)清理数据。值得一提的是，李飞飞在建立ImageNet数据集时，也是借助这个可以把任务分发给全世界坐在电脑前的人的平台做起来的。
在这个任务中，研究人员借助AMT上兼职的力量验证在图像和音频形态下，视频片段中关注的物体或动作是否存在。如果在视听两种环境下都存在，则认为它是一个噪音较少的可用视频。为了尽可能保留更多数据，研究人员将每段视频分割成两秒钟的短视频，分别标注标签。
这样一来，图像和音频模式上共标注了132209个片段，每个都被3个兼职做了标记，并从原始数据中删除了34392个片段。研究人员在合并相邻的短片段后，总共得到了28109个筛选后的视频。这些视频平均长度为7秒，总长度为55小时。
下图左表显示了视频数量和每个类别的平均长度，而饼图展示了长度的分布。由图中可见大多数视频的长度超过8秒。
左：每个类别视频数量及平均长度/右：视频长度的分布
研究人员将这个数据集命名为VEGAS（Visually Engaged and Grounded AudioSet ） 。
准备模型
数据集搞定后，研究人员开始了模型研究。
研究人员将任务当成一个条件生成问题，通过训练条件生成模型从一个输入视频合成原始波形样本。条件概率如下：
在这个概率中，x1，……，Xm为输入视频帧的表示，y1，……，yn为输出的波形值，是0到255之间的整数序列。值得注意的是，m通常远远小于n，因为音频的采样率远高于视频的采样率，因此音频波形序列比同步视频的视频帧序列长得多。
大体来说，这个模型由两部分构成，即声音生成器和视频编码器。
声音生成器
研究人员想直接用生成模型合成波形样本。为了得到音效说得过去的音频，他们选用了16kHz的音频采样频率。这就导致序列相当长，给生成器出了个难题。最后，研究人员选择了Yoshua Bengio团队在去年发表的论文《SampleRNN: An Unconditional End-to-End Neural Audio Generation Model》中提出的SampleRNN来合成声音。
论文地址：https://arxiv.org/abs/1612.07837
SampleRNN是一种递归神经网络，它由粗到细的结构使模型产生极长的序列，而且每一层的周期性结构都能捕捉到关联不紧密的样本间的依赖关系。
SampleRNN已经应用于语音合成和音乐生成任务。在这个项目中，研究人员用它来为自然条件下的视频生成声音。这意味着变化更大、结构模式更少和比语音或音乐数据更多的噪音。
确实是个挑战。
SampleRNN模型的简化结构如下图所示。
声音生成器的简化架构
图中将示例结构简化到2层，但在实际操作中可能包含更多层次。该模型由多个层、细层（底层）是一个多层感知器（MLP），它从下一个粗层（上层）和前一个k样本中输出，生成一个新样本。
3种编码视觉信息和系统的变体
之后，研究人员提出了三种类型的编码器-解码器结构，这些信息可以与声音生成网络相结合，形成一个完整的框架。这三种变体分别为帧到帧法（Frame-to-frame method）、序列到序列法（Sequence-to-sequence method）和基于流的方法（Flow-based method）。
原文发布时间为：2017-12-13
本文作者：文婧
