使用GAN绘制像素画,用机器学习的方式协助绘画者更快地完成作品(三)

简介: 使用GAN绘制像素画,用机器学习的方式协助绘画者更快地完成作品(三)

SSIM评分的范围从0(完全不相似)到1(完全相同),并衡量两个图像的感知相似度。虽然MSE和MAE纯粹是数学概念,但SSIM分数与人类感知更加相关。在表中,阴影精灵的得分接近1,表明它们与平均观察者几乎相同,而彩色图像则并非如此。

作为第三次也是最后一次评估,我们要求设计团队对207个为莎拉生成的精灵进行评论。他们的反馈意见大多是积极的,称赞了着色精灵的质量并丢弃了彩色精灵。总之,他们发表了四点评论:

  1. 几乎一半的着色精灵有用,可以在20到30分钟内完善。彩色精灵不可用。
  2. 该算法在单个动画中效果不稳定,这可能会使子画面失效。
    某些姿势下即使是着色精灵也会产生可怕的结果。
    将色彩数量固定为使用6和42种颜色时,会引入一些不必要的噪音。

下图说明了观点2、3和4。

image.png

八帧动画中的身体明亮度不一致

image.png

使用与训练中使用的姿势相差太大的姿势会产生较差的结果。

image.png

在量化为6和42种颜色数量时,会引入一些噪音。在轮廓中可以很容易看到。

结论

在这项工作中,我们评估了使用现代生成模型来解决像素艺术生成问题的效果。即,我们采用了改进的Pix2Pix架构,取得了一定程度的效果。更详细地讲,着色精灵被艺术团队认为是有用的,而彩色小精灵则被认为是无用的。

对于着色精灵,团队提出平均需要20到30分钟来完善每一个精灵,比从头开始绘制一个要少10到30分钟。保守的估计是,每个有用的精灵都会节省10分钟的劳动时间,这意味着生产力提高了约15%。

尽管具有更多的颜色,但对于设计团队而言,区域精灵所花费的时间并不多于着色精灵。正如首席美术师所解释的那样,动画中的区域更容易预测,并且可以轻松地从一个精灵复制到另一个精灵。因此,不生成它们不是大问题。

从技术角度来看,这项工作证明了当前模型可以有效地用作创造性任务的助手。其他动漫领域也发现了类似的结论,动漫领域主要是由平坦而丰富的颜色组成,并且比像素艺术具有更少的限制。此外,Pix2Pix模型适用于现实世界的图片,也适用于像素艺术和动漫数据,这证明了其普适性。

未来的工作

我们当前的系统基于Pix2Pix模型,基于像素。但是,我们的问题可以根据图像分割名词来表述为按像素分类。这样的思路可能会大大改善我们的结果。

有时,简化问题可能使其更易于处理。区域精灵共有42种颜色,但每个精灵仅出现大约十二种颜色,并且这些颜色占据所有精灵中很大一部分。将问题缩小为更具选择性的阴影可能会减轻生成器的工作压力。

Pix2Pix创始于2017年。自那时以来,GAN取得了一些进步,包括更好的损失函数,注意力机制和改进的方法。使用更先进的技术可能会大大改善结果。

U-Net和Pix2Pix的参考资料

O. Ronneberger, P. Fischer, and T. Brox, “U-net: Convolutional networks for biomedical image segmentation” 2016

P. Isola, J.-Y. Zhu, T. Zhou, and A. A. Efros, “Image-to-image translation with conditional adversarial networks” 2017

目录
相关文章
|
机器学习/深度学习 自然语言处理 数据可视化
时序预测的三种方式:统计学模型、机器学习、循环神经网络
时序预测是一类经典的问题,在学术界和工业界都有着广泛的研究和应用。甚至说,世间万物加上时间维度后都可抽象为时间序列问题,例如股票价格、天气变化等等。关于时序预测问题的相关理论也极为广泛,除了经典的各种统计学模型外,当下火热的机器学习以及深度学习中的循环神经网络也都可以用于时序预测问题的建模。今天,本文就来介绍三种方式的简单应用,并在一个真实的时序数据集上加以验证。
481 0
时序预测的三种方式:统计学模型、机器学习、循环神经网络
|
机器学习/深度学习 算法
使用GAN绘制像素画,用机器学习的方式协助绘画者更快地完成作品(二)
使用GAN绘制像素画,用机器学习的方式协助绘画者更快地完成作品(二)
179 0
使用GAN绘制像素画,用机器学习的方式协助绘画者更快地完成作品(二)
|
机器学习/深度学习 编解码 算法
使用GAN绘制像素画,用机器学习的方式协助绘画者更快地完成作品(一)
使用GAN绘制像素画,用机器学习的方式协助绘画者更快地完成作品(一)
203 0
使用GAN绘制像素画,用机器学习的方式协助绘画者更快地完成作品(一)
|
机器学习/深度学习 数据可视化 算法
机器学习基础:可视化方式理解决策树剪枝
机器学习基础:可视化方式理解决策树剪枝
机器学习基础:可视化方式理解决策树剪枝
|
机器学习/深度学习
【机器学习技巧】回归模型的几个常用评估指标(R2、Adjusted-R2、MSE、RMSE、MAE、MAPE)及其在sklearn中的调用方式
【机器学习技巧】回归模型的几个常用评估指标(R2、Adjusted-R2、MSE、RMSE、MAE、MAPE)及其在sklearn中的调用方式
【机器学习技巧】回归模型的几个常用评估指标(R2、Adjusted-R2、MSE、RMSE、MAE、MAPE)及其在sklearn中的调用方式
|
机器学习/深度学习 Python
【机器学习技巧】之特征工程:数字编码以及One-hot独热编码的几种方式(sklearn与pandas处理方式)
【机器学习技巧】之特征工程:数字编码以及One-hot独热编码的几种方式(sklearn与pandas处理方式)
【机器学习技巧】之特征工程:数字编码以及One-hot独热编码的几种方式(sklearn与pandas处理方式)
|
机器学习/深度学习 算法
阿旭机器学习实战【1】K-近邻算法(KNN)模型应用实例,以及图像表征方式
阿旭机器学习实战【1】K-近邻算法(KNN)模型应用实例,以及图像表征方式
阿旭机器学习实战【1】K-近邻算法(KNN)模型应用实例,以及图像表征方式
|
机器学习/深度学习 传感器 人工智能
物联网和机器学习促进企业业务发展的5种方式
物联网和机器学习是当今商业领域最具颠覆性的两项技术。另外,这两种创新都能给任何公司带来显著的好处。它们一起可以彻底改变企业业务。
291 15
物联网和机器学习促进企业业务发展的5种方式
|
机器学习/深度学习 算法 数据挖掘
机器学习的几种学习方式
机器学习的几种学习方式
264 0
|
机器学习/深度学习 算法 数据挖掘
【数据挖掘】神经网络简介 ( 有向图本质 | 拓扑结构 | 连接方式 | 学习规则 | 分类 | 深度学习 | 机器学习 )(二)
【数据挖掘】神经网络简介 ( 有向图本质 | 拓扑结构 | 连接方式 | 学习规则 | 分类 | 深度学习 | 机器学习 )(二)
273 0

热门文章

最新文章