图像风格迁移cvpr2020_pystiche：图像风格迁移框架

柔光的暖阳◎ 2023-01-09 01:22 168阅读 0赞

点击上方“机器学习与生成对抗网络”，关注"星标"

获取有趣、好玩的前沿干货！

来源：机器之心编译

易于使用的神经风格迁移框架 pystiche。

![Image 1][]

将内容图片与艺术风格图片进行融合，生成一张具有特定风格的新图，这种想法并不新鲜。早在 2015 年，Gatys、 Ecker 以及 Bethge 开创性地提出了神经风格迁移(Neural Style Transfer ，NST)。

不同于深度学习，目前 NST 还没有现成的库或框架。因此，新的 NST 技术要么从头开始实现所有内容，要么基于现有的方法实现。但这两种方法都有各自的缺点：前者由于可重用部分的冗长实现，限制了技术创新；后者继承了 DL 硬件和软件快速发展导致的技术债务。

最近，新项目 pystiche 很好地解决了这些问题，虽然它的核心受众是研究人员，但其易于使用的用户界面为非专业人员使用 NST 提供了可能。

pystiche 是一个用 Python 编写的 NST 框架，基于 PyTorch 构建，并与之完全兼容。相关研究由 pyOpenSci 进行同行评审，并发表在 JOSS 期刊 (Journal of Open Source Software) 上。

![Image 1][]

论文地址：https://joss.theoj.org/papers/10.21105/joss.02761

项目地址：https://github.com/pmeier/pystiche

在深入实现之前，我们先来回顾一下 NST 的原理。它有两种优化方式：基于图像的优化和基于模型的优化。虽然 pystiche 能够很好地处理后者，但更为复杂，因此本文只讨论基于图像的优化方法。

在基于图像的方法中，将图像的像素迭代调整训练，来拟合感知损失函数(perceptual loss)。感知损失是 NST 的核心部分，分为内容损失(content loss)和风格损失(style loss)，这些损失评估输出图像与目标图像的匹配程度。与传统的风格迁移算法不同，感知损失包含一个称为编码器的多层模型，这就是 pystiche 基于 PyTorch 构建的原因。

如何使用 pystiche

让我们用一个例子介绍怎么使用 pystiche 生成神经风格迁移图片。首先导入所需模块，选择处理设备。虽然 pystiche 的设计与设备无关，但使用 GPU 可以将 NST 的速度提高几个数量级。

模块导入与设备选择：

import torchimport pystichefrom pystiche import demo, enc, loss, ops, optimprint(f"pystiche==\{pystiche.\_\_version\_\_\}")device = torch.device("cuda" if torch.cuda.is\_available() else "cpu")

输出：

pystiche==0.7.0

多层编码器

content\_loss 和 style\_loss 是对图像编码进行操作而不是图像本身，这些编码是由在不同层级的预训练编码器生成的。pystiche 定义了 enc.MultiLayerEncoder 类，该类在单个前向传递中可以有效地处理编码问题。该示例使用基于 VGG19 架构的 vgg19\_multi\_layer\_encoder。默认情况下，它将加载 torchvision 提供的权重。

多层编码器：

multi\_layer\_encoder = enc.vgg19\_multi\_layer\_encoder()print(multi\_layer\_encoder)

输出：

VGGMultiLayerEncoder(arch=vgg19, framework=torch, allow\_inplace=True(preprocessing): TorchPreprocessing((0): Normalize(mean=('0.485', '0.456', '0.406'),std=('0.229', '0.224', '0.225')))(conv1\_1): Conv2d(3, 64, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu1\_1): ReLU(inplace=True)(conv1\_2): Conv2d(64, 64, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu1\_2): ReLU(inplace=True)(pool1): MaxPool2d(kernel\_size=2, stride=2, padding=0, dilation=1, ceil\_mode=False)(conv2\_1): Conv2d(64, 128, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu2\_1): ReLU(inplace=True)(conv2\_2): Conv2d(128, 128, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu2\_2): ReLU(inplace=True)(pool2): MaxPool2d(kernel\_size=2, stride=2, padding=0, dilation=1, ceil\_mode=False)(conv3\_1): Conv2d(128, 256, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu3\_1): ReLU(inplace=True)(conv3\_2): Conv2d(256, 256, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu3\_2): ReLU(inplace=True)(conv3\_3): Conv2d(256, 256, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu3\_3): ReLU(inplace=True)(conv3\_4): Conv2d(256, 256, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu3\_4): ReLU(inplace=True)(pool3): MaxPool2d(kernel\_size=2, stride=2, padding=0, dilation=1, ceil\_mode=False)(conv4\_1): Conv2d(256, 512, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu4\_1): ReLU(inplace=True)(conv4\_2): Conv2d(512, 512, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu4\_2): ReLU(inplace=True)(conv4\_3): Conv2d(512, 512, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu4\_3): ReLU(inplace=True)(conv4\_4): Conv2d(512, 512, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu4\_4): ReLU(inplace=True)(pool4): MaxPool2d(kernel\_size=2, stride=2, padding=0, dilation=1, ceil\_mode=False)(conv5\_1): Conv2d(512, 512, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu5\_1): ReLU(inplace=True)(conv5\_2): Conv2d(512, 512, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu5\_2): ReLU(inplace=True)(conv5\_3): Conv2d(512, 512, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu5\_3): ReLU(inplace=True)(conv5\_4): Conv2d(512, 512, kernel\_size=(3, 3), stride=(1, 1), padding=(1, 1))(relu5\_4): ReLU(inplace=True)(pool5): MaxPool2d(kernel\_size=2, stride=2, padding=0, dilation=1, ceil\_mode=False))

感知损失

pystiche 将内容损失和风格损失定义为操作符。使用 ops.FeatureReconstructionOperator 作为 content\_loss，直接与编码进行对比。如果编码器针对分类任务进行过训练，如该示例中这些编码表示内容。对于content\_layer，选择 multi\_layer\_encoder 的较深层来获取抽象的内容表示，而不是许多不必要的细节。

content\_layer = "relu4\_2"encoder = multi\_layer\_encoder.extract\_encoder(content\_layer)content\_loss = ops.FeatureReconstructionOperator(encoder)

pystiche 使用 ops.GramOperator 作为 style\_loss 的基础，通过比较编码各个通道之间的相关性来丢弃空间信息。这样就可以在输出图像中的任意区域合成风格元素，而不仅仅是风格图像中它们所在的位置。对于 ops.GramOperator，如果它在浅层和深层 style\_layers 都能很好地运行，则其性能达到最佳。

style\_weight 可以控制模型对输出图像的重点——内容或风格。为了方便起见，pystiche 将所有内容包装在 ops.MultiLayerEncodingOperator 中，该操作处理在同一 multi\_layer\_encoder 的多个层上进行操作的相同类型操作符的情况。

style\_layers = ("relu1\_1", "relu2\_1", "relu3\_1", "relu4\_1", "relu5\_1")style\_weight = 1e3def get\_encoding\_op(encoder, layer\_weight):return ops.GramOperator(encoder, score\_weight=layer\_weight)style\_loss = ops.MultiLayerEncodingOperator(multi\_layer\_encoder, style\_layers, get\_encoding\_op, score\_weight=style\_weight,)

loss.PerceptualLoss 结合了 content\_loss 与 style\_loss，将作为优化的标准。

criterion = loss.PerceptualLoss(content\_loss, style\_loss).to(device)print(criterion)

输出：

PerceptualLoss((content\_loss): FeatureReconstructionOperator(score\_weight=1,encoder=VGGMultiLayerEncoder(layer=relu4\_2,arch=vgg19,framework=torch,allow\_inplace=True))(style\_loss): MultiLayerEncodingOperator(encoder=VGGMultiLayerEncoder(arch=vgg19,framework=torch,allow\_inplace=True),score\_weight=1000(relu1\_1): GramOperator(score\_weight=0.2)(relu2\_1): GramOperator(score\_weight=0.2)(relu3\_1): GramOperator(score\_weight=0.2)(relu4\_1): GramOperator(score\_weight=0.2)(relu5\_1): GramOperator(score\_weight=0.2)))

图像加载

首先加载并显在 NST 需要的目标图片。因为 NST 占用内存较多，故将图像大小调整为 500 像素。

size = 500images = demo.images()

content\_image = images\["bird1"\].read(size=size, device=device)criterion.set\_content\_image(content\_image)

![Image 1][]

内容图片

style\_image = images\["paint"\].read(size=size, device=device)criterion.set\_style\_image(style\_image)

![Image 1][]

风格图片

神经风格迁移

创建 input\_image。从 content\_image 开始执行 NST，这样可以实现快速收敛。image\_optimization 函数是为了方便，也可以由手动优化循环代替，且不受限制。如果没有指定，则使用 torch.optim.LBFGS 作为优化器。

input\_image = content\_image.clone()output\_image = optim.image\_optimization(input\_image, criterion, num\_steps=500)