什么是迁移学习？什么时候使用迁移学习？

缺乏、安全感 2022-12-25 04:50 228阅读 0赞

迁移学习是一种深度学习策略，它通过将解决一个问题所获得的知识应用于另一个不同但相关的问题来重用这些知识。例如，有3种类型的花：玫瑰、向日葵和郁金香。可以使用标准的预训练模型，如VGG16/19、ResNet50或Inception v3模型（在ImageNet上预训练了1000个输出类）对花卉图像进行分类，但是由于模型没有学习这些花卉类别，因此这样的模型无法正确识别它们。换句话说，它们是模型不知道的类。

图11-13所示的是预先训练的VGG16模型错误地对花卉图像进行了分类（代码留给读者作为练习）。其中flamingo（火鹤花）的可信度为0.83，daisy（雏菊）的可信度为0.43，artichoke（菊芋）的可信度为0.33。

![7d784e599bbafcb102dfc905d43fc81a.png][]

图11-13　预先训练的VGG16模型对花卉图像的误分类

# 用Keras实现迁移学习 #

许多综合图像分类问题进行了预处理模型的训练。在使用卷积网络对猫与狗图像分类的语境中，以卷积层作为特征提取器，以全连接层作为分类器，如图11-14所示。

![3678ec1dde8d38eba385b5a4b5e500f5.png][]

图11-14　卷积神经网络体系构架

由于标准模型（如VGG-16/19）相当庞大，并且针对许多图像进行了训练，因此它们能够为不同的类学习许多不同的特性。读者可以简单地重用卷积层作为特征提取器，学习低阶和高阶图像特征，并只训练全连接层权重（参数），这就是迁移学习。

当有一个简洁的训练集时，可以使用迁移学习，所处理的问题与之前训练的模型是一样的。如果有足够的数据，则可以调整卷积层，从头开始学习所有的模型参数，以便训练模型来学习与问题相关的更健壮的特性。

现在，用迁移学习对玫瑰、向日葵和郁金香花的图像。这些图像是从TensorFlow示例图像数据集中获得的3个类各用550张图片，总共1650张，这是小数量的图片，但也是使用迁移学习的好地方。使用每个类中的500个图像进行训练，保留每个类中的其余50个图像进行验证。另外，创建一个名为flower\_photos的文件夹，其中包含两个子文件夹train和valid，并将训练图像和验证图像分别保存在这些文件夹中。文件夹结构应该如图11-15所示。

![645a657091b79aa628e176c14f5d1498.png][]

图11-15　文件夹结构图

加载卷积层的权重，只针对预先训练好的VGG16模型（设置include\_top=False，不加载最后两个全连接层），将它当作分类器。注意，最后一层的形状尺寸为7×7×512。

使用ImageDataGenerator类来加载图像，并使用flow\_from\_directory()函数来生成成批的图像和标签。还将使用model.predict()函数来通过网络传递图像，得到一个7×7×512维的张量，然后将张量重新塑造成一个向量，并以同样的方式找到validation\_features。

也就是说，用Keras实现迁移学习对VGG16模型进行部分训练，即它只会根据所拥有的训练图像来学习全连接层的权重，然后用它来预测类，如下面的代码所示。

from keras.applications import VGG16
    from keras.preprocessing.image import ImageDataGenerator
    from keras import models, layers, optimizers
    from keras.layers.normalization import BatchNormalization
    from keras.preprocessing.image import load_img
    # train only the top FC layers of VGG16, use weights learnt with ImageNet for the   
    convolution layers
    vgg_model = VGG16(weights='imagenet', include_top=False, input_shape=(224,224, 3))
    # the directory flower_photos is assumed to be on the current path
    train_dir = './flower_photos/train'
    validation_dir = './flower_photos/valid'
    n_train = 500*3
    n_val = 50*3
    datagen = ImageDataGenerator(rescale=1./255)
    batch_size = 25
    train_features = np.zeros(shape=(n_train, 7, 7, 512))
    train_labels = np.zeros(shape=(n_train,3))
    train_generator = datagen.flow_from_directory(train_dir, target_size=(224,224),
    batch_size=batch_size, class_mode='categorical', shuffle=True)
    i = 0
    for inputs_batch, labels_batch in train_generator:
    features_batch = vgg_model.predict(inputs_batch)
    train_features[i * batch_size : (i + 1) * batch_size] = features_batch
    train_labels[i * batch_size : (i + 1) * batch_size] = labels_batch
    i += 1
    if i * batch_size >= n_train: break
    train_features = np.reshape(train_features, (n_train, 7 * 7 * 512))
    validation_features = np.zeros(shape=(n_val, 7, 7, 512))
    validation_labels = np.zeros(shape=(n_val,3))
    validation_generator = datagen.flow_from_directory(validation_dir,
    target_size=(224, 224),
    batch_size=batch_size, class_mode='categorical', shuffle=False)
    i = 0
    for inputs_batch, labels_batch in validation_generator:
    features_batch = vgg_model.predict(inputs_batch)
    validation_features[i * batch_size : (i + 1) * batch_size] =features_batch
    validation_labels[i * batch_size : (i + 1) * batch_size] = labels_batch
    i += 1
    if i * batch_size >= n_val: break
    validation_features = np.reshape(validation_features, (n_val, 7 * 7 * 512))

接下来，使用带有3个类的softmax输出层的简单前馈网络创建模型。然后必须对模型进行训练，如下面的代码所示。可以看到，在Keras中训练一个网络就像调用model.fit()函数一样简单。为了检验模型的性能，先看看哪些图片被错误分类。

# now learn the FC layer parameters by training with the images we have
    model = models.Sequential()
    model.add(layers.Dense(512, activation='relu', input_dim=7 * 7 * 512))
    model.add(BatchNormalization())
    model.add(layers.Dropout(0.5))
    model.add(layers.Dense(3, activation='softmax'))
    model.compile(optimizer=optimizers.Adam(lr=1e-5),
    loss='categorical_crossentropy', metrics=['acc'])
    history = model.fit(train_features, train_labels, epochs=20,batch_size=batch_size,
    validation_data=(validation_features,validation_labels))
    filenames = validation_generator.filenames
    ground_truth = validation_generator.classes
    label2index = validation_generator.class_indices
    # Getting the mapping from class index to class label
    idx2label = dict((v,k) for k,v in label2index.items())
    predictions = model.predict_classes(validation_features)
    prob = model.predict(validation_features)
    errors = np.where(predictions != ground_truth)[0]
    print("No of errors = {}/{}".format(len(errors),n_val))
    # No of errors = 13/150
    pylab.figure(figsize=(20,12))
    for i in range(len(errors)):
    pred_class = np.argmax(prob[errors[i]])
    pred_label = idx2label[pred_class]
    original =load_img('{}/{}'.format(validation_dir,filenames[errors[i]]))
    pylab.subplot(3,5,i+1), pylab.imshow(original), pylab.axis('off')
    pylab.title('Original
    label:{}\nPrediction:{}\nconfidence:{:.3f}'.format(
    filenames[errors[i]].split('\\')[0], pred_label,
    prob[errors[i]][pred_class]), size=15)
    pylab.show()

运行上述代码，输出结果如图11-16所示。可以看到，在迁移学习模型的150幅图像中，验证数据集中有13幅图像被错误分类。

![1b9129bcd4dfe3cc20cf982e93c0efe7.png][]

图11-16　迁移学习模型对验证数据集部分图像分类出错

最初使用的花卉图像（它们是验证数据集的一部分，没有用于训练迁移学习模型）现在被正确分类，如图11-17所示（代码实现作为练习留给读者）。

![50468bf9d940d31d770db3a6f09fe743.png][]

图11-17　利用迁移学习模型对之前错误分类图像的正确分类

**本文摘自《Python图像处理实战》**

\[印度\] 桑迪潘·戴伊（Sandipan Dey） 著，陈盈，邓军 译

![5d81c5d667bc722c946360507510d989.png][]

*  图像处理，计算机视觉人脸识别图像修复
 *  编程入门教程书籍零基础，深度学习爬虫
 *  用流行的Python图像处理库、机器学习库和深度学习库解决图像处理问题。

本书介绍如何用流行的Python 图像处理库、机器学习库和深度学习库解决图像处理问题。先介绍经典的图像处理技术，然后探索图像处理算法的演变历程，始终紧扣图像处理以及计算机视觉与深度学习方面的最新进展。全书共12 章，涵盖图像处理入门基础知识、应用导数方法实现图像增强、形态学图像处理、图像特征提取与描述符、图像分割，以及图像处理中的经典机器学习方法等内容。

本书适合Python 工程师和相关研究人员阅读，也适合对计算机视觉、图像处理、机器学习和深度学习感兴趣的软件工程师参考。

如果想进一步学习迁移学习，推荐《Python迁移学习》迪潘简·撒卡尔（Dipanjan Sarkar） 著，张浩然 译

![5d2a352393296eef2820396d9a0587db.png][]

*  使用TensorFlow和Keras实现高级深度学习和神经网络模型

迁移学习是机器学习技术的一种，它可以从一系列机器学习问题的训练中获得知识，并将这些知识用于训练其他相似类型的问题。

本书分为3个部分：第1部分是深度学习基础，介绍了机器学习的基础知识、深度学习的基础知识和深度学习的架构；第2部分是迁移学习精要，介绍了迁移学习的基础知识和迁移学习的威力；第3部分是迁移学习案例研究，介绍了图像识别和分类、文本文档分类、音频事件识别和分类、DeepDream算法、风格迁移、自动图像扫描生成器、图像着色等内容。

本书适合数据科学家、机器学习工程师和数据分析师阅读，也适合对机器学习和迁移学习感兴趣的读者阅读。在阅读本书之前，希望读者对机器学习和Python编程有基本的掌握。

[7d784e599bbafcb102dfc905d43fc81a.png]: /images/20221120/0018b7511f644411aacc50432935896f.png
[3678ec1dde8d38eba385b5a4b5e500f5.png]: /images/20221120/a9b6a7a5e66d434a930c2497c50cd919.png
[645a657091b79aa628e176c14f5d1498.png]: /images/20221120/cf76909b7d6345d5a622000d891b974c.png
[1b9129bcd4dfe3cc20cf982e93c0efe7.png]: /images/20221120/a31536c4f44a4cceaa193586b176557f.png
[50468bf9d940d31d770db3a6f09fe743.png]: /images/20221120/8daf0522129d46f98fc2b1371d2d8bb5.png
[5d81c5d667bc722c946360507510d989.png]: /images/20221120/6f32a0c788e2417b87af3679a217bc6d.png
[5d2a352393296eef2820396d9a0587db.png]: /images/20221120/f7ee3c2a813d4e5394e31b42196cc591.png