细粒度论文笔记：双线性模型《Bilinear CNN Models for Fine-Grained Visual Recognition》

冷不防 2024-02-19 14:49 29阅读 0赞

**双线性模型**是2015年提出的一种细粒度图像分类模型。该模型使用的是两个并列的CNN模型，这种CNN模型使用的是AlexNet或VGGNet去掉最后的全连接层和softmax层，这个作为特征提取器，然后使用SVM作为最后的线性分类器。当然，作者还在实验中尝试了多种方法，比如最后使用softmax但类别有所减少的分类器，作者在特征提取器上也有三种尝试，分别是使用两个AlexNet，使用一个AlexNet和一个VGGNet,和使用两个VGGNet,这三种特征提取的方法在不同的数据集上效果各有一些小差别，但是总体来说，相比其他类型的细粒度分类方法在精度上有较大提高，比如使用CNN特征的Fisher Vector（FV-CNN）方法，使用SIFT特征的Fisher Vector(FV-SIFT)方法，普通的带全连接层的卷积神经网络（FC-CNN）方法。

双线性图像分类模型示意图如下：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3pzeDE3MTMzNjYyNDk_size_16_color_FFFFFF_t_70][]

用于图像分类的双线性模型![20181219105341668.png][]由四元组![20181219105057547.png][]组成。 这里![20181219105138806.png][]和![20181219105152543.png][]是特征函数，![20181219105354987.png][]是池化函数，![20181219105406764.png][]是分类函数。 特征函数是一个映射![20181219105258735.png][] ，输入图像![20181219105421230.png][]和位置![20181219105433911.png][]并输出大小为 ![20181219105445459.png][]的特征。 我们说的位置通常是可以包含位置和尺度。 特征输出在每个位置上使用矩阵外积进行组合，即在位置![20181219105509555.png][]处的![20181219105522192.png][]和![20181219105532174.png][]的双线性特征组合由双线性函数 ![20181219105546126.png][]给出。

这种模型具有以下**优点**：

1，该架构能够以平移不变的方式，对局部的对级（pairwise）特征交互进行建模，适用于细粒度分类。

2，能够泛化多种顺序无关的特征描述子，如Fisher 向量，VLAD及O2P。实验中使用使用卷积神经网络的作为特征提取器的双线性模型。

3，双线性形式简化了梯度计算，能够对两个网络在只有图像标签的情况下进行端到端训练。

这篇论文中提到的一些技术比如Fisher Vector方法，SIFT特征提取，VLAD，Bag-of-Visual-Words。然后在双线性模型里面的一些细节还是有很多不懂得地方。

参考：

Lin T Y, Roychowdhury A, Maji S. Bilinear CNN Models for Fine-Grained Visual Recognition\[J\]. 2015:1449-1457.

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3pzeDE3MTMzNjYyNDk_size_16_color_FFFFFF_t_70]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/7c011beb289b47f7ba680d03a5bac37e.png
[20181219105341668.png]: https://img-blog.csdnimg.cn/20181219105341668.png
[20181219105057547.png]: https://img-blog.csdnimg.cn/20181219105057547.png
[20181219105138806.png]: https://img-blog.csdnimg.cn/20181219105138806.png
[20181219105152543.png]: https://img-blog.csdnimg.cn/20181219105152543.png
[20181219105354987.png]: https://img-blog.csdnimg.cn/20181219105354987.png
[20181219105406764.png]: https://img-blog.csdnimg.cn/20181219105406764.png
[20181219105258735.png]: https://img-blog.csdnimg.cn/20181219105258735.png
[20181219105421230.png]: https://img-blog.csdnimg.cn/20181219105421230.png
[20181219105433911.png]: https://img-blog.csdnimg.cn/20181219105433911.png
[20181219105445459.png]: https://img-blog.csdnimg.cn/20181219105445459.png
[20181219105509555.png]: https://img-blog.csdnimg.cn/20181219105509555.png
[20181219105522192.png]: https://img-blog.csdnimg.cn/20181219105522192.png
[20181219105532174.png]: https://img-blog.csdnimg.cn/20181219105532174.png
[20181219105546126.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/d57ba4caa04e4d16bc06ea8ee4b2a125.png