人脸检测中，如何构建输入图像金字塔

妖狐艹你老母 2022-04-11 03:09 293阅读 0赞

博客：[blog.shinelee.me][] | [博客园][Link 1] | [CSDN][]

### 文章目录 ###

*  写在前面
 *  人脸检测中的图像金字塔
 *  代码实现
 *   *  MTCNN
     *  Seetaface
 *  总结
 *  参考

# 写在前面 #

在文章《特征，特征不变性，尺度空间与图像金字塔》中我们初步谈到了图像金字塔，在这篇文章中将介绍如何在人脸检测任务中构建输入图像金子塔。

# 人脸检测中的图像金字塔 #

**人脸检测任务**，输入是一张图像，输出图像中人脸所在位置的Bounding Box。因为卷积神经网络强大的特征表达能力，现在的人脸检测方法通常都基于卷积神经网络，如[MTCNN][]等。网络确定后，通常只适用于检测一定尺寸范围内的人脸，比如MTCNN中的P-Net，用于判断 12 × 12 12 \\times 12 12×12大小范围内是否含有人脸，但是输入图像中人脸的尺寸是未知的，因此需要构建图像金字塔，以获得不同尺寸的图像，只要某个人脸被放缩到 12 × 12 12\\times12 12×12左右，就可以被检测出来。下图为MTCNN 的Pipeline，来自[链接][MTCNN]。

![MTCNN Pipeline][]

构建金字塔需要解决几个问题：

1.  **金字塔要建多少层，即一共要生成多少张图像**
2.  **每张图像的尺寸如何确定**

下面直接从代码层面看是如何实现的，也可以直接跳到总结查看结论。

# 代码实现 #

## MTCNN ##

以下为MTCNN 人脸检测 matlab代码  
![MTCNN detect face code][]

在人脸检测，通常要设置要原图中要检测的**最小人脸尺寸**，原图中小于这个尺寸的人脸不必care，MTCNN代码中为`minsize=20`，MTCNN P-Net用于检测 12 × 12 12\\times12 12×12大小的人脸。如果输入图像为 100 × 120 100 \\times 120 100×120，其中人脸最小为 20 × 20 20 \\times 20 20×20，最大为 100 × 100 100 \\times 100 100×100——对应图像较短边长，为了将人脸放缩到 12 × 12 12 \\times 12 12×12，同时保证相邻层间缩放比率`factor=0.709`，则金子塔中图像尺寸依次为 60 × 72 60 \\times 72 60×72、 52 × 61 52 \\times 61 52×61、 36 × 43 36 \\times 43 36×43、 26 × 31 26 \\times 31 26×31、 18 × 22 18 \\times 22 18×22、 13 × 16 13 \\times 16 13×16，其中 60 × 72 60 \\times 72 60×72对应把 20 × 20 20\\times 20 20×20的人脸缩放到 12 × 12 12 \\times 12 12×12， 13 × 16 13 \\times 16 13×16对应把 100 × 100 100 \\times 100 100×100的人脸缩放到 12 × 12 12 \\times 12 12×12（在保证缩放比率一致的情况下近似）。

现在就可以回答上面的两个问题了：

1.  **给定输入图像，根据设置的最小人脸尺寸以及网络能检测的人脸尺寸，确定图像金子塔中最大图像和最小图像**
2.  **根据设置的金字塔层间缩放比率，确定每层图像的尺寸**

## Seetaface ##

可以再看一下Seetaface中是如何构建图像金字塔的，Seetaface人脸检测使用的是非深度学习的方法，检测窗口大小`impl_->kWndSize = 40`，其对应MTCNN中网络适宜检测的人脸大小。

// 设置最大人脸，计算最大
    void FaceDetection::SetMinFaceSize(int32_t size) { 
      if (size >= 20) { 
        impl_->min_face_size_ = size;
        impl_->img_pyramid_.SetMaxScale(impl_->kWndSize / static_cast<float>(size));
      }
    }
    
    // 设置最大尺度
    inline void SetMaxScale(float max_scale) { 
      max_scale_ = max_scale;
      scale_factor_ = max_scale;
      UpdateBufScaled();
    }
    
    // 设置最小人脸
    void FaceDetection::SetMaxFaceSize(int32_t size) { 
      if (size >= 0)
        impl_->max_face_size_ = size;
    }
    
    // 设置相邻层放缩比率
    void FaceDetection::SetImagePyramidScaleFactor(float factor) { 
      if (factor >= 0.01f && factor <= 0.99f)
        impl_->img_pyramid_.SetScaleStep(static_cast<float>(factor));
    }
    
    // 在金字塔中检测人脸
    std::vector<seeta::FaceInfo> FaceDetection::Detect(
        const seeta::ImageData & img) { 
      int32_t min_img_size = img.height <= img.width ? img.height : img.width;
      min_img_size = (impl_->max_face_size_ > 0 ? (min_img_size >= impl_->max_face_size_ ? 
      impl_->max_face_size_ : min_img_size) : min_img_size);
      // ...
      // 最小尺度为 impl_->kWndSize / min_img_size，在Seetaface中impl_->kWndSize=40
      impl_->img_pyramid_.SetMinScale(static_cast<float>(impl_->kWndSize) / min_img_size);
      // ...
      impl_->pos_wnds_ = impl_->detector_->Detect(&(impl_->img_pyramid_));
      // ...
    }
    
    // 金子塔中对应尺度的图像
    const seeta::ImageData* ImagePyramid::GetNextScaleImage(float* scale_factor) { 
      // initial scale_factor_ = max_scale = impl_->kWndSize / min_face_size
      if (scale_factor_ >= min_scale_) {  // min_scale_ = impl_->kWndSize / min_img_size
        if (scale_factor != nullptr)
          *scale_factor = scale_factor_;
    
        width_scaled_ = static_cast<int32_t>(width1x_ * scale_factor_);
        height_scaled_ = static_cast<int32_t>(height1x_ * scale_factor_);
    
        seeta::ImageData src_img(width1x_, height1x_);
        seeta::ImageData dest_img(width_scaled_, height_scaled_);
        src_img.data = buf_img_;
        dest_img.data = buf_img_scaled_;
        seeta::fd::ResizeImage(src_img, &dest_img);
        scale_factor_ *= scale_step_;
    
        img_scaled_.data = buf_img_scaled_;
        img_scaled_.width = width_scaled_;
        img_scaled_.height = height_scaled_;
        return &img_scaled_;
      } else { 
        return nullptr;
      }
    }

看代码就很清晰了，与MTCNN是相通的。

# 总结 #

人脸检测中的图像金字塔构建，涉及如下数据：

1.  **输入图像尺寸**，定义为`(h, w)`
2.  **最小人脸尺寸**，定义为 `min_face_size`
3.  **最大人脸尺寸**，如果不设置，为图像高宽中较短的那个，定义为`max_face_size`
4.  **网络/方法能检测的人脸尺寸**，定义为`net_face_size`
5.  **金字塔层间缩放比率**，定义为`factor`

**缩放图像是为了将图像中的人脸缩放到网络能检测的适宜尺寸**，图像金字塔中  
最大尺度`max_scale = net_face_size / min_face_size`，  
最小尺度`min_scale = net_face_size / max_face_size`，  
中间的尺度`scale_n = max_scale * (factor ^ n)`，  
对应的图像尺寸为`(h_n, w_n) = (h * scale_n, w_n * scale_n)`。

以上。

# 参考 #

*  [MTCNN\_face\_detection\_alignment][MTCNN_face_detection_alignment]
 *  [SeetaFaceEngine][]

[blog.shinelee.me]: https://blog.shinelee.me/
[Link 1]: https://www.cnblogs.com/shine-lee/
[CSDN]: https://blog.csdn.net/blogshinelee
[MTCNN]: https://kpzhang93.github.io/MTCNN_face_detection_alignment/index.html
[MTCNN Pipeline]: https://s1.ax1x.com/2018/12/04/FQDn0A.png
[MTCNN detect face code]: /images/20220411/99bbb52017df4b6b9f9c0f363cacac54.png
[MTCNN_face_detection_alignment]: https://github.com/kpzhang93/MTCNN_face_detection_alignment
[SeetaFaceEngine]: https://github.com/seetaface/SeetaFaceEngine