计算机视觉实践（街景字符编码识别）——Task01：赛题理解

深碍√TFBOYSˉ_ 2023-02-10 05:12 11阅读 0赞

原教程：[计算机视觉实践（街景字符编码识别） datawhalechina/team-learning · GitHub][datawhalechina_team-learning _ GitHub]

### Task01：赛题理解 ###

*  一、赛题理解
 *   *  1.目标及任务
     *  2.数据集了解
     *  3.评测指标
 *  二、数据的读取
 *  三、解题思路
 *   *  1.简单入门思路：定长字符识别
     *  2.专业字符识别思路：不定长字符识别
     *  3.专业分类思路：检测再识别

# 一、赛题理解 #

## 1.目标及任务 ##

*  **赛题名称**：  
    零基础入门CV之街道字符识别
 *  **赛题目标：**  
    通过这道赛题可以引导大家走入计算机视觉的世界，主要针对竞赛选手上手视觉赛题，提高对数据建模能力。
 *  **赛题任务：**  
    赛题以计算机视觉中字符识别为背景，要求选手**预测街道字符编码**，这是一个典型的字符识别问题。为了简化赛题难度，赛题数据采用**公开数据集SVHN**，因此大家可以选择很多相应的paper作为思路参考。

## 2.数据集了解 ##

*  **数据集简介：**  
    训练集数据包括3W张照片，验证集数据包括1W张照片，每张照片包括颜色图像和对应的编码类别和具体位置；为了保证比赛的公平性，测试集A包括4W张照片，测试集B包括4W张照片。  
    需要注意的是本赛题需要选手识别图片中所有的字符，为了降低比赛难度，我们提供了训练集、验证集和测试集中所有**字符的位置框**。
 *  **图片样本：**  
    数据来自收集的SVHN街道字符，部分图片如下：  
    （蓝框表示字符的位置框，实际图片无）  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70]
 *  **数据标签：**  
    对于训练数据每张图片将给出对于的编码标签，和具体的字符框的位置（训练集、测试集和验证集都给出字符位置），可用于模型训练：

<table> 
 <thead> 
  <tr> 
   <th>Field</th> 
   <th>Description</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>top</td> 
   <td>左上角坐标X</td> 
  </tr> 
  <tr> 
   <td>height</td> 
   <td>字符高度</td> 
  </tr> 
  <tr> 
   <td>left</td> 
   <td>左上角最表Y</td> 
  </tr> 
  <tr> 
   <td>width</td> 
   <td>字符宽度</td> 
  </tr> 
  <tr> 
   <td>label</td> 
   <td>字符编码</td> 
  </tr> 
 </tbody> 
</table>

字符的坐标具体如下所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 1]  
在比赛数据（训练集、测试集和验证集）中，同一张图片中可能包括**一个或者多个字符**，因此在比赛数据的JSON标注中，会有**多个字符的边框信息**  
下面给出一个包含两个字符的样本图片及其JSON标注：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 2]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 3]

## 3.评测指标 ##

选手提交结果与实际图片的编码进行对比，以编码整体识别准确率为评价指标。任何一个字符错误都为错误，最终评测指标结果越大越好，具体计算公式如下：  
 S c o r e = 编 码 识 别 正 确 的 数 量 测 试 集 图 片 数 量 Score=\\frac\{编码识别正确的数量\}\{测试集图片数量\} Score=测试集图片数量编码识别正确的数量

# 二、数据的读取 #

代码如下：

import cv2
    import numpy as np
    import matplotlib.pyplot as plt
    import json
    
    train_json = json.load(open('mchar_train.json'))
    
    def parse_json(d):
        """ 提取数据标注，放入一个数组中 """
        arr = np.array([d['top'], d['height'], d['left'],
          d['width'], d['label']])
        arr = arr.astype(int)
        return arr
    
    # 以000000.png为例
    img = cv2.imread('mchar_train/000000.png')
    arr = parse_json(train_json['000000.png'])
    
    plt.figure(figsize=(10, 10))
    plt.subplot(1, arr.shape[1]+1, 1)
    plt.imshow(img)
    plt.xticks([]); plt.yticks([])
    
    # 循环取出图片中的每个字符并单独绘出
    for idx in range(arr.shape[1]):
        plt.subplot(1, arr.shape[1]+1, idx+2)
        plt.imshow(img[arr[0, idx]:arr[0, idx]+arr[1, idx],arr[2, idx]:arr[2, idx]+arr[3, idx]])
        plt.title(arr[4, idx])
        plt.xticks([]); plt.yticks([])
    
    plt.show()

结果：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 4]

# 三、解题思路 #

赛题本质是**分类问题**，需要对图片的字符进行识别。

但赛题给定的数据图片中不同图片中包含的字符数量不等，有的图片的字符个数为2，有的图片字符个数为3，有的图片字符个数为4。

因此本次赛题的难点是需要**对不定长的字符进行识别**，与传统的图像分类任务有所不同。

以下为datawhale提供的一些解题思路：

## 1.简单入门思路：定长字符识别 ##

可以将赛题抽象为一个定长字符识别问题，在赛题数据集中大部分图像中字符个数为2-4个，*最多的字符个数为6个*。  
因此可以对于所有的图像都**抽象为6个字符的识别问题**，字符23填充为23XXXX，字符231填充为231XXX。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 5]  
经过填充之后，原始的赛题可以简化了6个字符的分类问题。  
在每个字符的分类中会进行11个类别的分类，假如分类为**填充字符**，则表明该字符为空。

## 2.专业字符识别思路：不定长字符识别 ##

![在这里插入图片描述][2020052020424733.png]  
在字符识别研究中，有特定的方法来解决此种不定长的字符识别问题，比较典型的有**CRNN字符识别模型**。  
在本次赛题中给定的图像数据都比较规整，**可以视为一个单词或者一个句子**。

## 3.专业分类思路：检测再识别 ##

在赛题数据中已经给出了训练集、验证集中所有图片中字符的位置，因此可以首先将字符的位置进行识别，利用物体检测的思路完成。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 6]  
此种思路需要参赛选手**构建字符检测模型**，对测试集中的字符进行识别。  
选手可以参考**物体检测模型SSD或者YOLO**来完成。

[datawhalechina_team-learning _ GitHub]: https://github.com/datawhalechina/team-learning/tree/master/03%20%E8%AE%A1%E7%AE%97%E6%9C%BA%E8%A7%86%E8%A7%89/%E8%AE%A1%E7%AE%97%E6%9C%BA%E8%A7%86%E8%A7%89%E5%AE%9E%E8%B7%B5%EF%BC%88%E8%A1%97%E6%99%AF%E5%AD%97%E7%AC%A6%E7%BC%96%E7%A0%81%E8%AF%86%E5%88%AB%EF%BC%89
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20200520154447813.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20200520155247391.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20200520155401680.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/2020052015542497.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20200520203528482.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20200520204142115.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg==,size_16,color_FFFFFF,t_70
[2020052020424733.png]: https://img-blog.csdnimg.cn/2020052020424733.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg_size_16_color_FFFFFF_t_70 6]: https://img-blog.csdnimg.cn/20200520204344287.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L25hbmFzaGlfRg==,size_16,color_FFFFFF,t_70