基于深度学习的OCR技术简介

迷南。 2022-12-16 15:21 126阅读 0赞

# 1.概述 #

本文简要介绍基于深度学习的OCR技术，主要分为整体框架流程介绍，文字检测CTPN，文字识别CRNN+CTC，基于windows平台的项目实战，以及遇到的一些问题和解决方案，最后展示一下胜利的果实！对于一些相关的概念介绍的深度，只满足于顺利地理解本文的程度。尽量的做到 深入浅出，如有不周，敬请谅解！文章参考[深度学习在OCR中的应用-美团团队][OCR_-]！

# 2.整体流程 #

我们假设能够读到本文的人，都知道OCR(把图像中的文字提取出来)是做什么的，在此不再赘述。其实OCR和图像分类是比较像的，只是难度会更大而已。问如何找到一副图像中的目标动物，第一步找到目标动物在哪儿，第二步判断其具体是哪种动物。OCR要找到图像中的文字，那也一样，第一步找到文字在哪儿，第二步判断具体是什么字。如下图所示，找到文字在哪儿就是文字检测，判断具体是什么字就是文字行识别。最后把结果输出就行了。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70][]

是不是很简单，大道至简，最高级的思想往往总是这么朴实无华。可是奈何人类总是千变万化，千奇百怪！难点在于文字表达形式和场景的复杂性、多样性，拿汉字来说，就有宋体、行书、楷书、手写体等等各种字体，广告牌、衣服、菜单等各种场景，这就给文字检测和识别带来了很大的困难！

所以直接使用原始的图像分类框架是不行的，但我们可以先使用其提取图像中的特征信息，然后使用RNN进行序列学习，对于RNN输出的序列我们再做一些处理就可以得到最终的结果了。这就是CRNN的思想。

# 3.文字检测CTPN(Connectionist Text Proposal Network) #

## 3.1 整体介绍 ##

我们来讨论一种比较流行的文字检测框架CTPN,其整体的流程如下所示。首先使用传统的VGG16进行特征提取，选取VGG16 conv5的输出(该层输出将原始图像缩小了16倍)；然后使用3\*3的滑动窗口进行提取，以max(W)作为序列长度，3\*3\*C作为每一时刻的长度输入到Bilstm；然后经过FC层，FC输出特征图的每一个点会预测10个anchor,最后使用RPN进行回归框的预测，就得到了b图。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 1][]

## 3.2 Vertical Anchor ##

与Faster Rcnn中的回归框预测不同的是，CTPN只预测anchor的中心点的Y坐标和anchor的高Y。anchor的宽统一设定为16(跟conv5对原图的缩小比例相同)，anchor的高共10个比例(11...273,每个数为前一个数除以0.7)。因为对于文本来说，字与字之间水平方向的边界是难以区分的。所以最后进行nms抑制的时候其使用的也是只有垂直方向的IOU。

## 3.3 文本线构造算法 ##

当预测出来了多个稠密的框，我们在将多个框合并为一个大的框。如下图所示，我们简单介绍一下合并的流程。总共分为三步：1.排序 2.找pair，生成graph矩阵 3 遍历graph合并。

1.**排序**: 按照已经提取出来的text proposals的水平位置进行排序

2.**找pair**：正向寻找：当前框i向右找50个像素(1.76厘米，这就是一个定义的距离，因为横向为16所以就是3个proposals),找到IOU>0.7的(垂直IOU，可以保证尽量在同一行)，取softmax score最大的一个框j(尽量使的一个pair组开头和结尾都是字)；反向寻找：从框j位置向左找，条件和正向寻找一样,找到框k；判断：如果当前框i的softmax score大于反向找到的框k的softmax score,则graph(i,j)=True 是一个长连接,否则graph(i,j)=false,不是长连接(该连接包含在其它的连接里面)；

这样可以尽量保证一个pair对的两端都是字，并且尽量在同一行。找到每一对，生成下面的graph矩阵(N\*N 横纵坐标为anchor的数量)。

3.**遍历graph 矩阵，将邻接的长连接再连起来**

如下面蓝色1(0,3),蓝色2(3,7)(前面的y等于后面的x,就可以相连)，没有以7为横坐标的框。则连成的大框就是(0,7)

最后将所有小的矩形连接起来就是大的矩形了。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 2][]

## 3.4 文本行的side-refinement ##

因为预测anchor的时候固定宽度为16，所以多多少少会和真实框有一些差距。所以在最后要使用边界完善的方式，使回归框的x位置更加准确。

下图黄色为未调整之前，红色框为调整之后的框的。明显使用了微调之后会更加的准确一些。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 3][]

表达式如下：Xside表示预测的边界x坐标，Cx表示anchor的中心点x,W表示宽度为16.

![20201022212703758.png][]

## 3.5 损失函数 ##

如下图所示就是ctpn损失函数的表达式，分为三个部分：1.所有anchor二分类的损失 softmax\_cross\_entropy\_loss，表示框中是否有字，其中Ns表示所有的anchor总数。2.和ground trunth IOU>0.5 的 anchor回归的损失，使用smooth\_L1\_loss，其中Nv表示anchor和ground trunth IOU>0.5的anchor数量 3.边界anchor水平位置回归损失，使用smooth\_L1\_loss No表示所有边界anchor的数量。lambda1和lambda2为多任务平衡参数，分别为1.0和2.0；

![20201022210648608.png][]

## 3.6 总结 ##

我们介绍了一种流行的文字框检测框架，这个框架相当于对Faster Rcnn的改造。主要的特点有：1.稠密框检测，然后使用文本线构造算法进行合并 2.Vertival Anchor 每个anchor的宽度是固定的16，只进行高度和中心点y的预测。3.使用双向的LSTM学习序列的特征。缺点是这种框架比较适合水平方向的文字检测，不太适合文字方向旋转的文字框的识别。

# 4. 文字识别CRNN+CTC #

下面我们介绍一种文字识别的框架，并且能较好的适应各种非受控文字场景。使用一个全卷积网络学习区域特征，使用深层Bi LSTM学习文字序列的先后关系，最后是一个CTC翻译层实现对文字序列信息的解码。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 4][]

## 4.1 CTC(Connectionist Temporal Classification)翻译层 ##

对于CNN和RNN的部分，我们不再赘述，重点我们聊聊最后的CTC翻译层。这里考虑到一个对齐的问题，因为RNN的输出无法和真实字符一 一对应(困难很大，得不偿失)，这就造成了损失函数构建的问题，使用传统的多分类交叉熵损失函数无法确定模型的优劣。问题是创新最好的土壤，于是CTC这种不需要对齐的损失函数就应运而生。对于CTC的流程，[一文读懂CRNN\_CTC][CRNN_CTC]这篇文章中讲的挺详细的，我在这里只是进行简单的总结。

*  **空白符号blank**

我们知道原始的真实值没有办法直接用来计算损失，因为存在对齐的问题。所以在此加入了空白字符blank，表示当前的位置没有字符。我们将真实值的开始和结束位置，以及每个字符之间都加入blank，作为计算损失的真实标签![l^\{\`\}][l]。假如原始字符为STATE,转换以后就成为 \_S\_T\_A\_T\_E\_。

*  **B转换**

B转换就是，将连续的相同字符进行合并，并且去掉blank

比如B(\_\_stta\_t\_\_e) = state。

*  **CTC概率计算公式**

下面的公式有一点刺激，**![l][l 1]**表示真实路径，**x**表示LSTM层的输出。

公式一：输入**x**输出![l][l 1]的概率，是输入**x**所有可能路径**π**出现的概率之和，其中**π** ![\\varepsilon B^\{-1\}(l)][varepsilon B_-1_l] 表示 **π**是经过**B转换**之后为**![l][l 1]**的序列。

公式二：路径**π**出现的概率，是路径中每个字符在对应的时刻出现的概率之积(可以从LSTM的输出y中得到)。

![20201023120657725.png][]

![20201023120712671.png][]

*  **定义梯度**

为了进行参数的更新，我们首先要求出最终总概率函数对于LSTM输出![y\_\{t\}^\{k\}][y_t_k](t表示时刻,k表示真实路径中当前时刻的值)的梯度。我们定义所有经过B变换之后结果为![l][l 1],并且在t时刻值为![l\_\{k\}][l_k]的所有可能路径π的集合为\{π π∈![B^\{-1\}(l)][B_-1_l],π![\_\{t\}=l\_\{k\}][t_l_k]\}。公式一表示最终概率对参数![y\_\{t\}^\{k\}][y_t_k]的偏导，即t时刻是k的路径和t时刻不是k的路径之和。但对于求偏导来说，后面的一部分是没有用的，所以就有了公式二。

![20201023130727693.png][]

![20201023131917533.png][]

*  **向前向后算法**

通过上面的介绍我们知道，将所有可能的序列组合π出现的概率相乘就可以得到输入x输出真实路径**![l][l 1]**的概率。简单的想法往往很可爱，但是不切实际。想要穷举所有可能路径π是一项非常困难的工作，并且随着时刻T的增加，复杂度是指数级的，直到程序瘫痪。所以为了简化算法，对于列举所有可能组合的问题，我们通常会使用动态规划的思想。我们在[HMM][]中介绍过前向后向算法，就是一种动态规划的算法。在此我们将向前向后两种算法结合，来学习所有可能组合的序列，本质上是一种以时间换空间的做法。下面来详细介绍一下。

如果路径π经过B变换之后为真实路径![l][l 1]，那么它肯定符合下面几个约束条件：1.第一个字符只能为blank或![l][l 1]的第一个字符 2.最后一个字符只能为blank或![l][l 1]的最后一个字符 3.在π中![l][l 1]里连续的相同的字符必须要加blank 4.在π中![l][l 1]里连续的不相同的字符之间可以有blank,但是不可以有其它字符。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 5][]

根据动态规划的思想我们知道，要求某一个条路径的概率，一般会先得到第一个时刻的概率，然后需要得到从前往后两个时刻之间的递推关系，这样可以通过第一个时刻递推得到每一个时刻的概率。因为现在的问题是要求某个时刻经过某个点，并且符合约束条件的所有路径的概率，我们称为总概率。那么我们以这个时刻为分界线，首先得到第一个时刻的概率和最后一时刻的概率，然后得到从前往后的递推关系和从后往前的递推关系。将向前和向后递推到当前时刻的总概率相乘，就可以得到t时刻经过某个点的概率了。

**第一个时刻**

我们定义向前的递推概率和：![forward = \\alpha \_\{t\}(s)][forward _ _alpha _t_s]

根据约束条件可以知道，第一个时刻只可以为![l\_\{1\}][l_1]或者blank。所以我们通过计算![y\_\{1\}][y_1]时刻blank和![l\_\{1\}][l_1]的概率之积的可以得到![\\alpha \_\{1\}][alpha _1]的值。

![20201023154939890.png][]

**前向递推关系**

同样根据约束条件可以得到，假如t时刻的字符k已经确定，那么前一个时刻的字符就只有三种情况：![l\_\{k-1\},k,blank][l_k-1_k_blank]。所以我们得到前向递推关系:当前时刻为k总概率 = (前一时刻为k总概率+前一时刻为k-1总概率+前一时刻为blank总概率)\*当前时刻为k概率。

![20201023155716527.png][]

**最后一个时刻**

我们定义向后递推的概率和：![backward = \\beta \_\{t\}(s)][backward _ _beta _t_s]

根据约束条件，最后一个时刻T只能为blank或者![l][l 1]中最后一个单词。跟向前算法一样，我们通过计算y最后时刻blank和![l][l 1]最后一个单词的概率之积的可以得到![\\beta\_\{T\}][beta_T]的值。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 6][]

**后向递推关系**

根据约束条件，已知当前时刻值k，下一个时刻的值只能为![l\_\{k+1\},k,blank][l_k_1_k_blank]。于是就有了下面的递推公式。

![20201023162036593.png][]

**最终公式**

将前向和后向概率和相乘，得到了下面的表达式，因为t时刻被计算了两次所以需要单独拎出来一个![y\_\{l\_\{k\}\}^\{t\}][y_l_k_t]。注意真实路径![l][l 1]和加入了blank的路径![l^\{\`\}][l]对应字符的位置下标正好是1/2的关系。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 7][]

跟前面的![p(l|x)][p_l_x]表达式对比一下，我们就得到了前后向递推公式和![p(l|x)][p_l_x]的表达式，如图二所示。其实前后向表达式中本来就多乘了当前时刻![t\_\{k\}][t_k],再给除掉就是当前时刻![t\_\{k\}][t_k]的总概率，把所有时刻加起来就是输出真实序列的总概率。

![20201023162925695.png][]

![20201023162836991.png][]

*  **求梯度**

忙了这么久，就是为了求出最终的梯度。公式如下，用总概率表达式对![y\_\{l\_\{k\}\}^\{t\}][y_l_k_t]求偏导即可。![y\_\{l\_\{k\}\}^\{t\}][y_l_k_t]是LSTM的输出，这样就可以进行最终的反向传播了。因为![\\alpha \_\{t\}(l\_\{k\}), \\beta \_\{t\}(l\_\{k\})][alpha _t_l_k_ _beta _t_l_k]是从第一和最后一个时刻递推得到的，所以难度和复杂度会大大降低。

![20201023165648304.png][]

## 4.2 总结 ##

本节我们介绍了文字识别框架CRNN+CTC，CRNN就是CNN+RNN,CNN负责提取特征，RNN学习序列信息。我们重点介绍了一下CTC翻译层，因为是第一次接触，也是一个创新的点。这是一个不需要对齐的损失，大大降低了人工标注的难度。其核心的思想就是给真实序列前后和字符间加上blank，其T时刻的所有可能序列的总概率就是最终预测的概率。为了降低复杂度，我们采用前后向递推式，得到了每个时刻的总概率的递推关系，将所有时刻加起来就得到了序列的总概率的递推关系式。然后对LSTM对应时刻的输出求偏导，就可以进行的反向传播，更新对应的参数。另外，CTC在推理的时候只扮演解码器的角色。

# 5.项目实战 #

## 5.1 ctpn文字检测 ##

项目地址：[https://github.com/xiaofengShi/CHINESE-OCR][https_github.com_xiaofengShi_CHINESE-OCR]

参考文章：[window10环境进行进行文字检测][window10]

下载完代码，然后参考上面的文章使之能够在windows系统正常的运行起来。

看这张照片，收获的季节到了，这是劳动人民最快乐的时候。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 8][]

相关问题：  
1.tensorflow和keras版本不匹配 参考：https://www.cnblogs.com/carle-09/p/11661261.html  
2.UnicodeDecodeError: 'gbk' codec can't decode byte 0xa3 in position 389: illegal multibyte sequence  
使用open函数读配置文件的时候，如果配置文件中有中文，要加编码格式encoding='UTF-8'  
3.ValueError: Buffer dtype mismatch, expected 'int\_t' but got 'long long'  
修改cpython\_nms.pyx 重新编译  
27行为 cdef np.ndarray\[np.int64\_t, ndim=1\] order = scores.argsort()\[::-1\]  
30行为 cdef np.ndarray\[np.int\_t, ndim=1\] suppressed = \\  
80行为 cdef np.ndarray\[np.long, ndim=1\] order = scores.argsort()\[::-1\]  
83行为 cdef np.ndarray\[np.long, ndim=1\] suppressed = \\  
4.demo.py第22行回写图像的时候  
如果指定一张图片测试可用原来代码的，如果遍历文件夹下\*.\*的图片测试改为image\_file.split('\\\\')

## 5.2 CRNN+CTC文字识别 ##

项目地址：[https://github.com/chineseocr/chineseocr][https_github.com_chineseocr_chineseocr]

该项目采用YoloV3进行底层特征提取。

好处是项目本身就提供了可视化界面操作，并且可以检测多种场景，多种角度的文字。

麻烦的是迁移到windows系统比较困难，因为很烦，所以我试了cpu版本的。gpu尝试失败之后，我就对它没有什么耐心了。反正是抱着学习的心态，什么版本也就都一样了。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 9][]

相关问题：  
1.Invalid argument: You must feed a value for placeholder tensor 'Placeholder\_367' with dtype float and shape

启动的时候可能会报这个错，这说明某个库版本不对，需要严格的按照配置中的进行。

# 6.总结 #

本篇介绍了使用深度学习进行OCR检测的基本流程，并且介绍了文字检测框架ctpn和文字识别框架Crnn+CTC。总体上来讲，基于深度学习的算法要比传统的OCR更强大一些。并且OCR相当于是把CV和NLP的知识点给综合了起来，还是值得好好研究一下。

# 7.Battle Without Honor or Humanity #

Without Humanity 没人性，不一定就是不好的，因为人性不一定都是好的。人性贪婪、自私、软弱。那么没有人性的要么就是魔鬼，要么就是神仙。鬼仙都离我太远，那么说说人吧！在我看来，我所认识的每一个人都是一个世界。就好像内存中的指针一样，不论我喜欢他们，或者是不喜欢他们，在他们的世界里面都会有一个引用对象指向我这个本体。这在一定意义上来说就是平行世界了。一个人流入另外一个人的世界，形式是多种多样的。普通的人像是队列，先进来的，也先出去了。那种热爱的，深爱的人像是栈，越早进来留的时间越长。我知道一个真相就是，不论我费劲心机的想要在你的世界停留多久，终究还是会消失的，这一个引用就被回收了。 最后，当所有的引用都被回收，没有任何一个指针指向我这个本体的时候，我就真的死掉了。所以我努力的认识很多人，交很多的朋友。可是最终才发现，一个人的内存原来是有限的，我用了很大的空间去装你，结果就装不下别人了 out of memory!

《杀死比尔》经典主题曲片段-Battle Without Honor or Humanity

[OCR_-]: https://tech.meituan.com/2018/06/29/deep-learning-ocr.html
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70]: /images/20221123/f65180505f0c48fba2f62e80c83b659b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 1]: /images/20221123/60a2eeecb19e48dbab04f36d56a7d6dd.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 2]: /images/20221123/c1522b2ff06d4e46b0a8ffe2d508c367.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 3]: /images/20221123/65a08723c88442c8ad26198e1f25c85b.png
[20201022212703758.png]: /images/20221123/902b3d80f364494caf7f704a500de93a.png
[20201022210648608.png]: /images/20221123/5d13f561713b44969b8355918314d520.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 4]: /images/20221123/500c282759d547e89a3e092ab82f7e6f.png
[CRNN_CTC]: https://zhuanlan.zhihu.com/p/43534801
[l]: https://private.codecogs.com/gif.latex?l%5E%7B%60%7D
[l 1]: https://private.codecogs.com/gif.latex?l
[varepsilon B_-1_l]: https://private.codecogs.com/gif.latex?%5Cvarepsilon%20B%5E%7B-1%7D%28l%29
[20201023120657725.png]: /images/20221123/cca7ed6c049a442f956dadca9fc75e12.png
[20201023120712671.png]: /images/20221123/423450f589a04784a8b98e22882e99b4.png
[y_t_k]: https://private.codecogs.com/gif.latex?y_%7Bt%7D%5E%7Bk%7D
[l_k]: https://private.codecogs.com/gif.latex?l_%7Bk%7D
[B_-1_l]: https://private.codecogs.com/gif.latex?B%5E%7B-1%7D%28l%29
[t_l_k]: https://private.codecogs.com/gif.latex?_%7Bt%7D%3Dl_%7Bk%7D
[20201023130727693.png]: /images/20221123/2467e451161344ca8ac4fb4b0189cd68.png
[20201023131917533.png]: /images/20221123/2884f543e4d2459e9502a361713dfd48.png
[HMM]: https://blog.csdn.net/gaobing1993/article/details/108629751
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 5]: /images/20221123/4263d8df59ac496badac53f10a4004b8.png
[forward _ _alpha _t_s]: https://private.codecogs.com/gif.latex?forward%20%3D%20%5Calpha%20_%7Bt%7D%28s%29
[l_1]: https://private.codecogs.com/gif.latex?l_%7B1%7D
[y_1]: https://private.codecogs.com/gif.latex?y_%7B1%7D
[alpha _1]: https://private.codecogs.com/gif.latex?%5Calpha%20_%7B1%7D
[20201023154939890.png]: /images/20221123/2280c528fc044590833b93b0947a3974.png
[l_k-1_k_blank]: https://private.codecogs.com/gif.latex?l_%7Bk-1%7D%2Ck%2Cblank
[20201023155716527.png]: /images/20221123/820ab1520d294083a1b3e4550e52b229.png
[backward _ _beta _t_s]: https://private.codecogs.com/gif.latex?backward%20%3D%20%5Cbeta%20_%7Bt%7D%28s%29
[beta_T]: https://private.codecogs.com/gif.latex?%5Cbeta_%7BT%7D
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 6]: /images/20221123/56375ddcb28344ab8be0c63afefb4e5a.png
[l_k_1_k_blank]: https://private.codecogs.com/gif.latex?l_%7Bk&plus;1%7D%2Ck%2Cblank
[20201023162036593.png]: /images/20221123/89e67ce5827840caa2b5bbbde4e68440.png
[y_l_k_t]: https://private.codecogs.com/gif.latex?y_%7Bl_%7Bk%7D%7D%5E%7Bt%7D
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 7]: /images/20221123/58bf25ab0f0944808977f14934b9e641.png
[p_l_x]: https://private.codecogs.com/gif.latex?p%28l%7Cx%29
[t_k]: https://private.codecogs.com/gif.latex?t_%7Bk%7D
[20201023162925695.png]: /images/20221123/72c5dbd588e64169bb5825dd2a7a83a3.png
[20201023162836991.png]: /images/20221123/89addd87a8ed42dea39cf840e054bfba.png
[alpha _t_l_k_ _beta _t_l_k]: https://private.codecogs.com/gif.latex?%5Calpha%20_%7Bt%7D%28l_%7Bk%7D%29%2C%20%5Cbeta%20_%7Bt%7D%28l_%7Bk%7D%29
[20201023165648304.png]: /images/20221123/f2c1a36dcf144667a445f20595845d1a.png
[https_github.com_xiaofengShi_CHINESE-OCR]: https://github.com/xiaofengShi/CHINESE-OCR
[window10]: https://blog.csdn.net/koloumi/article/details/84791729
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 8]: /images/20221123/411dd8a1714746b5bc3ae8a1f4ac9e72.png
[https_github.com_chineseocr_chineseocr]: https://github.com/chineseocr/chineseocr
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dhb2JpbmcxOTkz_size_16_color_FFFFFF_t_70 9]: /images/20221123/aae63287e25d49b4811000190e49fa11.png