透彻理解高斯过程Gaussian Process (GP)

绝地灬酷狼 2022-05-25 08:28 1205阅读 0赞

# 透彻理解高斯过程Gaussian Process (GP) #

## 一、整体说说 ##

为了理解高斯过程，我们就首先需要了解如下预备知识，即：高斯分布（函数）、随机过程、以及贝叶斯概率等。明白了这些预备知识之后才能顺利进入高斯过程，了解高斯过程本质及其高斯过程描述方法。人们又将高斯过程与贝叶斯概率有机结合在一起，构造了强大的数学方法（或称模型），为人类提供解决日常生活和工作的问题。特别是在人工智能领域更是意义非凡。为什么呢？

1.  高斯过程模型属于无参数模型，相对解决的问题复杂度及与其它算法比较减少了算法计算量。
2.  高斯模型可以解决高维空间（实际上是无限维）的数学问题，可以面对负杂的数学问题。
3.  结合贝叶斯概率算法，可以实现通过先验概率，推导未知后验输入变量的后验概率。由果推因的概率。
4.  高斯过程观测变量空间是连续域，时间或空间。
5.  高斯过程观测变量空间是实数域的时候，我们就可以进行回归而实现预测。
6.  高斯过程观测变量空间是整数域的时候（观测点是离散的），我们就可以进行分类。结合贝叶斯算法甚至可以实现单类分类学习（训练），面对小样本就可以实现半监督学习而后完成分类。面对异常检测领域很有用，降低打标签成本（小样本且单类即可训练模型）。  
    所以说，我们快点进入高斯过程-贝叶斯概率算法模型吧，功能非凡。  
    接下来慢慢展开学习之旅吧。

## 二、高斯分布（高斯函数） ##

[https://blog.csdn.net/jorg\_zhao/article/details/52687448][https_blog.csdn.net_jorg_zhao_article_details_52687448]  
[https://blog.csdn.net/zyttae/article/details/41086773][https_blog.csdn.net_zyttae_article_details_41086773]

### （一）一维高斯函数 ###

> 一维高斯函数定义  一 维 高 斯 函 数 定 义   
> 若随机变量X  X 服从一个位置参数为μ μ、尺度参数为σ  σ 的概率分布(正态分布)，记为：
> 
> X∼N(μ,σ2).  X ∼ N ( μ , σ 2 ) . 
> 
> [则其概率密度函数][Link 1]为 
> 
> f(x)=1σ2π−−√e−(x−μ)22σ2  f ( x ) = 1 σ 2 π e − ( x − μ ) 2 2 σ 2 
> 
> 正态分布的数学期望值（或期望值）  μ  μ  等于位置参数，决定了分布曲线的位置；其方差  σ2  σ 2  的开平方或标准差  σ  σ  等于尺度参数，决定了分布曲线的幅度。正态分布的概率密度函数曲线呈钟形，因此人们又经常称之为钟形曲线  “bellcurve”  “ b e l l c u r v e ”  。

我们通常所说的**标准正态分布**是位置参数μ=0  μ = 0 ,尺度参数σ=1  σ = 1 的正态分布（见下图中红色曲线）。  
![这里写图片描述][70]

对于任意的实数a,b,c  a , b , c ，  
a=1σ2π√是曲线尖峰的高度，b=μ是尖峰中心的坐标，c=σ称为标准方差，表征的是bell钟状的宽度。钟形曲线下的总面积和永远为1  a = 1 σ 2 π 是 曲 线 尖 峰 的 高 度 ， b = μ 是 尖 峰 中 心 的 坐 标 ， c = σ 称 为 标 准 方 差 ， 表 征 的 是 b e l l 钟 状 的 宽 度 。 钟 形 曲 线 下 的 总 面 积 和 永 远 为 1 。

*  为什么用概率密度函数表示高斯正态分布的函数：这种方法能够表示随机变量每个取值有多大的可能性。其它方法我们这里不在描述了，如：累积分布函数，cumulant、特征函数、动差生成函数以及cumulant-生成函数。
 *  正态分布中一些值得注意的现象（量）：  
    
    
    1.  密度函数关于平均值μ  μ 对称。
    2.  平均值与它的众数（statistical mode）以及中位数（median）同一数值。
    3.  函数曲线下68.268949%的面积在平均数左右的一个标准差范围内。
    4.  95.449974%的面积在平均数左右两个标准差2 \\sigma的范围内。
    5.  99.730020%的面积在平均数左右三个标准差3 \\sigma的范围内。
    6.  99.993666%的面积在平均数左右四个标准差4 \\sigma的范围内。

![这里写图片描述][70 1]

其中：  μ=1m∑mi=1x(i)σ2=1m∑mi=1(x(i)−μ)2)  μ = 1 m ∑ i = 1 m x ( i ) σ 2 = 1 m ∑ i = 1 m ( x ( i ) − μ ) 2 )

在机器学习中，用于故障检测时，训练数据集  X  X  是已知，而且不需要有标签，可以作为非监督学习训练。  
高斯分布样例如下图（引自吴恩达课件）：  
![一维高斯分布样例图（吴恩达）][70 2]

注：机器学习中对于方差我们通常只除以m m而非统计学中的  m−1  m − 1 (因为均值进去一个点)。这里顺便提一下，在实际使用中，到底是选择使用  1m  1 m 还是  1m−1  1 m − 1 其实区别很小，只要你有一个还算大的训练集，在机器学习领域大部分人更习惯使用这个版本的公式。这两个版本的公式在理论特性和数学特性上稍有不同，但是在实际使用中，他们的区别甚小，几乎可以忽略不计。

在异常检测中，利用如下策略判断异常

ifp(x)\{ <ε,≥ε,异常正常 i f p ( x ) \{ < ε , 异常 ≥ ε , 正常

*  正态分布的一些性质：
    
    1.  如果X∼N(μ,σ2)  X ∼ N ( μ , σ 2 ) ,且a  a 与b b是实数，那么aX\+b∼N(aμ\+b,(aσ)2)  a X + b ∼ N ( a μ + b , ( a σ ) 2 )  ([参见期望值和方差][Link 1]).
    2.  如果X∼N(μX,σ2X)  X ∼ N ( μ X , σ X 2 ) 与Y∼N(μY,σ2Y)  Y ∼ N ( μ Y , σ Y 2 ) 是统计独立的常态随机变量，那么：  
        它们的和也满足正态分布U=X\+Y∼N(μX\+μY,σ2X\+σ2Y)  U = X + Y ∼ N ( μ X + μ Y , σ X 2 + σ Y 2 )  ([proof][]).  
        它们的差也满足正态分布V=X−Y∼N(μX−μY,σ2X\+σ2Y).  V = X − Y ∼ N ( μ X − μ Y , σ X 2 + σ Y 2 ) .   
        U与V两者是相互独立的。（要求X与Y的方差相等）
    3.  如果X∼N(0,σ2X)  X ∼ N ( 0 , σ X 2 ) 和Y∼N(0,σ2Y)  Y ∼ N ( 0 , σ Y 2 ) 是独立常态随机变量，那么：  
        它们的积XY  X Y 服从概率密度函数为p  p 的分布  
        p(z)=1πσXσYK0(|z|σXσY) p ( z ) =1πσ Xσ YK 0(|z|σ Xσ Y),其中K0  K 0 是修正贝塞尔函数（modified Bessel function）  
        它们的比符合柯西分布，满足X/Y∼Cauchy(0,σX/σY).  X / Y ∼ C a u c h y ( 0 , σ X / σ Y ) . 
    4.  如果X1,⋯,Xn  X 1 , ⋯ , X n 为独立标准常态随机变量，那么X21\+⋯\+X2n  X 1 2 + ⋯ + X n 2 服从自由度为n的卡方分布。
 *  **中心极限定理**  
    正态分布有一个非常重要的性质：在特定条件下，大量统计独立的随机变量的平均值的分布趋于正态分布，这就是中心极限定理。中心极限定理的重要意义在于，根据这一定理的结论，其他概率分布可以用正态分布作为近似。中心极限定理阐明了随着有限方差的随机变量数量增长，它们的和的分布趋向正态分布。
    
     *  1、参数为n和p的二项分布，在n相当大而且p接近0.5时近似于正态分布。  
        （有的参考书建议仅在np  n p 与n(1−p)  n ( 1 − p ) 至少为5时才能使用这一近似）。近似正态分布平均数为μ=np  μ = n p 且方差为σ2=np(1−p).  σ 2 = n p ( 1 − p ) . （[见下图][Link 2]）正态分布的概率密度函数，参数为μ = 12，σ = 3，趋近于n = 48、p = 1/4的二项分布的概率质量函数。  
        ![Normal approximation to binomial.svg][]
     *  2、一泊松分布带有参数λ  λ 当取样样本数很大时将近似正态分布λ  λ .  
        近似正态分布平均数为μ=λ  μ = λ 且方差为σ2=λ.  σ 2 = λ . ,这些近似值是否完全充分正确取决于使用者的使用需求。
 *  **相关的一些分布介绍**
    
     *  1、R∼Rayleigh(σ)  R ∼ R a y l e i g h ( σ ) 是[瑞利分布][Link 3]，如果R=X2\+Y2−−−−−−−√，  R = X 2 + Y 2 ， 这里X∼N(0,σ2)  X ∼ N ( 0 , σ 2 ) 和Y∼N(0,σ2)  Y ∼ N ( 0 , σ 2 ) 是两个独立正态分布。
     *  2、Y∼χ2ν  Y ∼ χ ν 2 是[卡方分布][Link 4]，具有ν  ν [自由度][Link 5]，如果Y=∑νk=1X2k  Y = ∑ k = 1 ν X k 2 这里Xk∼N(0,1)  X k ∼ N ( 0 , 1 ) 其中k=1,…,ν  k = 1 , … , ν 是独立的。
     *  3、Y∼Cauchy(μ=0,θ=1)  Y ∼ C a u c h y ( μ = 0 , θ = 1 ) 是[柯西分布][Link 6]，如果Y=X1/X2  Y = X 1 / X 2 ，其中X1∼N(0,1)  X 1 ∼ N ( 0 , 1 ) 并且X2∼N(0,1)  X 2 ∼ N ( 0 , 1 ) 是两个独立的正态分布。
     *  3、Y∼Log-N(μ,σ2)  Y ∼ Log-N ( μ , σ 2 ) 是[对数正态分布][Link 7]，如果Y=eX  Y = e X 并且X∼N(μ,σ2).  X ∼ N ( μ , σ 2 ) . 
     *  4、与Lévy skew alpha-stable分布相关([雷维偏阿尔法-稳定分布][-])：如果X∼Levy-SαS(2,β,σ/2–√,μ)  X ∼ Levy-S α S ( 2 , β , σ / 2 , μ ) 因而X∼N(μ,σ2).  X ∼ N ( μ , σ 2 ) .

### （二）二元高斯函数（多元中的特例） ###

二维高斯函数形如：

f(x,y)=Aexp(−((x−x0)22σ2x\+(y−y0)22σ2x))  f ( x , y ) = A exp ⁡ ( − ( ( x − x 0 ) 2 2 σ x 2 + ( y − y 0 ) 2 2 σ x 2 ) )

A是幅值，x。y。是中心点坐标，σx σy是方差，图示如下，A = 1, xo = 0, yo = 0, σx = σy = 1.  
![gaussian curve with a 2-dimensional domain][]

下面使用matlab直观的查看高斯函数，在实际编程应用中，高斯函数中的参数有

1.  ksize 高斯函数的大小
2.  sigma 高斯函数的方差
3.  center 高斯函数尖峰中心点坐标
4.  bias 高斯函数尖峰中心点的偏移量，用于控制截断高斯函数

为了方便直观的观察高斯函数参数改变而结果也不一样，下面的代码实现了参数的自动递增，并且将所有的结果图保存为gif图像，首先贴出完整代码：

[plain] view plain copy
 function mainfunc() 
 % 测试高斯函数，递增的方法实现高斯函数参数的改变对整个高斯函数的影响， 
 % 并自动保存为gif格式输出。 
 % created by zhao.buaa 2016.09.28 
 
 %% 保存gif动画 
 item = 10; % 迭代次数 
 dt = 1; % 步长大小 
 ksize =20; % 高斯大小 
 sigma = 2; % 方差大小 
 % filename = ['ksize-' num2str(ksize) '--' num2str(ksize+dt*item) '-sigma-' num2str(sigma) '.gif']; %必须预先建立gif文件 
 filename = ['ksize-' num2str(ksize) '-sigma-' num2str(sigma) '--' num2str(sigma+dt*item) '.gif']; %必须预先建立gif文件 
 
 % main loop 
 for i = 1:item 
 center = round(ksize/2); % 中心点 
 bias = ksize*10/10; % 偏移中心点量 
 ksigma = ksigma(ksize, sigma, center, bias); % 构建核函数 
 tname = ['ksize-' num2str(ksize) '-sigma-' num2str(sigma) '-center-' num2str(center)]; 
 figure(i), mesh(ksigma), title(tname); 
 %设置固定的x-y-z坐标范围，便于观察，axis([xmin xmax ymin ymax zmin zmax]) 
 axis([0 ksize 0 ksize 0 0.008]); view([0, 90]);% 改变可视角度 
 % ksize 递增 
 % ksize = ksize + 10; 
 % sigma 递增 
 sigma = sigma + dt; 
 
 % 自动保存为gif图像 
 frame = getframe(i); 
 im = frame2im(frame); 
 [I,map] = rgb2ind(im,256); 
 if i==1 
 imwrite(I,map,filename,'gif','Loopcount',inf, 'DelayTime',0.4); 
 else 
 imwrite(I,map,filename,'gif','WriteMode','append','DelayTime',0.4); 
 end 
 end; 
 
 close all; 
 
 
 %% 截断高斯核函数，截断的程度取决于参数bias 
 function ksigma = ksigma(ksize, sigma, center,bias) 
 %ksize = 80; sigma = 15; 
 ksigma=fspecial('gaussian',ksize, sigma); % 构建高斯函数 
 [m, n] =size(ksigma); 
 for i = 1:m 
 for j = 1:n 
 if( (i<center-bias)||(i>center+bias)||(j<center-bias)||(j>center+bias) ) 
 ksigma(i,j) = 0; 
 end; 
 end; 
 end;

固定ksize为20，sigma从1-9，固定center在高斯中间，并且bias偏移量为整个半径，即原始高斯函数。  
![gaussian gift][]

随着sigma的增大，整个高斯函数的尖峰逐渐减小，整体也变的更加平缓，则对图像的平滑效果越来越明显。

保持参数不变，对上述高斯函数进行截断，即truncated gaussian function，bias的大小为ksize\*3/10，则结果如下图：  
![truncated gaussian function][]  
truncated gaussian function的作用主要是对超过一定区域的原始图像信息不再考虑，这就保证在更加合理的利用靠近高斯函数中心点的周围像素，同时还可以改变高斯函数的中心坐标，如下图(俯视图)：  
![truncated gaussian function 俯视图][truncated gaussian function 1]

### （三）多元高斯函数 ###

> [多元正态分布定义][Link 8]  
> 多变量正态分布亦称为多变量高斯分布。它是单维正态分布向多维的推广。它同[矩阵正态分布][Link 9]有紧密的联系。  
> 一般形式：  
> N维随机向量X=\[X1,…,XN\]T  X = \[ X 1 , … , X N \] T 如果服从多变量正态分布，必须满足下面的三个等价条件：  
> 1、任何线性组合Y=a1X1\+⋯\+aNXN  Y = a 1 X 1 + ⋯ + a N X N 服从正态分布。  
> 2、存在随机向量 Z=\[Z1,…,ZM\]T  Z = \[ Z 1 , … , Z M \] T ( 它的每个元素服从独立标准正态分布），向量μ=\[μ1,…,μN\]T  μ = \[ μ 1 , … , μ N \] T 及N×M  N × M [矩阵][Link 10]A  A 满足 X=AZ\+μ.  X = A Z + μ .   
> 3、存在μ  μ  和一个对称正定阵 Σ  Σ  ，满足X  X 的特征函数ϕX(u;μ,Σ)=exp(iμTu−12uTΣu)  ϕ X ( u ; μ , Σ ) = exp ⁡ ( i μ T u − 1 2 u T Σ u ) ，如果Σ  Σ  是非奇异的，那么该分布可以由以下的[PDF][]来描述：fx(x1,…,xk)=1(2π)k|Σ|−−−−−−−√exp(−12(x−μ)TΣ−1(x−μ)),  f x ( x 1 , … , x k ) = 1 ( 2 π ) k | Σ | exp ⁡ ( − 1 2 ( x − μ ) T Σ − 1 ( x − μ ) ) , ，注意这里的|Σ|  | Σ | 表示协方差矩阵的行列式。

#### 多元高斯分布参数相关性分析（xi;μi;σi）  （ x i ; μ i ; σ i ）  ####

标准方差对角线x1,x2  x 1 , x 2 同时缩小（高度增大，幅度x1,x2  x 1 , x 2 同时缩小）或增大（高度缩小，幅度x1,x2  x 1 , x 2 同时增大），如下图  
![多维高斯分布标准方差调整变化图1][1]

标准方差对角线单元素x1  x 1 缩小（高度单比例增大，幅度单方向x1  x 1 缩小）或增大（高度单比例缩小，幅度单方向x1  x 1 增大），如下图  
![多维高斯分布标准方差调整变化图2][2]

标准方差对角线单元素x2  x 2 缩小（高度单比例增大，幅度单方向x2  x 2 缩小）或增大（高度单比例缩小，幅度单方向x2  x 2 增大），如下图  
![多维高斯分布标准方差调整变化图3][3]

协方差非对角线同时由0增加，见下图  
![多维高斯分布非对角线标准方差调整变化图4][4]

协方差非对角线同时由0负增加，见下图  
![多维高斯分布非对角线标准方差负调整变化图5][5]

均值调整，高斯分布图中心点变化，如下图  
![多维高斯分布均值调整变化图6][6]

#### 多元高斯概率模型 ####

在一般的高斯分布模型中，我们计算p(x)  p ( x )  的方法是： 通过分别计算每个特征对应的几率然后将其累乘起来，在多元高斯分布模型中，我们将构建特征的协方差矩阵，用所有的特征一起来计算p(x)  p ( x )  。

p(x)=∏j=1np(xj;μj,σ2j)=∏j=1n12π−−√σjexp(−((xj−μj)22σ2))  p ( x ) = ∏ j = 1 n p ( x j ; μ j , σ j 2 ) = ∏ j = 1 n 1 2 π σ j exp ⁡ ( − ( ( x j − μ j ) 2 2 σ 2 ) )

我们首先计算所有特征的平均值，

μ=1m∑i=1mx(i)  μ = 1 m ∑ i = 1 m x ( i )

然后再计算协方差矩阵：

∑=1m∑i=1m(x(i)−μ)(x(i)−μ)T=1m(X−μ)T(X−μ)  ∑ = 1 m ∑ i = 1 m ( x ( i ) − μ ) ( x ( i ) − μ ) T = 1 m ( X − μ ) T ( X − μ )

注:其中  μ  μ  是一个向量，其每一个单元都是原特征矩阵中一行数据的均值。最后我们计算多元高斯分布的  p(x)  p ( x )  :

p(x)=1(2π)(n2)|∑|12exp(−12(x−μ)T∑−1(x−μ))  p ( x ) = 1 ( 2 π ) ( n 2 ) | ∑ | 1 2 exp ⁡ ( − 1 2 ( x − μ ) T ∑ − 1 ( x − μ ) )

其中：  |∑|  | ∑ |  是正定矩阵，在 **Octave** 中用 det(sigma)计算

∑−1  ∑ − 1 是逆矩阵。

#### 多元高斯分布模型与原高斯分布模型的关系： ####

可以证明的是，原本的高斯分布模型是多元高斯分布模型的一个**子集**，如果协方差矩阵只在对角线的单位上有非零的值时，即为原本的高斯分布模型了。

⎛⎝⎜⎜⎜⎜⎜σ210⋮00σ22⋮0⋯⋯⋯⋯00⋮σ2n⎞⎠⎟⎟⎟⎟⎟  ( σ 1 2 0 ⋯ 0 0 σ 2 2 ⋯ 0 ⋮ ⋮ ⋯ ⋮ 0 0 ⋯ σ n 2 )

原高斯分布模型和多元高斯分布模型的比较：

<table> 
 <thead> 
 <tr> 
 <th align="center">原高斯分布模型</th> 
 <th align="center">多元高斯分布模型</th> 
 </tr> 
 </thead> 
 <tbody> 
 <tr> 
 <td align="center">不能捕捉特征之间的相关性 但可以通过将特征进行组合的方法来解决</td> 
 <td align="center">自动捕捉特征之间的相关性</td> 
 </tr> 
 <tr> 
 <td align="center">计算代价低，能适应大规模的特征</td> 
 <td align="center">计算代价较高 训练集较小时也同样适用</td> 
 </tr> 
 <tr> 
 <td align="center"></td> 
 <td align="center">必须要有 m&gt;n m &gt; n ，不然的话协方差矩阵 不可逆的，通常需要 m&gt;10n m &gt; 10 n 另外特征冗余也会导致协方差矩阵不可逆</td> 
 </tr> 
 </tbody> 
</table>

#### 使用多元高斯分布函数进行异常检测 ####

: 多元高斯分布函数：

p(x)=1(2π)(n2)|∑|12exp(−12(x−μ)T∑−1(x−μ))  p ( x ) = 1 ( 2 π ) ( n 2 ) | ∑ | 1 2 exp ⁡ ( − 1 2 ( x − μ ) T ∑ − 1 ( x − μ ) )

多元高斯分布函数有两个参数，  μ  μ  和  ∑  ∑  。其中  μ  μ  是一个n维向量。  ∑  ∑  是  n×n  n × n  的协方差矩阵。

[https_blog.csdn.net_jorg_zhao_article_details_52687448]: https://blog.csdn.net/jorg_zhao/article/details/52687448
[https_blog.csdn.net_zyttae_article_details_41086773]: https://blog.csdn.net/zyttae/article/details/41086773
[Link 1]: https://mp.csdn.net/mdeditor/80276061
[70]: /images/20220525/69b6bbba10fb4d6aacbae5bb15db8b65.png
[70 1]: /images/20220525/a555e787f90941e395830c3310c9b4b4.png
[70 2]: /images/20220525/7ce440539fa1446db84da2183ea0ac2d.png
[proof]: https://en.wikipedia.org/wiki/Sum_of_normally_distributed_random_variables
[Link 2]: https://zh.wikipedia.org/wiki/File:Normal_approximation_to_binomial.png
[Normal approximation to binomial.svg]: /images/20220525/000f0256447048049cbff269f9230d3a.png
[Link 3]: https://zh.wikipedia.org/wiki/%E7%91%9E%E5%88%A9%E5%88%86%E5%B8%83
[Link 4]: https://zh.wikipedia.org/wiki/%E5%8D%A1%E6%96%B9%E5%88%86%E4%BD%88
[Link 5]: https://zh.wikipedia.org/wiki/%E8%87%AA%E7%94%B1%E5%BA%A6
[Link 6]: https://zh.wikipedia.org/wiki/%E6%9F%AF%E8%A5%BF%E5%88%86%E5%B8%83
[Link 7]: https://zh.wikipedia.org/wiki/%E5%AF%B9%E6%95%B0%E6%AD%A3%E6%80%81%E5%88%86%E5%B8%83
[-]: https://zh.wikipedia.org/wiki/%E7%A8%B3%E5%AE%9A%E5%88%86%E5%B8%83
[gaussian curve with a 2-dimensional domain]: /images/20220525/7c345e771c4d4e00af4bd72fae648088.png
[gaussian gift]: /images/20220525/9f4813b05f8646408891d6576d3a587b.png
[truncated gaussian function]: /images/20220525/00242f13cdce427dbe76d4ec6aab56f4.png
[truncated gaussian function 1]: /images/20220525/6cb44c79153e41e389f48f32ae4a795f.png
[Link 8]: https://zh.wikipedia.org/wiki/%E5%A4%9A%E5%85%83%E6%AD%A3%E6%80%81%E5%88%86%E5%B8%83
[Link 9]: https://zh.wikipedia.org/wiki/%E7%9F%A9%E9%98%B5%E6%AD%A3%E6%80%81%E5%88%86%E5%B8%83
[Link 10]: https://zh.wikipedia.org/wiki/%E7%9F%A9%E9%98%B5
[PDF]: https://zh.wikipedia.org/wiki/%E6%A9%9F%E7%8E%87%E5%AF%86%E5%BA%A6%E5%87%BD%E6%95%B8
[1]: /images/20220525/ea072587f67444f8858d0cd4d210dc92.png
[2]: /images/20220525/03d8c8b0fd074735ac224c033421b52d.png
[3]: /images/20220525/f75912f0a8464c91bc3a3df65d741774.png
[4]: /images/20220525/3f30517f2df84c57b4f24afb2c61569e.png
[5]: /images/20220525/ef04b3c170ad4e08b930b238c0686405.png
[6]: /images/20220525/ab563c86caac4040b5e114c7390d1839.png