【数学笔记】描述样本相似度的几种指标

川长思鸟来 2022-10-29 09:10 209阅读 0赞

# 1.闵可夫斯基距离 #

给定样本集合 X X X, X X X是 m m m维实数向量空间 R m R^m Rm中点的集合，其中 x i , x j ∈ X x\_i,x\_j \\in X xi,xj∈X, x i = ( x 1 i , x 2 i , ⋯   , x m i ) T x\_i=(x\_\{1i\},x\_\{2i\},\\cdots,x\_\{mi\})^T xi=(x1i,x2i,⋯,xmi)T, x i = ( x 1 j , x 2 j , ⋯   , x m j ) T x\_i=(x\_\{1j\},x\_\{2j\},\\cdots,x\_\{mj\})^T xi=(x1j,x2j,⋯,xmj)T,样本 x i x\_i xi与样本 x j x\_j xj的闵可夫斯基距离(Minkowski distance)为  
 d i j = ( ∑ k = 1 m ∣ x k i − x k j ∣ p ) 1 p d\_\{ij\}=(\\sum\_\{k=1\}^\{m\}|x\_\{ki\}-x\_\{kj\}|^p)^\\frac\{1\}\{p\} dij=(k=1∑m∣xki−xkj∣p)p1  
其中 p ≥ 1 p≥1 p≥1。  
 p = 1 p=1 p=1时称为曼哈顿距离(Manhattan distance)  
 p = 2 p=2 p=2时称为欧式距离(Euclidean distance)  
 p = ∞ p=∞ p=∞时称为切比雪夫距离(Chebyshev distance)，通过夹逼法不难证明此时 d i j = max ⁡ ∣ x k i − x k j ∣ d\_\{ij\}=\\max|x\_\{ki\}-x\_\{kj\}| dij=max∣xki−xkj∣

闵可夫斯基距离越大相似度越小

# 2.马哈拉诺比斯距离 #

给定一个样本集合 X X X， X = \[ x i j \] m × n X=\[x\_\{ij\}\]\_\{m×n \} X=\[xij\]m×n,其协方差矩阵记作 S S S。样本 x i x\_i xi与样本 x j x\_j xj的马哈拉诺比斯距离为 d i j = \[ ( x i − x j ) T S − 1 ( x i − x j ) \] 1 2 d\_\{ij\}=\[(x\_i-x\_j)^TS^\{-1\}(x\_i-x\_j)\]^\\frac\{1\}\{2\} dij=\[(xi−xj)TS−1(xi−xj)\]21  
当S为单位矩阵，马哈拉诺比斯距离为欧氏距离。

马哈拉诺比斯距离越大相似度越小

# 3.相关系数 #

样本 x i x\_i xi与 x j x\_j xj之间的相关系数为:  
 r i j = ∑ k = 1 m ( x k i − x i ˉ ) ( x k j − x j ˉ ) \[ ∑ k = 1 m ( x k i − x i ˉ ) 2 ∑ k = 1 m ( x k j − x j ˉ ) 2 \] r\_\{ij\}=\\frac\{\\sum\_\{k=1\}^\{m\}(x\_\{ki\}-\\bar\{x\_i\})(x\_\{kj\}-\\bar\{x\_j\})\}\{\[\\sum\_\{k=1\}^\{m\}\{(x\_\{ki\}-\\bar\{x\_i\}\}^\{\})^2\\sum\_\{k=1\}^\{m\}(x\_\{kj\}-\\bar\{x\_j\})^2\]\} rij=\[∑k=1m(xki−xiˉ)2∑k=1m(xkj−xjˉ)2\]∑k=1m(xki−xiˉ)(xkj−xjˉ)

相关系数越接近于1，相关性越大，越接近于0，相关性越小

# 4.夹角余弦 #

样本 x i x\_i xi与 x j x\_j xj之间的夹角余弦为:  
 s i j = ∑ k = 1 m x k i x k j \[ ∑ k = 1 m x k i 2 ∑ k = 1 m x k j 2 \] 1 2 s\_\{ij\}=\\frac\{\\sum\_\{k=1\}^\{m\}x\_\{ki\}x\_\{kj\}\}\{\[\\sum\_\{k=1\}^\{m\}x\_\{ki\}^2\\sum\_\{k=1\}^\{m\}x\_\{kj\}^2\]^\\frac\{1\}\{2\}\} sij=\[∑k=1mxki2∑k=1mxkj2\]21∑k=1mxkixkj  
夹角余弦越接近于1，相关性越大，越接近于0，相关性越小