Python 之 sklearn 实现 PCA 降维

以你之姓@ 2022-08-03 15:49 222阅读 0赞

关于 PCA 算法的讲解文章不胜枚举，这里主要谈一谈 基于 Python 中 sklearn 模块的 PCA 算法实现。Explained Variance 累计贡献率 又名 累计方差贡献率 不要简单理解为 解释方差，它是 PCA 降维维度的重要指标，一般选取累计贡献率在90%左右的维度作为PCA 降维的参考维度。在识别算法的实现过程中，当我们求得某一数据库各类别特征参考维度时，取最大维度作为每一类特征的维度，即可实现数据降维。现对数据求取累计贡献率，算法实现如下。

import numpy
    from sklearn import decomposition
    
    
    # 构造聚类 类别数据
    Data_Set = []
    for k in range(5):
        arr = numpy.random.random([3000,45])
        for i in numpy.arange(0,3000):
            j = i%3
            arr[i,k*9+j*3:k*9+j*3+3] = arr[i,k*9+j*3:k*9+j*3+3]+k*0.25
        print arr.shape
        Data_Set.append(arr)
    Dim_Set = []
    for Cat_Num in range(len(Data_Set)):
        pca = decomposition.PCA()
        pca.fit(Data_Set[Cat_Num])
        # 累计贡献率 又名 累计方差贡献率 不要简单理解为 解释方差！！！ 
        EV_List = pca.explained_variance_
        EVR_List = []
        for j in range(len(EV_List)):
            EVR_List.append(EV_List[j]/EV_List[0])
        for j in range(len(EVR_List)):
            if(EVR_List[j]<0.10):
                Dim = j
                break
        Dim_Set.append(Dim)

此时，即可根据参考维度，求得亟待处理数据的降维维度。sklearn 对数据的降维实现，函数详述如下。

sklearn.decomposition.PCA(n\_components=None, copy=True, whiten=False)

参数说明：

n\_components:  
类型：int 或者 string，缺省时默认为None，所有成分被保留。  
赋值为int，比如n\_components=1，将把原始数据降到一个维度。  
赋值为string，比如n\_components='mle'，将自动选取特征个数n，使得满足所要求的方差百分比。  
意义：PCA算法中所要保留的主成分个数n，也即保留下来的特征个数n  
  
copy:  
类型：bool，True或者False，缺省时默认为True。  
意义：表示是否在运行算法时，将原始训练数据复制一份。若为True，则运行PCA算法后，原始训练数据的值不会有任何改变，因为是在原始数据的副本上进行运算；若为False，则运行PCA算法后，原始训练数据的值会改，因为是在原始数据上进行降维计算。  
  
whiten:  
类型：bool，缺省时默认为False  
意义：白化，使得每个特征具有相同的方差。

Dim = max(Dim_Set)
    pca = decomposition.PCA(n_components=Dim, copy=True, whiten=False) 
    for k in range(len(Data_Set)):
        Data_Set[k] = pca.fit_transform(Data_Set[k])