【机器学习】朴素贝叶斯算法：多项式、高斯、伯努利，实例应用（心脏病预测）

港控/mmm° 2024-02-18 10:33 32阅读 0赞

### **1. 朴素贝叶斯模型** ###

对于不同的数据，我们有不同的朴素贝叶斯模型进行分类。

#### **1.1 多项式模型** ####

（1）如果特征是**离散型数据**，比如文本这些，推荐使用多项式模型来实现。该模型常用于文本分类，特别是单词，统计单词出现的次数。

##### **调用方法： from sklearn.naive\_bayes import MultinomialNB** #####

#### **1.2 高斯模型** ####

（2）如果特征是**连续型数据**，比如具体的数字，推荐使用高斯模型来实现，**高斯模型即正态分布。**当特征是连续变量的时候，运用多项式模型就会导致很多误差，此时即使做平滑，所得到的条件概率也难以描述真实情况。所以**处理连续的特征变量，应该采用高斯模型。**

##### **调用方法： from sklearn.naive\_bayes import GaussianNB** #####

#### **1.3 伯努利模型** ####

（3）如果特征是**离散性数据并且值只有0和1两种情况**，推荐使用伯努利模型。在伯努利模型中，每个特征的取值是布尔型的，即**True**和**False**，或者1和0。在文本分类中，表示一个特征有没有在一个文档中出现。

##### **调用方法： from sklearn.naive\_bayes import BernoulliNB** #####

--------------------

### **2. 心脏病预测** ###

#### **2.1 数据获取** ####

获取心脏病的病例数据，共13项特征值，300多条数据。**文末提供数据链接**。

#（1）导入心脏病数据
    import pandas as pd
    filepath = 'C:\\Users\\admin\\.spyder-py3\\test\\文件处理\\心脏病\\heart.csv'
    data = pd.read_csv(filepath)

![5c97dace1b0b44bebbea049c17f128b6.png][]

--------------------

####  **2.2 数据处理** ####

首先将导入的数据重新洗牌，行数据之间随机交换。然后将原始数据拆分成特征值和目标值，特征参数是：胆固醇、年龄等13项数据，目标为target这一列，即是否得了心脏病。为了验证最后预测结果的正确性，**取最后10行数据用于模型验证**，**验证集的特征值**数据用于输入最终的预测函数**.predict()**中，**验证集的目标值来检验预测结果是否正确**。提取出验证集之后，将用于建模的特征值和目标值删除最后10行即可。

#（2）数据处理
    # 重新洗牌，行互换后，让索引从0开始
    data = data.sample(frac=1).reset_index(drop=True)
    # 提取目标值target一列
    data_target = data['target']
    # 提取目标值
    data_feature = data.drop('target',axis=1)
    # 取出最后10行作为验证集
    data_predict_feature = data_feature[-10:]  #作为最后预测函数的输入
    data_predict_target = data_target[-10:]  #用来验证预测输出结果的正确性
    # 建模用的特征值和目标值删去最后10行
    data_feature = data_feature[:-10]  #x数据
    data_target = data_target[:-10]    #y数据

![577c8df70960464393bf402cabe4be74.png][]

--------------------

####  **2.3 划分训练集和测试集** ####

一般采用75%的数据用于训练，25%用于测试，因此把数据进行训练之前，先要对数据划分。

##### 划分方式： #####

##### x\_train,x\_test,y\_train,y\_test = train\_test\_split(x数据,y数据,test\_size=数据占比) #####

有关划分划分训练集和测试集的具体操作，包括参数、返回值等

#（3）划分训练集和测试集
    from sklearn.model_selection import train_test_split
    x_train,x_test,y_train,y_test = train_test_split(data_feature,data_target,test_size=0.25)

--------------------

#### **2.4 使用朴素贝叶斯高斯模型** ####

心脏病数据中**大多是****连续型数据**，少数是0、1离散型数据，因此先采用高斯模型进行训练，然后再采用多项式模型训练，**对比这两种方法的准确率**。

#（4）高斯模型训练
    # 导入朴素贝叶斯--高斯模型方法
    from sklearn.naive_bayes import GaussianNB
    # gauss_nb接收高斯方法
    gauss_nb = GaussianNB()
    # 模型训练，输入训练集
    gauss_nb.fit(x_train,y_train)
    # 计算准确率--评分法
    gauss_accuracy = gauss_nb.score(x_test,y_test)
    # 预测
    gauss_result = gauss_nb.predict(data_predict_feature)

导入高斯模型方法，**gauss\_nb**接收该方法；使用**.fit()**函数进模型训练；采用**.score()**函数用评分法查看模型准确率，根据**x\_test**预测结果，把结果和真实的**y\_test**比较，计算准确率；最终将验证集的特征值传入**.predict()**函数预测是否得了心脏病，将最终预测结果与真实值比较，发现有少许偏差，模型准确率在**0.83**左右。

![ddacc83885984f19ad0dc14dd716bf35.png][]

--------------------

#### **2.5 使用朴素贝叶斯多项式模型**  ####

心脏病数据中存在**少量的离散数据**，实际操作中多项式模型不适用于该案例，我使用**多项式模型和高斯模型进行比较**，让大家优个直观感受。操作方法和高斯模型类似

#（5）多项式模型训练
    # 导入朴素贝叶斯--多项式方法
    from sklearn.naive_bayes import MultinomialNB
    # multi_nb接收多项式方法
    multi_nb = MultinomialNB()
    # 多项式方法进行训练，输入训练集
    multi_nb.fit(x_train,y_train)
    # 评分法计算准确率
    multi_accuracy = multi_nb.score(x_test,y_test)
    # 预测
    multi_result = multi_nb.predict(data_predict_feature)

最终的结果为，多项式模型的准确率在**0.75**左右，预测结果和实际结果相比偏差较大，因此在使用朴素贝叶斯方法，对有较多连续型数据进行分类预测时，高斯模型的准确度明显高于多项式模型。

![61726281bb2b4079a7698e00c757f94a.png][]

--------------------

##### **心脏病数据集自取：** #####

链接：[百度网盘 请输入提取码][Link 1] 提取码：a9wl

##### **完整代码展示：** #####

# 朴素贝叶斯高斯模型心脏病预测
     
    #（1）导入心脏病数据
    import pandas as pd
    filepath = 'C:\\Users\\admin\\.spyder-py3\\test\\文件处理\\心脏病\\heart.csv'
    data = pd.read_csv(filepath)
     
    #（2）数据处理
    # 重新洗牌，行互换后，让索引从0开始
    data = data.sample(frac=1).reset_index(drop=True)
    # 提取目标值target一列
    data_target = data['target']
    # 提取目标值
    data_feature = data.drop('target',axis=1)
    # 取出最后10行作为验证集
    data_predict_feature = data_feature[-10:]  #作为最后预测函数的输入
    data_predict_target = data_target[-10:]  #用来验证预测输出结果的正确性
    # 建模用的特征值和目标值删去最后10行
    data_feature = data_feature[:-10]  #x数据
    data_target = data_target[:-10]    #y数据
     
    #（3）划分训练集和测试集
    from sklearn.model_selection import train_test_split
    x_train,x_test,y_train,y_test = train_test_split(data_feature,data_target,test_size=0.25)
     
    #（4）高斯模型训练
    # 导入朴素贝叶斯--高斯模型方法
    from sklearn.naive_bayes import GaussianNB
    # gauss_nb接收高斯方法
    gauss_nb = GaussianNB()
    # 模型训练，输入训练集
    gauss_nb.fit(x_train,y_train)
    # 计算准确率--评分法
    gauss_accuracy = gauss_nb.score(x_test,y_test)
    # 预测
    gauss_result = gauss_nb.predict(data_predict_feature)
     
    #（5）多项式模型训练
    # 导入朴素贝叶斯--多项式方法
    from sklearn.naive_bayes import MultinomialNB
    # multi_nb接收多项式方法
    multi_nb = MultinomialNB()
    # 多项式方法进行训练，输入训练集
    multi_nb.fit(x_train,y_train)
    # 评分法计算准确率
    multi_accuracy = multi_nb.score(x_test,y_test)
    # 预测
    multi_result = multi_nb.predict(data_predict_feature)

[5c97dace1b0b44bebbea049c17f128b6.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/86cb7c5f3fff4bfc948d15796e2154d8.png
[577c8df70960464393bf402cabe4be74.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/7fc48863baaa4ebfb3333bdea7fcdd88.png
[ddacc83885984f19ad0dc14dd716bf35.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/6c8d3ac6a1274e8e99771cc0402e3ee9.png
[61726281bb2b4079a7698e00c757f94a.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/18/1cbe49b9aeb64650b77a57873830d2ae.png
[Link 1]: https://pan.baidu.com/s/1KVRkkRp-E-W0tS4Q9qU7Ag