逻辑回归-6.解决多分类问题

以你之姓@ 2023-08-17 16:44 131阅读 0赞

逻辑回归是使用回归的方式来解决分类问题。之前说过，逻辑回归只能解决二分类问题，为了解决多分类问题，可以使用OVR和OVO方法  
![1465169-20190911210139086-1526640051.png][]

*  OVR(One Vs Rest)  
    某个分类算法有N类，将某一类和剩余的类比较作为二分类问题，N个类别进行N次分类，得到N个二分类模型，给定一个新的样本点，求出每种二分类对应的概率，概率最高的一类作为新样本的预测结果。  
    ![1465169-20190911210156872-1450224335.png][]
 *  OVO(One Vs One)  
    某个分类算法有N类，将某一类和另一类比较作为二分类问题，总共可分为\\(C^2\_n\\)种不同的二分类模型，给定一个新的样本点，求出每种二分类对应的概率，概率最高的一类作为新样本的预测结果。  
    ![1465169-20190911210211848-2016254963.png][]

加载鸢尾花数据集（数据集有三类结果）：

import numpy
    from sklearn import datasets
    from sklearn.model_selection import train_test_split
    
    iris = datasets.load_iris()
    # 为了数据可视化，只取数据集的前两个特征
    x = iris.data[:,:2]
    y = iris.target
    x_train,x_test,y_train,y_test = train_test_split(x,y,random_state=666)

***scikit-learn中默认支持多分类，且多分类方法默认为OVR***

from sklearn.linear_model import LogisticRegression
    
    log_reg = LogisticRegression()
    log_reg.fit(x_train,y_train)

画出决策边界：  
![1465169-20190911210231934-134855056.png][]

使用OVO多分类方法：

log_reg2 = LogisticRegression(multi_class='multinomial',solver='newton-cg')
    log_reg2.fit(x_train,y_train)

![1465169-20190911210252488-1624433345.png][]

## scikit-learn中的OVR和OVO类¶ ##

from sklearn.multiclass import OneVsRestClassifier,OneVsOneClassifier
    
    # 使数据所有的特征值参与运算
    x = iris.data
    y = iris.target
    x_train,x_test,y_train,y_test = train_test_split(x,y,random_state=666)

*  OVR

log_reg1 = LogisticRegression()
    OVR = OneVsRestClassifier(log_reg1)
    OVR.fit(x_train,y_train)

准确率：  
![1465169-20190911210318281-1248767996.png][]

*  OVO

log_reg2 = LogisticRegression()
    OVR = OneVsRestClassifier(log_reg2)
    OVR.fit(x_train,y_train)

准确率：  
![1465169-20190911210330438-915095475.png][]

转载于:https://www.cnblogs.com/shuai-long/p/11508760.html

[1465169-20190911210139086-1526640051.png]: /images/20230809/1be470ddea51469a98e85c36e216ac42.png
[1465169-20190911210156872-1450224335.png]: /images/20230809/f4ea4c58c64541ff8ef0ac9d04dbf7a9.png
[1465169-20190911210211848-2016254963.png]: /images/20230809/e9649954813546708ea003dbd5783211.png
[1465169-20190911210231934-134855056.png]: /images/20230809/00464d8924db41fab9a5a68595197d05.png
[1465169-20190911210252488-1624433345.png]: /images/20230809/8f812975e2d140029e96b33a4f8d043c.png
[1465169-20190911210318281-1248767996.png]: /images/20230809/a5cda80f6e2d4158b270afa714946b40.png
[1465169-20190911210330438-915095475.png]: /images/20230809/7579cc09900249bdb9f1aa21dd0ff8c8.png