算法工程师面试之生成式模型和判别式模型

小鱼儿 2022-12-31 03:24 151阅读 0赞

# 总结 #

*  文章来源： CSDN@LawsonAbs

--------------------

# 1.生成式模型和判别式模型 #

## 1.1 共同点 ##

二者的目的都是要计算在给定条件（也就是特征）x的情况下，属于某个类别 y i y\_i yi的概率 p y i p\_\{y\_i\} pyi，写成数学式子也就是计算条件概率 P ( y i ∣ x ) P(y\_i|x) P(yi∣x)。

## 1.2 不同点 ##

虽然目的相同，但是计算方法却有所区别，下表给出二者的比较。

<table> 
 <thead> 
 <tr> 
 <th>比较项</th> 
 <th>生成式模型</th> 
 <th>判别式模型</th> 
 </tr> 
 </thead> 
 <tbody> 
 <tr> 
 <td>建模对象</td> 
 <td>联合分布P(x,y)</td> 
 <td>条件分布P(y|x)</td> 
 </tr> 
 <tr> 
 <td>计算公式</td> 
 <td> P ( Y ∥ X ) = P ( X , Y ) P ( X ) P(Y\|X)=\frac{P(X,Y)}{P(X)} P(Y∥X)=P(X)P(X,Y)</td> 
 <td>直接计算</td> 
 </tr> 
 <tr> 
 <td>模型集合</td> 
 <td>朴素贝叶斯，贝叶斯网络，隐马尔可夫模型，LDA</td> 
 <td>最大熵模型，条件随机场</td> 
 </tr> 
 </tbody> 
</table>

下面给出一张图【《百面》的P125】，用于解释整个计算的流程：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70]

# 2 生成式模型 #

## 2.1 主要思想 ##

*  首先构建并学习输入特征和输出类别的联合分布
 *  然后利用贝叶斯公式推导出输出类别的后验分布
 *  最后结合决策损失函数构建判别函数进行分类决策

## 2.2 实例 ##

朴素贝叶斯分类器。

# 3 判别式模型 #

## 3.1 主要思想 ##

*  直接构建并学习出输出类别在输入特征条件下的条件分布
 *  结合决策损失函数构建判别函数进行分类决策

## 3.2 实例 ##

逻辑回归。

# 参考资料 #

*  《百面机器学习算法》

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70]: /images/20221120/3aed67b848ea4164a77eeaba04f6587e.png