机器学习面试题八之感知机算法

矫情吗；* 2023-02-17 11:14 28阅读 0赞

LawsonAbs的认知与思考，还请各位读者批判阅读。

# 总结 #

*  文章来源：csdn：LawsonAbs
 *  我会以专栏的形式写下此生学习到的每个基础ML算法

--------------------

## 1.什么是感知机算法？ ##

### 1.1 模型结构 ###

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70]  
对应的表达式就是：  
![在这里插入图片描述][20201218202100867.png]

### 1.2 性质 ###

*  属于监督学习算法  
    比如在后面给出的实战代码中，我们给出了人名对应的性别，会根据这个预测是否准确去完成一次更新操作。
 *  属于迭代式算法  
    每次读入一个样本，执行预测，将预测结果与正确答案进行对比，计算误差，根据误差更新模型参数。

## 2.有什么用途？ ##

*  可以用于问题分类（ 二类线性分类器）

## 3.有什么利弊？ ##

*  模型过于简单  
    参数较少的模型就容易出现\*\*“不拟合”\*\*的情况，同时，也会因为数个偏离点而对迭代更新的参数有很大的影响。从而难以准确的预测结果，造成较大偏差。
 *  迭代偏差  
    这里说的迭代偏差是因为我们总是倾向于取最后一次迭代的模型。  
    每次迭代都产生一个模型，而且每个模型的对应的每个参数不一定相同。如果我们单纯的取最后一次迭代产生的模型作为“最优模型”的话，很有可能是 **“补了西墙，拆了东墙”**。

## 3.怎么改进？ ##

针对上面叙述的问题，对应的改进方法有投票感知机和平均感知机，分别简单叙述一下。

### 3.1 投票感知机 ###

#### 3.1.1 思想 ####

每次迭代都会产生一个不同参数的模型，那么这些模型间的准确率就不一样，把这个准确率称之为**权重**。根据各个模型的权重可以得到每个模型的加权平均值。根据各个模型的加权平均值与参数相乘，得到最终的一个模型。

#### 3.1.2 缺点 ####

*  计算开销大
 *  存储开销大

### 3.2 平均感知机 ###

#### 3.2.1 思想 ####

每次迭代都会产生一个不同参数的模型，最后得到的模型就取每次迭代模型的一个平均。【这个平均其实指的是模型参数的平均】【《自然语言处理入门》这本书中讲的是：**取多个模型权重的平均**。我不是很理解。】

#### 3.2.2 特点 ####

*  好实现
 *  借助一定的方法【累积参数和，而不是傻傻的每迭代一次就算一次平均】，可以避免存储中间模型，可以以更少内存得到最终的模型

## 4.怎么实现？ ##

请在我的专栏 《Hanlp源码分析》博客：[基于感知机实现人名性别预测][Link 1] 寻找答案。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20201218202033681.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5,size_16,color_FFFFFF,t_70
[20201218202100867.png]: https://img-blog.csdnimg.cn/20201218202100867.png
[Link 1]: https://lawson-t.blog.csdn.net/article/details/106734276