【转】L1范数与L2范数的区别

忘是亡心i 2022-10-16 04:49 337阅读 0赞

# 把答案放在前面 #

L0范数是指向量中非0的元素的个数。(L0范数很难优化求解)。  
L1范数是指向量中各个元素绝对值之和。  
L2范数是指向量各元素的平方和然后求平方根。  
L1范数可以进行特征选择，即让特征的系数变为0。  
L2范数可以防止过拟合，提升模型的泛化能力，有助于处理 condition number不好下的矩阵(数据变化很小矩阵求解后结果变化很大)。

（核心：L2对大数，对outlier离群点更敏感！）  
下降速度：最小化权值参数L1比L2变化的快。  
模型空间的限制：L1会产生稀疏 L2不会。  
L1会趋向于产生少量的特征，而其他的特征都是0，而L2会选择更多的特征，这些特征都会接近于0。

# 概念 #

范数是具有“长度”概念的函数。在向量空间内，为所有的向量的赋予非零的增长度或者大小。不同的范数，所求的向量的长度或者大小是不同的。

举个例子，2维空间中，向量(3,4)的长度是5，那么5就是这个向量的一个范数的值，更确切的说，是欧式范数或者L2范数的值。

对于 p p p范数，如果：  
 x = \[ x 1 , x 2 , . . . , x n \] T x=\[x\_1,x\_2,...,x\_n\]^T x=\[x1,x2,...,xn\]T  
那么向量 x x x的 p p p范数就是：  
 ∣ ∣ x ∣ ∣ p = ( ∣ x 1 ∣ p + ∣ x 2 ∣ p + . . . + ∣ x n ∣ p ) 1 p ||x||\_p=(|x\_1|^p+|x\_2|^p+...+|x\_n|^p)^\{\\frac\{1\}\{p\}\} ∣∣x∣∣p=(∣x1∣p\+∣x2∣p\+...\+∣xn∣p)p1  
 L 1 L1 L1范数：  
 ∣ ∣ x ∣ ∣ 1 = ∣ x 1 ∣ + ∣ x 2 ∣ + . . . + ∣ x n ∣ ||x||\_1=|x\_1|+|x\_2|+...+|x\_n| ∣∣x∣∣1=∣x1∣\+∣x2∣\+...\+∣xn∣  
 L 2 L2 L2范数：  
 ∣ ∣ x ∣ ∣ 2 = ( ∣ x 1 ∣ 2 + ∣ x 2 ∣ 2 + . . . + ∣ x n ∣ 2 ) 1 2 ||x||\_2=(|x\_1|^2+|x\_2|^2+...+|x\_n|^2)^\{\\frac\{1\}\{2\}\} ∣∣x∣∣2=(∣x1∣2\+∣x2∣2\+...\+∣xn∣2)21

特别的，L0范数：指向量中非零元素的个数。无穷范数：指向量中所有元素的最大绝对值。

# 1.监督学习的基本模型 #

监督机器学习问题无非就是“minimize your error while regularizing your parameters”，也就是在规则化参数的同时最小化误差。最小化误差是为了让我们的模型拟合我们的训练数据，而规则化参数是防止我们的模型过分拟合我们的训练数据。因为参数太多，会导致我们的模型复杂度上升，容易过拟合，也就是我们的训练误差会很小。但训练误差小并不是我们的最终目标，我们的目标是希望模型的测试误差小，也就是能准确的预测新的样本。所以，我们需要保证模型“简单”的基础上最小化训练误差，这样得到的参数才具有好的泛化性能（也就是测试误差也小），**而模型“简单”就是通过规则函数来实现的**。

另外，规则项的使用还可以约束我们的模型的特性。这样就可以将人对这个模型的先验知识融入到模型的学习当中，强行地让学习到的模型具有人想要的特性，例如稀疏、低秩、平滑等等。要知道，有时候人的先验是非常重要的。前人的经验会让你少走很多弯路，这就是为什么我们平时学习最好找个大牛带带的原因。一句点拨可以为我们拨开眼前乌云，还我们一片晴空万里，醍醐灌顶。对机器学习也是一样，如果被我们人稍微点拨一下，它肯定能更快的学习相应的任务。只是由于人和机器的交流目前还没有那么直接的方法，目前这个媒介只能由规则项来担当了。

还有几种角度来看待规则化的。规则化符合奥卡姆剃刀(Occam’s razor)原理。它的思想很平易近人：在所有可能选择的模型中，我们应该选择能够很好地解释已知数据并且十分简单的模型。从贝叶斯估计的角度来看，规则化项对应于模型的先验概率。民间还有个说法就是，规则化是结构风险最小化策略的实现，是在经验风险上加一个正则化项(regularizer)或惩罚项(penalty term)。

结构风险的定义是：  
 R s r m ( f ) = 1 n ∑ i = 1 n L ( y i , f ( x i ) ) + λ J ( f ) R\_\{srm\}(f)=\\frac\{1\}\{n\}\\sum\_\{i=1\}^n\{L(y\_i,f(x\_i)) + \\lambda J(f)\} Rsrm(f)=n1i=1∑nL(yi,f(xi))\+λJ(f)  
其中， J ( f ) J(f) J(f)为模型的复杂度，是定义在假设空间 F F F上的泛函，模型 f f f越复杂，复杂度 J ( f ) J(f) J(f)就越大；反之，模型 f f f越简单，复杂度 J ( f ) J(f) J(f)越小，也就是说，复杂度表示了对复杂模型的惩罚。 λ ≥ 0 \\lambda \\ge 0 λ≥0是系数，用以权衡经验风险和模型复杂度。

一般来说，监督学习可以看做最小化下面的目标函数：  
其中，第一项L(yi,f(xi;w)) 衡量我们的模型（分类或者回归）对第i个样本的预测值f(xi;w)和真实的标签yi之前的误差。因为我们的模型是要拟合我们的训练样本的嘛，所以我们要求这一项最小，也就是要求我们的模型尽量的拟合我们的训练数据。但正如上面说言，我们不仅要保证训练误差最小，我们更希望我们的模型测试误差小，所以我们需要加上第二项，也就是对参数w的规则化函数Ω(w)去约束我们的模型尽量的简单。

OK，到这里，如果你在机器学习浴血奋战多年，你会发现，哎哟哟，机器学习的大部分带参模型都和这个不但形似，而且神似。是的，其实大部分无非就是变换这两项而已。**对于第一项Loss函数，如果是Square loss，那就是最小二乘了；如果是Hinge Loss，那就是著名的SVM了；如果是exp-Loss，那就是牛逼的 Boosting了；如果是log-Loss，那就是Logistic Regression了；** 还有等等。不同的loss函数，具有不同的拟合特性，这个也得就具体问题具体分析的。但这里，我们先不究loss函数的问题，我们把目光转向“规则项Ω(w)”。

规则化函数Ω(w)也有很多种选择，一般是模型复杂度的单调递增函数，模型越复杂，规则化值就越大。比如，规则化项可以是模型参数向量的范数。然而，不同的选择对参数w的约束不同，取得的效果也不同，但我们在论文中常见的都聚集在：零范数、一范数、二范数、迹范数、Frobenius范数和核范数等等。这么多范数，到底它们表达啥意思？具有啥能力？什么时候才能用？什么时候需要用呢？不急不急，下面我们挑几个常见的娓娓道来。

# 2.L0范数与L1范数 #

L 0 L0 L0范数是指向量中非0的元素的个数。如果我们用L0范数来规则化一个参数矩阵W的话，就是希望W的大部分元素都是0。这太直观了，太露骨了吧，换句话说，让参数W是稀疏的。OK，看到了“稀疏”二字，大家都应该从当下风风火火的“压缩感知”和“稀疏编码”中醒悟过来，原来用的漫山遍野的“稀疏”就是通过这玩意来实现的。但你又开始怀疑了，是这样吗？看到的papers世界中，稀疏不是都通过 L 1 L1 L1范数来实现吗？脑海里是不是到处都是 ∣ ∣ W ∣ ∣ 1 ||W||\_1 ∣∣W∣∣1影子呀！几乎是抬头不见低头见。没错，这就是这节的题目把L0和L1放在一起的原因，因为他们有着某种不寻常的关系。那我们再来看看L1范数是什么？它为什么可以实现稀疏？为什么大家都用L1范数去实现稀疏，而不是L0范数呢？

L 1 L1 L1范数是指向量中各个元素绝对值之和，也有个美称叫“稀疏规则算子”（Lasso regularization）。现在我们来分析下这个价值一个亿的问题：为什么 L 1 L1 L1范数会使权值稀疏？有人可能会这样给你回答“它是 L 0 L0 L0范数的最优凸近似”。实际上，还存在一个更美的回答：任何的规则化算子，如果他在 W i = 0 W\_i=0 Wi=0的地方不可微，并且可以分解为一个“求和”的形式，那么这个规则化算子就可以实现稀疏。这说是这么说， W W W的 L 1 L1 L1范数是绝对值， ∣ w ∣ |w| ∣w∣在 w = 0 w=0 w=0处是不可微，但这还是不够直观。这里因为我们需要和 L 2 L2 L2范数进行对比分析。所以关于 L 1 L1 L1范数的直观理解，请待会看看第二节。

对了，上面还有一个问题：既然L0可以实现稀疏，为什么不用L0，而要用L1呢？个人理解一是因为L0范数很难优化求解（NP难问题），二是L1范数是L0范数的最优凸近似，而且它比L0范数要容易优化求解。所以大家才把目光和万千宠爱转于L1范数。

来个一句话总结：**L1范数和L0范数可以实现稀疏，L1因具有比L0更好的优化求解特性而被广泛应用**。

好，到这里，我们大概知道了L1可以实现稀疏，但我们会想呀，为什么要稀疏？让我们的参数稀疏有什么好处呢？这里扯两点：

1.  特征选择(Feature Selection)：  
    大家对稀疏规则化趋之若鹜的一个关键原因在于它能实现特征的自动选择。一般来说， x i x\_i xi的大部分元素（也就是特征）都是和最终的输出 y i y\_i yi没有关系或者不提供任何信息的，在最小化目标函数的时候考虑 x i x\_i xi这些额外的特征，虽然可以获得更小的训练误差，但在预测新的样本时，这些没用的信息反而会被考虑，从而干扰了对正确 y i y\_i yi的预测。稀疏规则化算子的引入就是为了完成特征自动选择的光荣使命，它会学习地去掉这些没有信息的特征，也就是把这些特征对应的权重置为0。
2.  可解释性(Interpretability)：  
    另一个青睐于稀疏的理由是，模型更容易解释。例如患某种病的概率是 y y y，然后我们收集到的数据 x x x是1000维的，也就是我们需要寻找这1000种因素到底是怎么影响患上这种病的概率的。假设我们这个是个回归模型： y = w 1 ∗ x 1 + w 2 ∗ x 2 + … + w 1000 ∗ x 1000 + b y=w\_1\*x\_1+w\_2\*x\_2+…+w\_\{1000\}\*x\_\{1000\}+b y=w1∗x1\+w2∗x2\+…\+w1000∗x1000\+b（当然了，为了让y限定在\[0,1\]的范围，一般还得加个Logistic函数）。通过学习，如果最后学习到的 w ∗ w^\* w∗就只有很少的非零元素，例如只有5个非零的wi，那么我们就有理由相信，这些对应的特征在患病分析上面提供的信息是巨大的，决策性的。也就是说，患不患这种病只和这5个因素有关，那医生就好分析多了。但如果1000个wi都非0，医生面对这1000种因素，累觉不爱。

# 3.L2范数 #

除了 L 1 L1 L1范数，还有一种更受宠幸的规则化范数是 L 2 L2 L2范数:  ∣ ∣ W ∣ ∣ 2 ||W||\_2 ∣∣W∣∣2。它也不逊于 L 1 L1 L1范数，它有两个美称，在回归里面，有人把有它的回归叫“岭回归”（Ridge Regression），有人也叫它“权值衰减weight decay”。这用的很多吧，因为它的强大功效是改善机器学习里面一个非常重要的问题：过拟合。至于过拟合是什么，上面也解释了，就是模型训练时候的误差很小，但在测试的时候误差很大，也就是我们的模型复杂到可以拟合到我们的所有训练样本了，但在实际预测新的样本的时候，糟糕的一塌糊涂。通俗的讲就是应试能力很强，实际应用能力很差。擅长背诵知识，却不懂得灵活利用知识。例如下图所示（来自Ng的course）：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ZpbmNlbnRfZHVhbg_size_16_color_FFFFFF_t_70]  
上面的图是线性回归，下面的图是Logistic回归，也可以说是分类的情况。从左到右分别是欠拟合（underfitting，也称High-bias）、合适的拟合和过拟合（overfitting，也称High variance）三种情况。可以看到，如果模型复杂（可以拟合任意的复杂函数），它可以让我们的模型拟合所有的数据点，也就是基本上没有误差。对于回归来说，就是我们的函数曲线通过了所有的数据点，如上图右。对分类来说，就是我们的函数曲线要把所有的数据点都分类正确，如下图右。这两种情况很明显过拟合了。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ZpbmNlbnRfZHVhbg_size_16_color_FFFFFF_t_70 1]  
OK，那现在到我们非常关键的问题了，为什么 L 2 L2 L2范数可以防止过拟合？回答这个问题之前，我们得先看看 L 2 L2 L2范数是个什么东西。

**L 2 L2 L2范数是指向量各元素的平方和然后求平方根。我们让 L 2 L2 L2范数的规则项 ∣ ∣ W ∣ ∣ 2 ||W||\_2 ∣∣W∣∣2最小，可以使得 W W W的每个元素都很小，都接近于0，** 但与 L 1 L1 L1范数不同，它不会让它等于0，而是接近于0，这里是有很大的区别的哦。**而越小的参数说明模型越简单，越简单的模型则越不容易产生过拟合现象。** 为什么越小的参数说明模型越简单？我也不懂，我的理解是：限制了参数很小，实际上就限制了多项式某些分量的影响很小（看上面线性回归的模型的那个拟合的图），这样就相当于减少参数个数。其实我也不太懂，希望大家可以指点下。

这里也一句话总结下：通过 L 2 L2 L2范数，我们可以实现了对模型空间的限制，从而在一定程度上避免了过拟合。限制解空间范围，缩小解空间，来控制模型复杂度，降低结构化风险。

L 2 L2 L2范数的好处是什么呢？这里也扯上两点：  
1）学习理论的角度：  
从学习理论的角度来说， L 2 L2 L2范数可以防止过拟合，提升模型的泛化能力。  
2）优化计算的角度：  
从优化或者数值计算的角度来说， L 2 L2 L2范数有助于处理 condition number不好的情况下矩阵求逆很困难的问题。（这个不明白）

# 直观地聊聊L1和L2的差别 #

为什么一个让绝对值最小，一个让平方最小，会有那么大的差别呢？我看到的有两种几何上直观的解析：

1.  下降速度：  
    我们知道， L 1 L1 L1和 L 2 L2 L2都是规则化的方式，我们将权值参数以 L 1 L1 L1或者 L 2 L2 L2的方式放到代价函数里面去。然后模型就会尝试去最小化这些权值参数。而这个最小化就像一个下坡的过程， L 1 L1 L1和 L 2 L2 L2的差别就在于这个“坡”不同，如下图： L 1 L1 L1就是按绝对值函数的“坡”下降的，而 L 2 L2 L2是按二次函数的“坡”下降。所以实际上在0附近， L 1 L1 L1的下降速度比 L 2 L2 L2的下降速度要快。所以会非常快得降到0。不过我觉得这里解释的不太中肯，当然了也不知道是不是自己理解的问题。  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ZpbmNlbnRfZHVhbg_size_16_color_FFFFFF_t_70 2]  
     L 1 L1 L1在江湖上人称Lasso， L 2 L2 L2人称Ridge。
2.  模型空间的限制：  
    实际上，对于 L 1 L1 L1和 L 2 L2 L2规则化的代价函数来说，我们可以写成以下形式：  
    也就是说，我们将模型空间限制在 w w w的一个 L 1 − b a l l L1-ball L1−ball 中。为了便于可视化，我们考虑两维的情况，在 ( w 1 , w 2 ) (w1, w2) (w1,w2)平面上可以画出目标函数的等高线，而约束条件则成为平面上半径为C的一个 norm ball 。等高线与 norm ball 首次相交的地方就是最优解：  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ZpbmNlbnRfZHVhbg_size_16_color_FFFFFF_t_70 3]  
    可以看到，L1-ball 与L2-ball 的不同就在于L1在和每个坐标轴相交的地方都有“角”出现，而目标函数的测地线除非位置摆得非常好，大部分时候都会在角的地方相交。注意到在角的位置就会产生稀疏性，例如图中的相交点就有w1=0，而更高维的时候（想象一下三维的L1-ball 是什么样的？）除了角点以外，还有很多边的轮廓也是既有很大的概率成为第一次相交的地方，又会产生稀疏性。

相比之下，L2-ball 就没有这样的性质，因为没有角，所以第一次相交的地方出现在具有稀疏性的位置的概率就变得非常小了。这就从直观上来解释了为什么L1-regularization 能产生稀疏性，而L2-regularization 不行的原因了。

因此，一句话总结就是：L1会趋向于产生少量的特征，而其他的特征都是0，而L2会选择更多的特征，这些特征都会接近于0。Lasso在特征选择时候非常有用，而Ridge就只是一种规则化而已。

# 正则化的求导 #

假设原先损失函数是C0，那么在L2和L1正则条件下对参数求导分别是：  
![在这里插入图片描述][20210526220803943.png]  
![在这里插入图片描述][20210526220823487.png]  
可以想象用梯度下降的方法，当w小于1的时候，L2正则项的惩罚效果越来越小，L1正则项惩罚效果依然很大，L1可以惩罚到0，而L2很难。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ZpbmNlbnRfZHVhbg_size_16_color_FFFFFF_t_70]: /images/20221014/d53eead5e8d64f8796857b733120e699.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ZpbmNlbnRfZHVhbg_size_16_color_FFFFFF_t_70 1]: /images/20221014/1d346978c5bd457993f57e1ce40ed846.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ZpbmNlbnRfZHVhbg_size_16_color_FFFFFF_t_70 2]: /images/20221014/b898d0a8c23e49a8939cfc95f17c417b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3ZpbmNlbnRfZHVhbg_size_16_color_FFFFFF_t_70 3]: /images/20221014/13d1cb94b29b4fb283c0ee3bb8015262.png
[20210526220803943.png]: /images/20221014/2dc6c3c9fbd74e7cbb5a8932bdbfd8c8.png
[20210526220823487.png]: https://img-blog.csdnimg.cn/20210526220823487.png