交叉验证

秒速五厘米 2022-05-25 09:44 275阅读 0赞

**交叉验证（Cross Validation）**

常见的交叉验证方法如下：

1、简单交叉验证

将原始数据随机分为两组，一组做为训练集，一组做为验证集，利用训练集训练分类器，然后利用验证集验证模型，记录最后的分类准确率为此分类器的性能指标。

好处：

处理简单，只需随机把原始数据分为两组即可

坏处：

但没有达到交叉的思想，由于是随机的将原始数据分组，所以最后验证集分类准确率的高低与原始数据的分组有很大的关系，得到的结果并不具有说服性。

2、2-折交叉验证（2-fold Cross Validation，记为2-CV）

做法是将数据集分成两个相等大小的子集，进行两次的分类器训练。在第一次中，一个子集作为训练集，另一个便作为测试集；在第二次训练中，则将训练集与测试集对换，

其并不常用：

主要原因是训练集样本数太少，不足以代表母体样本的分布，导致te测试阶段辨识率容易出现明显落差。

3、K-折交叉验证（K-fold Cross Validation，记为K-CV）

将原始数据分成K组（一般是均分），将每个子集数据分别做一次验证集，其余的K-1组子集数据作为训练集，这样会得到K个模型，用这K个模型最终的验证集的分类准确率的平均数作为此K-CV下分类器的性能指标。K一般大于等于2，实际操作时一般从3开始取，只有在原始数据集合数据量小的时候才会尝试取2。

应用最多，K-CV可以有效的避免过拟合与欠拟合的发生，最后得到的结果也比较具有说服性。

**Eg:**

**十折交叉验证**

1.     将数据集分成十份，轮流将其中9份作为训练数据，1份作为测试数据，进行试验。每次试验都会得出相应的正确率。

2.     10次的结果的正确率的平均值作为对算法精度的估计，一般还需要进行多次10折交叉验证（例如10次10折交叉验证），再求其均值，作为对算法准确性的估计

**此外：**

1.     多次 k 折交叉验证再求均值，例如：10 次10 折交叉验证，以求更精确一点。

2.     划分时有多种方法，例如对非平衡数据可以用分层采样，就是在每一份子集中都保持和原始数据集相同的类别比例。

3.     模型训练过程的所有步骤，包括模型选择，特征选择等都是在单个折叠 fold 中独立执行的。

4、留一交叉验证（Leave-One-Out Cross Validation记为LOO-CV）

**在数据缺乏的情况下使用**，如果设原始数据有N个样本，那么LOO-CV就是N-CV，即每个样本单独作为验证集，其余的N-1个样本作为训练集，故LOO-CV会得到N个模型，用这N个模型最终的验证集的分类准确率的平均数作为此下LOO-CV分类器的性能指标。

优点：

（1）每一回合中几乎所有的样本皆用于训练模型，因此最接近原始样本的分布，这样评估所得的结果比较可靠。

（2）实验过程中没有随机因素会影响实验数据，确保实验过程是可以被复制的。

缺点：

计算成本高，需要建立的模型数量与原始数据样本数量相同。当数据集较大时几乎不能使用。

发表评论取消回复

表情：

评论列表（有 0 条评论，275人围观）

还没有评论，来说两句吧...

相关阅读

相关交叉验证方法总结

.简单交叉验证（ hold-out cross validation）全部数据分成训练集，测试集两部分。训练集用于训练模型，测试集用于测试模型效果。两个数据集...

我不是女神ヾ/ 2024年04月19日 08:48/ 0 赞/ 74 阅读

相关交叉验证（Cross-Validation） - CV

交叉验证这不是某一个方法的名称，而是一类方法的统称，主要形式是把训练集分成两部分，一部分是用来训练模型，另一部门用来验证模型，相当于一份数据集被分为训练集和验证集，...

矫情吗；*/ 2024年04月17日 06:04/ 0 赞/ 77 阅读

相关 matlab gcv,广义交叉验证

交叉验证，有时亦称循环估计，是一种统计学上将数据样本切割成较小子集的实用方法。于是可以先在一个子集上做分析，而其它子集则用来做后续对此分析的确认及验证。一开始的子集被称为

╰+哭是因爲堅強的太久メ/ 2023年01月15日 10:24/ 0 赞/ 136 阅读

相关交叉验证

【交叉验证方法介绍】 > 转自[http://page.renren.com/600754883/note/912691419][http_page.renren.com

落日映苍穹つ/ 2022年09月22日 13:55/ 0 赞/ 174 阅读

相关交叉验证(CrossValidation)解析

> 交叉验证（Cross-validation)，是统计学上一种将数据样本(dataset)切割成较小子集的实用方法。该方法先在一个子集上做分析，而其它子集则用来做后续对此分析

Bertha 。/ 2022年09月17日 06:27/ 0 赞/ 196 阅读

相关交叉验证(Cross-Validation)

概述交叉验证(Cross-Validation)是用于防止模型过于复杂而引起的过拟合。有时亦称循环估计，是一种统计学上将数据样本切割成较小子集的实用方法。于是可以先在

心已赠人/ 2022年08月22日 04:42/ 0 赞/ 294 阅读

相关 crossvalind Matlab 交叉验证

原文地址：[crossvalind Matlab 交叉验证][crossvalind_Matlab]作者：[lujingyang1029][] 今天用到crossvalind

心已赠人/ 2022年05月31日 00:17/ 0 赞/ 232 阅读

相关交叉验证

交叉验证（Cross Validation）常见的交叉验证方法如下： 1、简单交叉验证将原始数据随机分为两组，一组做为训练集，一组做为验证集，利用训练集训练分类器，然

秒速五厘米/ 2022年05月25日 09:44/ 0 赞/ 276 阅读

相关 10折交叉验证深入理解

交叉验证（Cross Validation），有的时候也称作循环估计（Rotation Estimation），是一种统计学上将数据样本切割成较小子集的实用方法，该理论是由Se

r囧r小猫/ 2022年04月02日 05:41/ 0 赞/ 475 阅读

相关 sklearn中交叉验证

交叉验证概述进行模型验证的一个重要目的是要选出一个最合适的模型，对于监督学习而言，我们希望模型对于未知数据的泛化能力强，所以就需要模型验证这一过程来体现不同的模型对于未

秒速五厘米/ 2021年10月01日 08:06/ 0 赞/ 363 阅读