机器学习基本概念和模型训练基本问题

野性酷女 2023-06-04 05:54 21阅读 0赞

# 什么是分类问题，什么是回归问题？以及两者的区别 #

![611194-20161008225211692-654330241.png][]

# 什么是二叉树？ #

二叉树很容易理解，在这里我们一般用满二叉树：就是非叶子节点都有2个分支的树形数据结构

![611194-20161008225253535-426572277.jpg][]

# 什么是决策树？ #

决策树最初是用来做决策用的，就好像下面的见不见相亲对象的决策过程一样；

如果把最后的决策结果看成是分类，那么决策树就可以用来分类了，例如，下面的例子就是把相亲对象分为见和不见两种。

假如下面是你是否见相亲对象的决策树，如果你老妈有你给的这个决策树，那么你老妈给你介绍一个相亲对象之前，按照这个决策树走一遍，就能预测你是否相见这个相亲对象了

![611194-20161008225416301-543691798.png][]

# 正负样本，特征，训练集（数据），验证集（数据），预测集（数据）  #

下面通过一个例子来区分这些概念

我们的数据集是一百个点，如下图所示，是二维平面的100个点，这个就是我们总的数据集（全集），这些数据在文本中就是下面第二张图所示的三个字段（x坐标，y坐标，label（正样本还是负样本））

![611194-20161009095203637-151855746.png][]![611194-20161009095354254-320395266.png][]

对于每个数据点来说，都有自己的x，y坐标以及自己的类别（正还是负，0或者1）；

而我们的目标是通过每个数据点的x，y坐标去确定该数据点的类别，但是我们不想每来一个数据点都自己亲眼观察去判断，我们希望教会机器怎么去辨别每个数据点的类别。

我们需要告诉机器什么样的数据点的类别是1，什么样的数据点的类别是0，这就是正负样本

我们把正负样本放在一起，就组成了一个数据集，并从中抽取一部分或者全部，这就是训练集

我们要教会机器通过什么属性来区分数据点的类别，例如我们教会机器通过数据点的x，y坐标来判断数据点的类别，那么在这里x，y坐标就是特征

教会了机器区分数据点，一般我们需要验证机器区分的正确率，我们需要用一些已知类别的数据点，对比这些数据点原本的类别和机器辨别出来的类别，计算机器区分的正确率，这些数据点的特征和类别就是验证集。

训练集和验证集都是正负样本组成的集合的子集，两者数据的格式是一样的。一般来说我们可以在正负样本集调整训练集和验证集的比例。

最后，我们有一批新的数据点，我们只有这些数据点的特征（x，y坐标），我们想让机器预测这些数据点的类别，这些只有特征的数据集我们成为预测集。

验证集在验证的过程中也充当了预测集的角色，不过验证集自带类别，可以验证预测的准确性，而预测集则是完全依赖与机器的预测。

所以，我们需要保证预测集和训练集、验证集是属于同一个样本空间的，否则，预测的结果可能不如人意。

下面我们来看下模型训练过程中常见的问题

1：样本选择的问题

在这个例子中，我们是有一个全集的，我们可以看到数据整体分布，这是比较理想的；

然而很多时候，我们甚至不知道样本空间的边界在哪里，我们不知道我们抽取的正负样本是否能代表整个样本空间？

2：正负样本比例问题

在这个例子中，正负样本比例1：1，然而，在实际数据中，我们甚至不知道真实的样本空间里面正负样本的比例；

而正负样本的比例有时候会对模型的评价产生影响

3：模型评价的问题

我们一般通过验证集来检验模型的好坏，然而模型是过拟合还是欠拟合我们是很难衡量的，而过拟合还是欠拟合一般也是通过验证结果来判断，但是训练集和验证集的选择有一定的随机性，

所以，模型评价也是一个难题。

而且，对于不同的集合，对模型的要求也是不一样的，是尽量不要预测错，还是尽量找回更多，因实际情况而定。

转载于:https://www.cnblogs.com/qwj-sysu/p/5940517.html

[611194-20161008225211692-654330241.png]: /images/20230601/812e7f9a3c13465d933cc2f8bd838ac6.png
[611194-20161008225253535-426572277.jpg]: /images/20230601/c054616f5e504be7ac098f782e0e248b.png
[611194-20161008225416301-543691798.png]: /images/20230601/9fbe6506a24f4293aeadda976e3782f5.png
[611194-20161009095203637-151855746.png]: https://images2015.cnblogs.com/blog/611194/201610/611194-20161009095203637-151855746.png
[611194-20161009095354254-320395266.png]: /images/20230601/a9212bb45ca44af9ba9327b08ad6d2df.png

发表评论取消回复

表情：

评论列表（有 0 条评论，21人围观）

还没有评论，来说两句吧...

相关阅读

相关机器学习基本小型概念

[1.RGB与BGR转换][1.RGB_BGR] [2.tf.Variable与tf.placeholder区别][2.tf.Variable_tf.placeholder]

川长思鸟来/ 2023年10月10日 08:21/ 0 赞/ 21 阅读

相关深度学习模型训练的基本步骤和技巧

模型的训练主要包括数据预处理、模型构建、模型编译、模型训练和模型评估等步骤。下面是一个基于Keras框架的模型训练示例。 1. 准备数据集在开始模型训练前，需要准备好

╰+哭是因爲堅強的太久メ/ 2023年09月27日 23:39/ 0 赞/ 150 阅读

相关机器学习概念基本入门

本文将介绍关于机器学习的基本认识与相关展望，达到基本了解机器学习相关的知识体系。并且了解机器学习相关的几大领域：数据挖掘、人工智能的异同点。注：学习自[林轩田机器学习基石(

川长思鸟来/ 2023年09月27日 15:12/ 0 赞/ 133 阅读

相关机器学习基本术语

傍晚小街路面上沁出微雨后的湿润，和煦的细风吹来，抬头看看天边的晚霞，嗯，明天又是一个好天气。走到水果摊旁，挑了个根蒂蜷缩、敲起来声音浊响的青绿西瓜，满心期待着皮薄肉厚瓢甜的爽

古城微笑少年丶/ 2023年09月26日 15:32/ 0 赞/ 112 阅读

相关【机器学习】2.基本概念及发展历程

历史定义 ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nL

灰太狼/ 2023年06月24日 15:30/ 0 赞/ 18 阅读

相关机器学习基本概念和模型训练基本问题

什么是分类问题，什么是回归问题？以及两者的区别 ![611194-20161008225211692-654330241.png][] 什么是二叉树？二叉树很容

野性酷女/ 2023年06月04日 05:54/ 0 赞/ 22 阅读

相关 AJAX基本概念学习

目录全局刷新局部刷新 AJAX概念 AJAX 异步实现分析原生JS方式实现Ajax -------------------- 全局刷新简单说

深藏阁楼爱情的钟/ 2022年11月29日 13:07/ 0 赞/ 184 阅读

相关 MongoDB学习总结（1）----基本概念和基本操作

基本概念数据库分为TRDB和NoSQL TRDB包含Oracle（第一款）、MySQL等 NoSQL包含MongoDB、Redis等 > NoSQL：是一种非

谁借莪１个温暖的怀抱￠/ 2022年11月02日 11:39/ 0 赞/ 202 阅读

相关分布式机器学习——模型并行训练

首先还是来介绍一下分布式系统中的并行方式，分为数据并行和模型并行，其实还有一种并行方式：Pipeline并行。 Pipeline并行方式有的时候会单独存在，有的时候又归为模型

野性酷女/ 2022年09月03日 03:27/ 0 赞/ 183 阅读

相关机器学习基本概念

文章目录数据机器学习任务分类任务二分类多分类回归任务什么是机器学习

朱雀/ 2022年01月31日 03:25/ 0 赞/ 477 阅读