【机器学习小常识】“parameters（参数）” 与 “hyperparameters（超参数）”的概念及区别详解

╰半橙微兮° 2021-06-11 15:14 931阅读 0赞

**目录**

1、参数与超参数概念

1.什么是参数

2.什么是超参数

2、二者有什么区别

1.得到方式不同

2.影响因素不同

3.可控程度不同

--------------------

# 说在前面的话 #

有些概念其实，很纠结，它到底是属于机器学习呢，还是属于深度学习呢？比如说，分类与回归，这个有些是很难界定的，有人说，它属于深度学习，又有人说，它属于机器学习。

其实争论这些，好像并无太大意义，就像一个男生对一个姑娘宠溺的说：这天下，是你的；而你，是我的。

所以，其实不管这个概念属于谁，深度学习是属于机器学习的。深度学习作为机器学习比较完善的一个分支，即便真正是属于深度学习的概念，那便也是属于机器学习罢。

所以我们就不纠结这个是机器学习小常识，还是深度学习小常识，我一概写作机器学习，因为我们的重点在于这些小常识，我们应该了解掌握它。

如果你有什么问题，希望跟我能够一起交流，除了通过博客交流外，欢迎你加入我的QQ群，一起交流有关于机器学习、深度学习、计算机视觉有关内容。目前我并未确定具体的研究方向，所以现在 处于广泛涉猎阶段，希望我们能够一起沟通。下图是我的群二维码：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NodWl5aXhpbg_size_26_color_2FFF3F_t_70][]

今天要给大家分享的是参数与超参数。

# 敲黑板 #

重点来啦重点来啦！！！

## 1、参数与超参数概念 ##

### 1.什么是参数 ###

参数，也叫参变量，是一个变量。我们在研究当前问题的时候，关心某几个变量的变化以及它们之间的相互关系，其中有一个或一些叫自变量，另一个或另一些叫因变量。如果我们引入一个或一些另外的变量来描述自变量与因变量的变化，引入的变量本来并不是当前问题必须研究的变量，我们把这样的变量叫做参变量或参数。

在**统计学**中，描述总体特征的概括性数字度量，它是研究者想要了解的总体的某种特征值。总体未知的指标叫做参数。

在**机器学习**领域，参数还有自己独特的含义，**由模型通过学习得到的变量，叫参数**，比如权重w和偏置b。

### 2.什么是超参数 ###

在机器学习的上下文中，超参数是**在开始学习过程之前设置值的参数**，而不是通过训练得到的参数数据。通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。

## 2、二者有什么区别 ##

### 1.得到方式不同 ###

**参数是通过模型训练得到的，超参数是人为设定得到的。**

我们要人为设定一些数据，这些数据是超参数，根据我们设定的数据和模型，得到的数据是参数。

以深度学习训练为例，训练图像数据集，我们要提前设定迭代次数，学习速率，这些数据是超参数；我们设定好以后，模型自己训练会得到权重，这个数据是参数。

### 2.影响因素不同 ###

超参数来源于人的经验，会受到硬件的制约，例如学习速率，如果电脑配置不行，那速率太快电脑带不起来，CPU和GPU处理图像时速率也有差别。

参数主要受模型的影响，不同的模型，训练得到的结果差距很大，例如YOLO是实时监测，速度快，但是准确度有所下降。R-CNN速度没有YOLO快，但是在识别准确度上要更好。那这两个模型训练得到的参数是有很大不同的。

### 3.可控程度不同 ###

超参数是人为设定，可控性高，参数与模型有关，得到的结果有时候与期望有差距，可控性较差。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NodWl5aXhpbg_size_26_color_2FFF3F_t_70]: /images/20210516/b03f7a2dd0c34aa69a7b3fe720d5458c.png

【机器学习小常识】“parameters（参数）” 与 “hyperparameters（超参数）”的概念及区别详解

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关机器学习的超参数、训练集、归纳偏好

相关【机器学习（13）】参数搜索相关概念及sklearn中代码实现

相关第七十四篇：机器学习优化方法及超参数设置综述

相关 Python3入门机器学习经典算法与应用——超参数

相关机器学习-pandas.describe()参数的意义

相关 Spark机器学习之模型选择和超参数调整

相关 idea的编译参数：”-parameters“

相关 LINUX概念与常识

相关【机器学习小常识】“parameters（参数）” 与 “hyperparameters（超参数）”的概念及区别详解

相关【机器学习小常识】“分类” 与 “回归”的概念及区别详解