深度学习笔记（基础篇）——（一）机器学习与深度学习简介

柔情只为你懂 2022-04-03 03:10 296阅读 0赞

机器学习是最基础的（当下初创公司和研究实验室的热点领域之一）。深度学习是非常崭新和有影响力的前沿领域。

# 一、定义 #

## 1、机器学习 ##

从样本中学习的智能程序。是数据驱动的。90年代初提出。强调的是给计算机程序（或者机器）输入一些数据后，它学习这些数据，而这个学习的步骤是明确的，学习结果是对已有数据的分类和一个预测模型，预测模型可用于对未知数据的预测。如下图，传统编程与机器学习的区别：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzY0MTI5_size_16_color_FFFFFF_t_70][]

## 2、深度学习 ##

它是学习表示的数学框架。强调的是使用的模型（例如卷积神经网络）。模型中的参数可以从数据中学习获得。在深度学习的模型中，很流行的就是被用在大规模图像识别中的卷积神经网络（Convolutional Neural Nets，CNN），简称ConvNets。深度学习需要非常大的计算能力，大多在GPU进行计算。学习深度学习，需要一些线性代数的知识。

在人工智能领域，有一个方法叫机器学习。在机器学习这个方法里，有一类算法叫神经网络。神经网络如下图所示：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzY0MTI5_size_16_color_FFFFFF_t_70 1][]

上图中每个圆圈都是一个神经元，每条线表示神经元之间的连接。我们可以看到，上面的神经元被分成了多层，**层与层之间**的**神经元有连接**，而层内之间的神经元没有连接。最左边的层叫做**输入层**，这层负责接收输入数据；最右边的层叫**输出层**，我们可以从这层获取神经网络输出数据。输入层和输出层之间的层叫做**隐藏层**。

**隐藏层**比较多**（大于2）的神经网络**叫做**深度神经网络。**而

> *深度学习，就是**使用深层架构**（比如，深度神经网络）的**机器学习方法**。*

**        深度神经网络**在**程序**当**中**其实就**是一****堆数据的矩阵计算**，因此矩阵计算的速度也是一个优化的点。

那么深层网络和浅层网络相比有什么优势呢？简单来说深层网络能够表达力更强。事实上，一个**仅有一个隐藏层的神经网络就能拟合任何一个函数**，但是它**需要很多很多的神经元**。而深层网络用少得多的神经元就能拟合同样的函数。也就是为了拟合一个函数，要么使用一个**浅而宽**的网络，要么使用一个深而窄的网络。而后者往往**更节约资源**。

深层网络也有劣势，就是它不太容易训练。简单的说，你需要大量的数据，很多的技巧才能训练好一个深层网络。这是个手艺活。

# 二、两者的关系 #

![20181220115935265][]

**其中有监督的学习可以解决：**

有监督的那列属性来监督这类数据

*  1） 预测：预测股票涨跌，足球输赢
 *  2） 分类：二分类、图像识别

**无监督的学习：**

根据数据进行猜测，包括

*  1）聚类：根据共性分类
 *  2）推荐等

Deep learning，是机器学习里面现在比较火的一个topic，本身是神经网络算法的衍生。在图像，语音等富媒体的分类和识别上取得了非常好的效果。深度学习只是机器学习的一个子类，是机器学习一类比较火的算法，本质上还是原来的神经网络。就是用复杂、庞大的神经网络进行机器学习。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzY0MTI5_size_16_color_FFFFFF_t_70]: /images/20220403/739ae1526e7141b5841279e4402a06d6.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM3NzY0MTI5_size_16_color_FFFFFF_t_70 1]: /images/20220403/5ae4765f84e74ce89f05f57022a3bf55.png
[20181220115935265]: /images/20220403/62a32dd560fa4636bc716be725d5a7eb.png