机器学习_梯度下降法一维函数

水深无声 2022-12-31 06:19 223阅读 0赞

一维函数使用梯度下降法的例子

import numpy as np
    import matplotlib as mpl
    import matplotlib.pyplot as plt
    
    def f1(x):
        return 0.5 * (x - 0.25) ** 2
    
    def h1(x):
        return 0.5 * 2 *(x - 0.25)
    
    if __name__ == '__main__':
        mpl.rcParams['font.family'] = 'SimHei'
        mpl.rcParams['axes.unicode_minus'] = False
        GD_X = []
        GD_Y = []
        X = 4
        alpha = 1.5
        f_cur = f1(X)
        f_last = f_cur
        f_change = 1
        GD_X.append(X)
        GD_Y.append(f_cur)
        # iter_num = 0
        while f_change > 1e-10 and iter_num < 100:
            iter_num += 1
            X = X - alpha * h1(X)
            f_cur = f1(X)
            f_change = np.abs(f_last - f_cur)
            f_last = f_cur
            GD_X.append(X)
            GD_Y.append(f_cur)
        XX = np.arange(-4, 4.5, 0.05)
        # print(list(map(lambda x: f1(x), X)))
        Y = np.array(list(map(lambda x: f1(x), XX)))
        plt.figure(facecolor='w')
        plt.plot(XX, Y, 'r-', linewidth=2)
        plt.plot(GD_X, GD_Y, 'bo--', linewidth=2)
        plt.title('$x^2$')
        plt.show()

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfd2VpeGlhb3Rhbw_size_16_color_FFFFFF_t_70]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dfd2VpeGlhb3Rhbw_size_16_color_FFFFFF_t_70]: /images/20221120/e82198d7f42e4cc6b2140e54d32d13f8.png

发表评论取消回复

表情：

评论列表（有 0 条评论，223人围观）

还没有评论，来说两句吧...

相关阅读

相关机器学习梯度下降算法

目录 1 详解梯度下降算法 1.1梯度下降的相关概念复习 1.2 梯度下降法的推导流程 2 梯度下降法大家族 2.1 全

痛定思痛。/ 2024年04月06日 12:52/ 0 赞/ 83 阅读

相关机器学习(二)梯度下降

在上一节（线性回归）中介绍，在线性回归中参数值 θ \\theta θ是不一定可以求出的，但是可以通过梯度下降的方式可求。在微积分里面，对多元函数的参数求偏导数，把求得的各

桃扇骨/ 2023年01月11日 08:58/ 0 赞/ 176 阅读

相关机器学习--梯度下降法（Gradient Descent）

目录 1.梯度 1.1.梯度的定义 1.2.梯度的数学表示 2.梯度法的分类 3.梯度下降法 3.1.概述

曾经终败给现在/ 2023年01月10日 03:50/ 0 赞/ 292 阅读

相关机器学习_梯度下降法一维函数

一维函数使用梯度下降法的例子 import numpy as np import matplotlib as mpl import matplotli

水深无声/ 2022年12月31日 06:19/ 0 赞/ 224 阅读

相关机器学习_线性回归梯度下降法求解

import numpy as np import pandas as pd import sklearn.datasets as dataset

短命女/ 2022年12月31日 05:18/ 0 赞/ 220 阅读

相关机器学习——梯度下降法

Notation： m=number of training examples n=number of features x="input" variables /

Love The Way You Lie/ 2022年10月30日 13:29/ 0 赞/ 280 阅读

相关机器学习3——梯度下降法剖析

本文依据吴恩达第2节课程，将详细分析一下线性模型中的梯度下降法原理。对课程中公式来源，推导和问题，一一给出解释。以期望对自己学习总结和对他人有些帮助。按照上一节的总结，选定

青旅半醒/ 2022年06月13日 03:16/ 0 赞/ 263 阅读

相关机器学习一（梯度下降法）

课件和视频地址 [http://cs229.stanford.edu/notes/cs229-notes1.pdf][http_cs229.stanford.edu_no

古城微笑少年丶/ 2022年06月01日 05:30/ 0 赞/ 333 阅读

相关机器学习中的梯度下降法

机器学习中的大部分问题都是优化问题，而绝大部分优化问题都可以使用梯度下降法（Gradient Descent）处理，那么搞懂什么是梯度，什么是梯度下降法就非常重要。提到梯

╰+哭是因爲堅強的太久メ/ 2022年05月27日 11:15/ 0 赞/ 252 阅读

相关机器学习算法------梯度下降法

优秀的讲解博客 [刘建平的博客][Link 1] 算法简述梯度下降通常是通过迭代的方式来搜索某个函数的极大/小值，他对目标函数每个变量求偏导得出梯度，也就是沿着

╰半橙微兮°/ 2022年05月25日 12:41/ 0 赞/ 419 阅读