龙空技术网

一文帮你秒懂“梯度下降算法”

茫茫之水 216

前言:

此时大家对“梯度下降算法寻优”可能比较关注,姐妹们都想要知道一些“梯度下降算法寻优”的相关文章。那么小编也在网络上搜集了一些有关“梯度下降算法寻优””的相关资讯,希望小伙伴们能喜欢,同学们快快来学习一下吧!

梯度下降算法属于机器学习算法的一种,主要用于线性回归。千万不要被“机器学习”给吓怕了呀,其实有些算法还是很简单的。

比如今天要说的“梯度下降算法”,如果百度搜索的话,很容易被一堆复杂的公式给吓到。本文通过简单示例来帮助理解“梯度下降算法”。顺便也给自己的学习成果做下记录。

由于头条对特殊字符及数学公式支持不好,因此大部分内容会粘贴截图。

梯度下降算法引出

某一商品的销售价格会受到当地人口、收入水平的影响。假设当地人口稳定不变,收入水平持续增长。则商品销售价格表示为:

销售价格 = 当地人口 + 常数 x 收入水平

梯度下降算法示例

梯度下降的过程类似于一步步走到山底下。每走一步,算法都要判断从哪个方向下是最陡峭的,然后朝着那个方向重新校准权重,最终到达最低点。

如何判断哪个方向最陡呢?可以对该点求导数,导数代表的是该点在某方向的最大变化率。

梯度下降算法推导

梯度下降算法运行结果

标签: #梯度下降算法寻优