就爱你小说

手机浏览器扫描二维码访问

第914章 梯度下降（第4页）

?自适应方法会自动调整步长，让学习更快更稳。

3正则化和噪声

?有时反而要给“山谷”里加点小石头，让球不会死死卡住。

?这对应于drput、l2正则化等手段，避免模型过拟合。

所以，你可以把现代的梯度下降想象成：一个球在复杂山谷里滚动，背后有风（动量）、有指南针会调节步子（自适应），还时不时给它推一把（噪声），最终让它更可能滚到一个“够好的位置”。

?

三、类比人类学习过程

把这个思想投射到人类的认知：

1负梯度=纠错学习

?错误最大的地方，才是你最该调整的地方。

?就像小孩学语言，第一次说“狗”叫“猫”，大人会立刻纠正，因为这是最明显的错误。

2学习率=学习节奏

?太快→死记硬背，反而掌握不牢。

?太慢→学习效率极低。

?最优的学习，就是“不断挑战刚好够难的内容”。

3动量=习惯的力量

?学习不是孤立的，而是带着惯性。

?一旦形成良好习惯，就像滚珠带着动量，更容易跨过小障碍。

小主，这个章节后面还有哦，请点击下一页继续阅读，后面更精彩！

4噪声与探索

?如果你的人生完全按固定轨迹走，很可能困在“局部最优”。

?而偶然的失败、随机的经历，反而帮你找到更好的方向。

?

四、哲学层面：梯度下降的隐喻

1局部最优与人生选择

?有的人一生都停留在“局部最优”，以为那就是全部的真理。

?而敢于探索、接受不确定性的人，往往能找到“更低的谷底”。

2知识的概率性

?正如你说的，“猫就是猫的概率比较大”，人类所有的知识其实都是概率性的。

?科学并不是绝对真理，而是“在当前数据和假设下，最合理的解释”。

3收敛与未完成

?梯度下降从不真正“到达”最低点，只是无限接近。

?人类的学习和理解也一样：永远没有终点，只有不断逼近更合理的世界观。

4随机性的意义

?完全理性和确定性的过程，往往会停滞。

?真正推动进步的，往往是“意外”“错误”“偶然的发现”。

?这就像gd的抖动，帮我们跳出小陷阱。

?

盗墓：无故失忆后我直接发癫  崩坏：从西琳开始捕获小小律者  玉孤  穿越兽世，日日扶腰求放过  黑芒科技之途  神谕之十二生肖  穿越之异世奇遇迹  重生后被亿万富豪逼婚，渣男傻眼  开局校花太太向我道歉，东京末日  吞天仙根  银镜通古今，侯府真千金带崽开挂了！  尸之仙  女将带球跑后，死对头一夜哭白头  我是赵梦凡  重回1978都市放牛  开局表白女神，一剑震撼万族  迷雾中的真相：侦探手记  海贼：洛克斯时代第一剑豪！  夺我灵根骂我狠？先天绝情圣体已成！  叶尘：重生在赘婿逆袭之路