文章
4
标签
2
分类
0
首页
归档
分类
标签
关于
友链
YunMo的博客
欢迎来到我的博客
返回首页
首页
归档
分类
标签
关于
友链
欢迎来到我的博客
发表于
2026-02-04
|
更新于
2026-09-27
|
浏览量:
这是第一次写博客!
文章作者:
YunMo
文章链接:
https://blog.yanyuyunmo.xyz/2026/02/04/%E6%AC%A2%E8%BF%8E%E6%9D%A5%E5%88%B0%E6%88%91%E7%9A%84%E5%8D%9A%E5%AE%A2/
版权声明:
本博客所有文章除特别声明外,均采用
CC BY-NC-SA 4.0
许可协议。转载请注明来源
YunMo的博客
!
博客
上一篇
鱼书学习Day1
说是Day1实际上学了一段时间了,不过断断续续的,由于比赛需要给自己定了DDL,这里的记录也是直接搬的飞书日志hhh,接下来冲刺吧,就以当下为Day1! 2026/2/4突击了一下梯度下降算法,高数下没学过导致看的蒙蒙的,全靠问ai在蒸啊,照着教材示例写了个通过梯度下降求多元函数极小值的程序,说是写,全是补全的,到最后的收货也就是看懂了代码思路而已……(学习真不能开ai代码补全啊,你补完了我学什么啊) 简析梯度下降: 首先说明梯度 ,其为多元函数所有偏导数的一个集合,或者说可以说是多维向量/数组。 进而,通过计算梯度预判函数变化趋势,对应变量减去对应偏导数以让整体逐渐逼近最小值 令我PTSD的是竟然还需要调节学习率,即代码中的lr(learning rate) ,是减去的偏导数要乘的倍数,可理解为每次学习的“步长” 学习率如果过大可能发散(什么超调艹) 过小的话如果学习次数还小的话可能来不及收敛就结束了,哪怕增大学习次数让它收敛,也浪费算力。 所以说要调啊艹(怎么这辈子跟调参脱不开了md) 希望有方法能够进行类似于系统辨识的方式减轻调参的牢(这种...
YunMo
随心随写。
文章
4
标签
2
分类
0
共勉
公告
This is my Blog
目录
1.
这是第一次写博客!
最新文章
鱼书学习Day3&4
2026-02-07
鱼书学习Day2
2026-02-05
鱼书学习Day1
2026-02-05
欢迎来到我的博客
2026-02-04