不同曲率方向上的优化轨迹对比
f(w₁, w₂) = 0.5·w₁² + 10·w₂² | 起点 (-8.0, 4.0) → 极小值 (0.0, 0.0)
对比全部算法
3 种方法
曲率自适应对比
梯度下降 (GD)
30+ 步
剧烈之字形振荡
牛顿法
1 步
精确曲率缩放
BFGS
2 步
从梯度变化估计曲率
算法:
GD
Step:
0
坐标 (w₁, w₂):
(-8.00, 4.00)
损失 Loss:
192.0000
梯度下降 (GD, η=0.08)
牛顿法 (Newton, 1步)
BFGS (精确线搜索)
观察模式:
对比所有算法轨迹
单独查看 GD 剧烈振荡
单独查看 Newton 精确1步直达
单独查看 BFGS 两步收敛
播放收敛
重置
动画帧率 / 进度:
30 / 30