各种牛顿法、拟牛顿法

您所在的位置：网站首页 › 拟牛顿法与牛顿法区别与联系图片 › 各种牛顿法、拟牛顿法

各种牛顿法、拟牛顿法

2024-07-14 05:52| 来源: 网络整理| 查看: 265

一，牛顿法：求零点

1，牛顿法（切线法）

2，牛顿法的局限性

3，牛顿下山法

4，割线法

5，抛物线法

二，牛顿法：最优化

1，经典牛顿法

2，修正牛顿法

3，非精确牛顿法

三，拟牛顿算法

1，割线方程

2，曲率条件

3，拟牛顿算法

4，秩一更新

5，秩二更新（BFGS）

6，L-BFGS算法

7，L-BFGS-B

一，牛顿法：求零点 1，牛顿法（切线法）

牛顿法，也叫牛顿迭代法、切线法，是一种迭代求解函数零点的方法。

原理：

$f(x)=f(x_0)+f'(x_0)(x-x_0)+o(x-x_0)^2$

令f(x)=0则 $x=x_0 + \frac{o(x-x_0)^2-f(x_0)}{f'(x_0)}$

取 $x_1=x_0 - \frac{f(x_0)}{f'(x_0)}$ ，在一定的范围（x的足够小的邻域）内，x1比x0更接近所求的零点x

根据这个原理，不断的迭代，即可越来越接近x值。

double f(double x) { return x * x + x * 5 - 8; } double df(double x) { double eps = 0.001; return (f(x + eps) - f(x)) / eps; } double newton(double x) { double eps = 0.000001; int times = 100; while (times--) { double x2 = x - f(x) / df(x); cout

【本文地址】

各种牛顿法、拟牛顿法

各种牛顿法、拟牛顿法

今日新闻

推荐新闻