非線形多変数方程式の数値解法
$$ \boldsymbol{f}(\boldsymbol{x}) = \boldsymbol{f}(\boldsymbol{x}_0) + \left( \dfrac{\partial{\boldsymbol{f}}}{\partial{\boldsymbol{x}}} \right) (\boldsymbol{x} - \boldsymbol{x}_0) + \cdots $$ ここで$J=\left( \dfrac{\partial{\boldsymbol{f}}}{\partial{\boldsymbol{x}}} \right)$はヤコビ行列.
簡略化して書くと $$ \boldsymbol{f}(\boldsymbol{x}) \simeq \boldsymbol{f}(\boldsymbol{x}_0) + J(\boldsymbol{x} - \boldsymbol{x}_0) $$
$\boldsymbol{f}(\boldsymbol{x}) = \boldsymbol{0}$となる$\boldsymbol{x}$を求める
(1) まず$\boldsymbol{f}(\boldsymbol{x}_0)$が十分に小さい$\boldsymbol{x}_0$を初期解として選ぶ.
(2) 近似的に $$ \boldsymbol{f}(\boldsymbol{x}) = \boldsymbol{f}(\boldsymbol{x}_i) + J(\boldsymbol{x}-\boldsymbol{x}_i) = \boldsymbol{0} $$ として,これを解いて $$ \boldsymbol{x}_{i+1} = \boldsymbol{x}_i - J^{-1}\boldsymbol{f}(\boldsymbol{x}_i) $$ とする.
(3) $\boldsymbol{f}(\boldsymbol{x}_{i+1})$が,十分に$\boldsymbol{0}$に近ければ終了. $\boldsymbol{x}_{i+1}$を解とする.
そうでなければ$\boldsymbol{x}_{i+1}$を新たな初期解として(2)を繰り返す.
ニュートン・ラフソン法は,良い初期解が与えられれば多くの場合非常に高速に解に収束する(2次収束).
しかし,初期解が適切でない場合や関数の性質が良くない場合は思ったように解に到達しない.
具体的には,
などである 1).
また当然ではあるが,$J^{-1}$が存在すること,すなわち$J$が正則である必要がある.
大抵の場合はこれらの問題点を深く考えなくてもうまく行くことが多い. しかし,これらが問題となりそれを避けなくてはならない場合には対象に対する十分な理解が必要となる.