差分
このページの2つのバージョン間の差分を表示します。
| 両方とも前のリビジョン 前のリビジョン 次のリビジョン | 前のリビジョン | ||
| articles:gauss_newton [2021/07/22 11:07] – [ちょっとした注意] Takashi Suehiro | articles:gauss_newton [2022/05/04 08:06] (現在) – [ニュートン・ラフソン法との比較] Takashi Suehiro | ||
|---|---|---|---|
| 行 10: | 行 10: | ||
| ガウス・ニュートン法は， | ガウス・ニュートン法は， | ||
| $\boldsymbol{f}(\boldsymbol{x}) = \boldsymbol{0}$となる$\boldsymbol{x}$を求める | $\boldsymbol{f}(\boldsymbol{x}) = \boldsymbol{0}$となる$\boldsymbol{x}$を求める | ||
| - | [[articles: | + | [[articles: |
| + | ((この部分は大局的な理解のためのかなり大雑把な説明になっている))． | ||
| 手順は以下の通り． | 手順は以下の通り． | ||
| 行 71: | 行 72: | ||
| 利用して正しく求めなくてはいけない．))． | 利用して正しく求めなくてはいけない．))． | ||
| - | 解の収束性に関してはニュートン・ラフソン法で述べた注意点が同様に当てはまる． | + | 解の収束性に関してはニュートン・ラフソン法で述べた注意点が同様に当てはまる |
| + | ((解の周りでの非線形性が大きいと局所解にも収束しない場合もある． | ||
| + | この辺はニュートン・ラフソン法以上に注意すべき点となる))． | ||
| この収束性を改善した手法としては Levenberg-Marquardt法が有名である． | この収束性を改善した手法としては Levenberg-Marquardt法が有名である． | ||
| 行 139: | 行 142: | ||
| と解くことで | と解くことで | ||
| $$ | $$ | ||
| - | \| D\boldsymbol{b} - DA\boldsymbol{x} \| | + | \| D\boldsymbol{b} - DA\boldsymbol{x} |
| $$ | $$ | ||
| を最小化することができる． | を最小化することができる． | ||
| 行 149: | 行 152: | ||
| もし | もし | ||
| $$ | $$ | ||
| - | (DA)^+ = A^+D^+ | + | (DA)^+ = A^+D^+ \tag{7} |
| $$ | $$ | ||
| ならば，とりわけ$D$の要素が$0$でなければ， | ならば，とりわけ$D$の要素が$0$でなければ， | ||
| 行 157: | 行 160: | ||
| であり，結局，式(6)は式(4)と同じになり，重みなしの場合と同じ$\boldsymbol{x}$が答えになる． | であり，結局，式(6)は式(4)と同じになり，重みなしの場合と同じ$\boldsymbol{x}$が答えになる． | ||
| + | これは，$n \ge m = r$の場合はそのとおりなのである． | ||
| + | この場合，残差を$0$とすることができるので答えは同じになる． | ||
| + | しかし，そうでない場合，$m> | ||
| + | ((これは$(DA)(A^+D^{-1})$が対称行列にならないことから分かる．擬似逆行列の他の3つの条件は満たしているのだが，，．))． | ||
| + | |||
| + | いずれにしても$(DA)^+$を改めて正しく求め式(6)を計算することで重み付き最小二乗が実現できる． | ||