信頼領域

出典: フリー百科事典『ウィキペディア(Wikipedia)』

出典: フリー百科事典『ウィキペディア(Wikipedia)』

信頼領域(しんらいりょういき、: Trust region)とは、数理最適化の文脈で用いられる用語であり、目的関数をあるモデル関数(多くの場合二次関数である)で近似することが妥当である、と仮定する部分領域のことである。信頼領域法(: Trust region methods)はRestricted step methodsとも呼ばれる。

信頼領域内で、モデル関数が目的関数の適切な近似であったと判断された場合には、信頼領域を広げ、逆に近似が悪いと判断されれば信頼領域を狭くする。 近似の適切性の判断は、信頼領域内において、モデル関数の最適値と目的関数の値を比較することによって成されるが、目的関数とモデル関数の増分比を単純に閾値比較することが一般的である。

信頼領域法は、ある意味で直線探索法と双対である。直線探索法では、まず降下方向を選択してからステップ幅を定めるのに対して、信頼領域法では、まずステップ幅(信頼領域半径)を定めてから、降下方向を選択する。

初めてこの用語を用いたのは(Sorensen 1982)であると考えられている。

[編集]

Conceptually, in the Levenberg–Marquardt algorithm, the objective function is iteratively approximated by a quadratic surface, then using a linear solve, the estimate is updated. (→概念的には、レーベンバーグ・マルカート解法英語版ドイツ語版フランス語版ポーランド語版において、目的関数が、線形求解を用いて反復推定値を更新させたその後に二次曲面で近似される。) This alone may not converge nicely if the initial guess is too far from the optimum. (→初期推測値(: initial guess)があまりにもかけ離れた最適化である場合に、これだけではうまく収束しない場合もありえる。)

For this reason, the algorithm instead restricts each step, preventing it from stepping "too far". (→この理由のために、アルゴリズムは、各段階を制限する代わりに「遠く」の段階を防げる。)

It operationalizes "too far" as follows. (→これは次のように「遠すぎる」場合の演算も可能としえる。)

Rather than solving for , it solves where is the diagonal matrix with the same diagonal as A and λ is a parameter that controls the trust-region size. (→むしろを解するを求解するよりも、それがによって求解された、 Aとλを同じ対角に持つ対角行列であり、その信頼領域サイズを制御するパラメータとなっている。) Geometrically, this adds a paraboloid centered at to the quadratic form, resulting in a smaller step. (→幾何学的には、より小さな段階によりその結果は、二次関数でを中心とする二次曲面が追加される。)

The trick is to change the trust-region size (λ). (→トリックでは、信頼領域サイズ (λ)を変更できる。) At each iteration, the damped quadratic fit predicts a certain reduction in the cost function, , which we would expect to be a smaller reduction than the true reduction. (→各反復において、減衰の二次適合は、真の縮小よりも小さく縮小することが期待されるコスト関数、あるいはにおいて一定の低減を予測できる。) Given we can evaluate

(→与えられたを評価できる。) By looking at the ratio we can adjust the trust-region size. (→比を見ることで、信頼領域サイズのを調整することができる。) In general, we expect to be a bit less than and so the ratio would be between, say, 0.25 and 0.5. (→一般的に、我々は、よりも少し小さいことが期待されるので、たとえば比率は0.25と0.5との間になる。) If the ratio is more than 0.5, then we aren't damping the step much, so expand the trust region (decrease λ), and iterate. (→比が0.5以上である場合に、多くの段階が縮小されてないので、信頼領域(decrease λ)を展開し、反復させる。) If the ratio is smaller than 0.25, then the true function is diverging "too much" from the trust-region approximation, so shrink the trust region (increase λ) and try again. (→比が0.25よりも小さい場合に、真の関数は、「あまりにも多く」て、信頼領域の近似から発散してしまうので、信頼領域(increase λ)を縮小させて、再試行する。)

参考文献[編集]

ウィキポータル 関連ポータルのリンク
  • ウィキポータル 数学
  • ウィキポータル 物理学
  • ウィキポータル コンピュータ


この記事は英語版ウィキペディアにある同じ項目の記事2015-20-09の版から翻訳された記事である。