Science

ヘッセ行列による多変数関数の極値判定

ヘッセ行列による多変数関数の極値判定

  

Yuma
Yuma
多変数関数の極値判定について解説していきます。

多変数関数の極値問題は、通常の1変数関数と異なり増減表では、極値の判定をすることができません。

この記事では、多変数関数の極値を判定する行列である『ヘッセ行列』を導入して、極値かどうかを判定する方法を紹介します。

また、本当にヘッセ行列で極値判定ができているかどうかを3次元グラフで確認します!

記事を読み終わると、多変数関数の極値を簡単に判定できるようになります。

多変数関数の極値の候補の見つけ方

 

多変数関数の極値の候補の見つけ方は、通常の1変数関数の極値の候補の見つけ方に似ています。

具体的には、

各変数の全微分が、0となる値が極値の候補となる

以下、簡単な2変数関数を用いて極値の候補を求めていきます

2変数以上の多変数関数への拡張は簡単にできるので
この記事では、2変数関数を用いて説明していきます!!

 

各変数の偏微分を計算する

 

2変数関数の場合\( f(x_{1}, x_{2}) \)のとき各変数の偏微分は、

$$ \frac{\partial f }{\partial x_{1} }~~,~~\frac{\partial f }{\partial x_{2}} $$

となります。

各変数の偏微分が0となる条件を求める

 

次に、各変数の偏微分が0となる条件を求めます。

具体的には、

$$ \frac{\partial f }{\partial x_{1} } = 0~~,~~\frac{\partial f }{\partial x_{2}} = 0 $$

この条件を満たす、\(x_{1}\)と\(x_{2}\)を求めます。

変数の数だけ式があるので、方程式は必ず解くことができます。

ここでは、方程式を解いて得られた解 \(\bar{x_{1}}\)と\( \bar{x_{2}} \)を
以下のようにまとめて書くことにします

$$ \mathbf{x} = ( \bar{x}_{1}, \bar{x}_{1}) $$

複雑な連立方程式は、行列を使って解くことをオススメします。

 

ヘッセ行列を用いて極値を判定する

 

最初に述べたように、多変数関数の極値問題は、増減表では判定不可能です。

なので、極値を判定するためにヘッセ行列という行列を導入します。

ヘッセ行列とは

 

ここでも簡単のため2変数関数を使って説明します。

ヘッセ行列は以下のように定義されます。

$$ H = \left( \begin{array}{cc} \frac{ \partial^{2} f(\mathbf{x}) }{ \partial x_{1}^{2}} & \frac{ \partial^{2} f(\mathbf{x}) }{ \partial x_{1} \partial x_{2}} \\ \frac{ \partial^{2} f(\mathbf{x}) }{ \partial x_{2} \partial x_{1} } & \frac{ \partial^{2} f(\mathbf{x}) }{ \partial x_{2}^{2}} \end{array} \right) $$

一見複雑そうに見えますが、二階微分を計算して、極値の候補となる \(\mathbf{x}\)を代入するだけです。 

また、極値の判定のためにヘッセ行列の固有値を以下のように書きます

$$ \mathbf{\lambda} = ( \lambda_{1}, \lambda_{2} ) $$

極値の判定

 

ここまできたら簡単で極値の判定方法は、

  • 全てのヘッセ行列の固有値が正ならば、どの方向にも下に凸となり、極値の候補は極小値となる
  • 全てのヘッセ行列の固有値が負ならば、どの方向にも上に凸となり、極値の候補は極大値をなる
  • ヘッセ行列の固有値が、正と負のもので混ざっている時、ある方向には上に凸、別の方向は下に凸となり、極値の候補は極値にならない

 

もし、固有値が0が現れてしまう時は、さらに、3階微分を考える必要が出てきます

専門的には、

  • 全ての固有値が正の行列 → 正定値行列
  • 全ての固有値が負の行列 → 負定値行列

と言います。

教科書には、当たり前のように書いてあることもあるので覚えておくと良いです。

多変数関数の具体的な極値問題を解いてみる

具体的な多変数関数の極値問題を解いてみます。

具体例として以下の関数を考えます。

$$ f(x, y) = x y + \frac{8}{x} + \frac{8}{y} $$

極値の候補を見つける

 

まず、各変数の偏微分を求めて極値の候補を求めます。

具体的に計算すると

$$ \frac{\partial f}{ \partial y } = x~ – \frac{8}{y^{2}} = 0 $$

$$ \frac{\partial f}{ \partial x } = y~ – \frac{8}{x^{2}} = 0$$

この方程式を解くと、以下の解が得られます

$$ ( \bar{x} , \bar{y} ) = (2, 2) $$

ヘッセ行列を求める

 

ヘッセ行列を求めるために、
二階微分を計算していきます。

二階微分の結果は以下のようになります

$$ \frac{\partial^{2} f }{\partial x^{2}} = \frac{16}{x^{3}} $$

$$ \frac{\partial^{2} f }{\partial x \partial y } = 1 $$

$$ \frac{\partial^{2} f }{\partial y^{2}} = \frac{16}{y^{3}} $$

次に極値の候補を計算して代入するとヘッセ行列は以下のようになります

$$ H = \left( \begin{array}{cc} 2 & 1 \\ 1 & 2 \end{array} \right) $$

極値の判定

 

上で求めたヘッセ行列の固有値を計算すると

固有値は、

$$ ( \lambda_{1}, \lambda_{2} ) = (1, 3) $$

となります。

ヘッセ行列の全ての固有値が正なので、極値の候補である \( (2, 2) \)は、極小値となります。

まとめると、\( (2, 2) \)のとき極小値 \( f(2, 2) = 12 \)となります。

実際にグラフを書いてみた

 

ヘッセ行列で極値が求められているか確認するために
実際にグラフを書いてみました。

グラフから、\( (2, 2) \)の時に極小値になっていることがわかります

ヘッセ行列は、確かに極値判定に使えることがわかりましたね

物理的な応用

 

物理的な応用で、私がまず思い浮かぶ問題は、

熱力学の安定性条件を求める時です。

ヘッセ行列を使うことで
熱平衡状態時の、不等式の条件式を導出することができます!

熱力学不等式と呼ばれています。

まとめ

 

多変数関数の極値を判定するためには、ヘッセ行列が有効です

具体的に多変数関数の極値を求める手順は、

  • 極値をなる候補を一階微分から求める
  • ヘッセ行列を求める
  • ヘッセ行列の固有値を求めて極値判定

まとめてみると意外と簡単ですね

皆さんも、手を動かして練習問題をたくさん時ヘッセ行列を使えるようになりましょう。

 

ABOUT ME
努力のガリレオ
【運営者】 : 東大で理論物理を研究中(経歴)東京大学, TOEIC950点, NASA留学, カナダ滞在経験有り, 最優秀塾講師賞, オンライン英会話講師試験合格, ブログと独自コンテンツで収益6桁達成 【編集者】: イングリッシュアドバイザーとして勤務中(経歴)中学校教諭一種免許取得[英語],カナダ留学経験あり, TOEIC650点
【必見】オンライン英会話を利用しないのは時代遅れ?

 

 

英語学習でオンライン英会話を利用しないのは、時代遅れです…

 

『スピーキングができないから、オンライン英会話はまだまだ後回し…』と思っている方は大間違いです。

 

最近のオンライン英会話は、教材が豊富で、もはや参考書・問題集は不要になりつつあります…

また、多くのオンライン英会話が最新メソッドを導入して、スピーキングのみならず、リーディング・リスニング・ライティングの能力も上がる教材を導入しています。

さらに、効率的な記憶ツールや学習カウンセリングのサービスが提供されることもあります!!

 

特に初心者の方は、下記の記事で紹介しているオンライン英会話をチェックしてみてください。

 

【東大生が厳選】初心者にオススメなオンライン英会話10選実は、最適なオンライン英会話はユーザーによって異なります。本記事では、複数のオンライン英会話を経験した私が、他社と比較しつつ特徴を明確にして本当にオススメできるオンライン英会話を10個厳選しました。...

 

中には、2週間の無料体験期間を提供しているオンライン英会話もあります。

英語学習が滞っている方や英語学習を習慣化できていない方は無料体験期間で良いので挑戦してみてください。

何事も行動することが大切です。

 

また、多くのオンライン英会話がTOEICやTOEFL等の外部英語試験の対策レッスンを提供してきています。

中には、追加料金なしで、本番さながらの対策や面接対策を行うことができるオンライン英会話もあります。

 

特にTOEIC対策に強いオンライン英会話は下記を参考にしてください。

 

【徹底比較】TOEIC対策に強いオンライン英会話5選|東大生が厳選!オンライン英会話はTOEICのスコアを効率的に上げる最強のツールです。本記事では、TOEICにオンライン英会話が効果的な理由とTOEIC対策に強いオンライン英会話を厳選しました。詳しい内容は記事を参考にしてください。...

 

TOEFL対策に強いオンライン英会話に関しては下記を参考にしてください。

 

【徹底比較】TOEFL対策に強いオンライン英会話5選|東大生が厳選!TOEFL対策にオンライン英会話は有効です。事実、私もTOEFL対策のためにオンライン英会話を使用してTOEFL ibtの4技能、TOEFL itpのスコアを爆上げすることができました。この記事では、私が思うTOEFL対策に最適なオンライン英会話を紹介しました。...