Science

積率母関数・特性関数とは【確率分布の統計量を楽に計算しましょう】

特性関数・生成関数とは【確率分布の統計量を楽に計算しましょう】

 

実は、確率分布から直接m次モーメントなどを計算するのが困難なときが結構あります。今回は、これらの計算をより簡単にできる特性関数・生成関数を説明していきます。

この記事では、容易にm次モーメントを計算する道具である『生成関数・特性関数』を具体的に数式を使いながら解説していきます。

m次モーメント?』という人は下記の記事(10分程度で読み終わる)を参考にして理解してから読み進めてください

*(iphone・Androidの方へ)数式はスクロール可能です。

https://dreamer-uma.com/fundamental-quantity-of-probabilitu-distribution/

 

積率母関数(モーメント生成関数)と特性関数について

 

まずは、積率母関数(モーメント生成関数)と特性関数の定義と基本的な性質を紹介します。

 

積率母関数(モーメント生成関数)の定義

 

積率母関数(モーメント生成関数)は、以下のように定義されます。

定義 : 積率母関数(モーメント生成関数)

任意の\(t \in \mathbb{R} \)に対して

$$M_{X}(t) = \mathbb{E}\left[e^{t X}  \right]$$

が存在するとき、\(M_{X}(t)\)を\(X\)の積率母関数(モーメント生成関数)という。

 

なぜ、積率母関数(モーメント生成関数)と呼ばれているかというと、積率母関数を\(t\)に関して微分することにより任意のモーメントを計算することができるからです。

$$\mathbb{E}\left[ X^{k} \right] = \left. \frac{d^{k}}{dt^{k}} M_{X}(t) \right|_{x=0}$$

 

また、定義から\(M_{X}(-t)\)は、以下のような確率密度関数\(f_{X}(t)\)の両側ラプラス変換に対応します。

 

$$M_{X}(t) = \int_{-\infty}^{\infty} e^{-tx} f_{X}(x) dx$$

 

積分が収束しない場合、モーメントと積率母関数が存在しない可能性があります。

 

特性関数の定義

 

特性関数は以下のように定義されます。

定義 : 特性関数

任意の\(t \in \mathbb{R} \)に対して

$$\varphi_{X}(t) = \mathbb{E}\left[e^{itX} \right] $$

を特性関数という。

 

特性関数も\(t\)に関して微分することで任意のモーメントを計算することができます。

$$\mathbb{E}[X^{k}] = \frac{1}{i^{k}} \left. \frac{d^{k}}{dt^{k}} \varphi_{X}(t) \right|_{x=0}$$

 

さらに、\(|e^{ai}| =1 \)より、\(|\varphi_{X}(t)| \le 1 \)となるため特性関数は常に存在します。

 

同様に、特性関数も以下のように、確率密度関数のフーリエ変換に対応します。

 

$$\varphi_{X}(t) = \int_{- \infty}^{\infty} e^{itx} f_{X}(x) dx$$

 

特性関数の性質

 

証明は省略しますが、特性関数に関する便利な性質を紹介します。

\(\varphi_{X}(t)\)が確率密度関数のフーリエ変換となることを思い出せば、フーリエ逆返還を利用すれば特性関数から確率密度関数を導くことができます。

定理 : 

\(X\)が連続型確率変数かつ\(\int_{-\infty}^{\infty} |\varphi_{X}(t)|dt < \infty\)のとき以下が成り立つ。

$$f_{X}(x) = \frac{1}{2 \pi} \int_{-\infty}^{\infty} e^{-itx} \varphi_{X}(t) dt$$

 

さらに、以下の定理が成り立ちます。

定理

特性関数と累積分布関数は一対一対応する。

 

そのため、確率変数のふるまいを決定するのに特性関数を用いることができます。

 

また、連続性定理と呼ばれる以下のような性質が成り立ちます。

定理 : 連続性定理

確率変数列\(\{X_{k}\}_{k=1, \ldots}\)に対して、\(X_{k}\)の特性関数\(\varphi_{X_{k}}(t)\)が以下のように\(\varphi_{X}(t)\)に収束することを仮定する。

$$\lim_{k \to \infty} \varphi_{X_{k}}(t) = \varphi_{X}(t)$$

ここで、\(\varphi_{X}(t)\)に対応する累積分布関数を\(F_{X}(x)\)とすると、任意の\(x \in \mathbb{R}\)で以下が成り立つ。

$$\lim_{k \to \infty} F_{X_{k}}(x) = F_{X}(x) $$

 

この定理から、\(k \to \infty\)のとき、\(X_{k}\)の分布は\(X_{k}\)の特性関数の極限に対応する累積分布関数に収束することがわかります。

 

積率母関数と特性関数の関係

 

特性関数と積率母関数は、以下のような関係で結びついています。

$$\varphi_{X}(t) = M_{X}(it)$$

 

 

 

ABOUT ME
努力のガリレオ
【運営者】 : 東大で理論物理を研究中(経歴)東京大学, TOEIC950点, NASA留学, カナダ滞在経験有り, 最優秀塾講師賞, オンライン英会話講師試験合格, ブログと独自コンテンツで収益6桁達成 【編集者】: イングリッシュアドバイザーとして勤務中(経歴)中学校教諭一種免許取得[英語],カナダ留学経験あり, TOEIC650点
【大学生・大学院生限定】Amazon Prime Studentが圧倒的におすすめ

 

『Amazon Prime Student』は、大学生・大学院生限定のAmazon会員制度です。

Amazonを使用している方なら、必ず登録すべきサービスといっても過言ではありません…

主な理由は以下の通りです。

  1. Amazon Prime』のサービスを年会費半額で利用可能
  2. 本が最大10%割引
  3. 文房具が最大20%割引
  4. 日用品が最大15%割引
  5. お急ぎ便・お届け日時指定便が使い放題
  6. 6ヶ月間無料で使用可能

 

特に専門書や問題集をたくさん買う予定の方にとって、購入価格のポイント10%還元はめちゃめちゃでかいです!

少なくとも私は、Amazon Prime Studentを大学3年生のときに知って、めちゃめちゃ後悔しました。

専門書をすでに100冊以上買っていたので、その10%が還元できたことを考えると泣きそうでした…ww

より詳しい内容と登録方法については下記を参考にしてください。

 

Prime Studentの特典・登録方法【学生限定最強特典!】Prime Studentの特典・登録方法【学生限定最強特典!】 学生にとって超おすすめな『Prime Student』のメリット...

 

 

登録も退会もめちゃめちゃ簡単なので、6ヶ月の無料体験期間だけは経験してみても損はないと思います。