確率分布論

基礎

統計学を学ぶ者なら避けては通れない数理統計学、その中でも確率分布に関する内容を扱う。

基本分布

• 一様分布 $U(a,b)$
  • 一様分布の平均と分散
  • 一様分布の十分統計量と最尤推定量
• 🔒(25/06/01)ベルヌーイ分布
  • 🔒(25/06/07)ベルヌーイ分布の母関数
  • 🔒(25/06/09)ベルヌーイ分布の平均と分散
• 二項分布 $\text{Bin} (n,p)$
  • 二項分布の平均と分散
  • 二項分布の極限分布としてのポアソン分布導出
  • 二項分布の極限分布としての標準正規分布導出
  • 二項分布で近似した正規分布の分散安定化
• 幾何分布 $\text{Geo} (p)$
  • 幾何分布の二つの定義の違い
  • 幾何分布の平均と分散
  • 幾何分布の十分統計量と最尤推定量
  • 幾何分布の無記憶性
• 負の二項分布 $\text{NB} (r,p)$
  • 負の二項分布の平均と分散
• ポアソン分布 $\text{Poi} ( \lambda )$
  • ポアソン分布の平均と分散
  • ポアソン分布の十分統計量と最尤推定量
  • ポアソン分布の極限分布としての標準正規分布導出
• 指数分布 $\exp ( \lambda)$
  • 指数分布の平均と分散
  • 指数分布の十分統計量と最尤推定量
  • 指数分布の無記憶性
  • 指数分布とポアソン分布の関係
• 🔒(25/05/16)ラプラス分布 $\operatorname{Laplace}(\mu, b)$
• 🔒(25/05/20)ラプラス分布のモーメント母関数
• 🔒(25/05/18)ラプラス分布の平均と分散
• 🔒(25/05/22)ラプラス分布の最尤推定量
• 正規分布 $N \left( \mu,\sigma^{2} \right)$
  • 正規分布の平均と分散
  • 正規分布の十分統計量と最尤推定量
  • 標準正規分布の二乗は自由度1のカイ二乗分布に従う
  • 正規分布のエントロピー
  • 平均がゼロの正規分布に従う確率変数のべき乗の期待値

サンプリング分布

• ガンマ分布 $\Gamma (k,\theta)$
  • ガンマ分布の平均と分散
  • ガンマ分布の十分統計量
  • ガンマ分布とポアソン分布の関係
  • ガンマ分布と指数分布の関係
  • ガンマ分布とカイ二乗分布の関係
• ベータ分布 $\text{Beta} (\alpha,\beta)$
  • ベータ分布の平均と分散
  • ベータ分布の十分統計量
  • 独立な二つのガンマ分布からベータ分布導出
  • F分布からベータ分布導出
• カイ二乗分布 $\chi^{2}(r)$
  • カイ二乗分布の平均と分散
  • カイ二乗分布の十分統計量
• F分布 $F \left( r_{1} , r_{2} \right)$
  • F分布の平均と分散
  • 独立な二つのカイ二乗分布からF分布導出
  • t分布からF分布導出
• t分布 $t \left( \nu \right)$
  • t分布の平均と分散
  • t分布の極限分布としての標準正規分布導出
  • 独立な正規分布とカイ二乗分布からスチューデントt分布導出
• コーシー分布: 平均が存在しない分布 $C$

上級

実際の形式科学の世界では確率分布論は統計学の枠を超えて数え切れないほど多くの場所で応用されるが、それについて教科書と呼べるほどよく整理された文献は見つけにくい。各分布と関連する論文を探して別々に勉強するのが現実だが、これからは生しらす寿司店でよく整理する。

特殊分布

• パレート分布
• ログ正規分布
• 歪正規分布
• ワイブル分布
  • レイリー分布
• 非心カイ二乗分布
• 非心F分布

多変量分布

• 🔒(25/06/05)カテゴリ分布 $\operatorname{Cat}(\mathbf{x}, \mathbf{p})$
• 多項分布 $M_{k} \left( n, \mathbf{p} \right)$
  • 多項分布の共分散行列導出
  • ピアソンの定理証明
• 多変量正規分布 $N_{p} \left( \mu , \Sigma \right)$
  • 多変量正規分布の線形変換
  • 多変量正規分布で独立とゼロ相関は同値
  • 多変量正規分布の条件付き平均と分散
  • 回帰係数ベクトルの多変量正規性証明
• 多変量t分布 $t_{p} \left(\nu; \mu , \Sigma \right)$

方向分布

• 変形ベッセル関数第一種 $I_{\nu}$ が方向統計学に登場する理由
• フォンミーゼス分布 $\text{vM} \left( \mu , \kappa \right)$
• 二変量フォンミーゼス分布 $\text{vM}^{2} \left( \mu , \nu , \kappa_{1} , \kappa_{2} \right)$
• フォンミーゼス・フィッシャー分布 $\text{vMF}_{p} \left( \mu , \kappa \right)$
• ビンガム・マルディア分布
• ケント分布

主要参考文献

• Casella. (2001). Statistical Inference(2nd Edition)
• Hogg et al. (2013). Introduction to Mathematical Statistcs(7th Edition)