logo

古典情報理論における結合エントロピーとは?

古典情報理論における結合エントロピーとは?

양자정보이론
[ 펼치기 · 접기 ]

定義1

二つの離散確率変数X,YX, Y結合確率質量関数ppとする。XXYY結合エントロピーjoint entropyを以下のように定義する。

H(X,Y):=i,jp(xi,yj)log2p(xi,yj) H(X, Y) := - \sum_{i,j} p(x_{i}, y_{j}) \log_{2}p(x_{i}, y_{j})

説明

エントロピーの定義が単に結合確率質量関数を用いるように変わっただけだ。


  1. Stephen M. Barnett, Quantum Information (2009), p10-11 ↩︎