고전정보이론에서 결합 엔트로피란?
| 양자정보이론 | ||||||||||||||||
[ 펼치기 · 접기 ]
| ||||||||||||||||
정의1
두 이산확률변수 $X, Y$의 결합 확률질량함수 $p$라고 하자. $X$와 $Y$의 결합 엔트로피joint entropy를 다음과 같이 정의한다.
$$ H(X, Y) := - \sum_{i,j} p(x_{i}, y_{j}) \log_{2}p(x_{i}, y_{j}) $$
설명
엔트로피의 정의에서 확률질량함수가 단순히 결합 확률질량함수로 바뀐 것이다.
Stephen M. Barnett, Quantum Information (2009), p10-11 ↩︎