logo

홈

홈

  • 첫논문 리뷰
  • 둘째논문 리뷰
  • 셋째논문 리뷰
  • 쿠프만 오퍼레이터
  • 동적 모드 분해
  • 셀룰러 오토마타
    • 폰 노이만 네이버후드
    • 무어 네이버후드
  • 하이퍼카오스
  • CUR 분해
  • Nonnegative matrix factorization
  • Van der Pol oscillator

  • 퍼뮤테이션 엔트로피:

시계열의 복잡도를 측정하는 지표: 퍼뮤테이션 엔트로피

정의 1

시계열 $\left\{ y_{t} \right\}_{t=1}^{T}$ 이 주어져 있다고 하자. 윈도우window 크기 $n$ 개의 연속된 시점으로 묶인 벡터 $\left( y_{t+1}, \cdots , y_{t+n} \right)$ 를 고려하려 하고, 이러한 벡터는 총 $T - n + 1$ 개 있을 것이다. 벡터의 성분을 크기 순서대로 $1$ 부터 $n$ 까지의 정수를 부여한 랭킹ranking의 벡터 $\pi$ 는 순열로 계산했을 때 정확히 $n!$ 종류가 존재할 것이다. $p (\pi)$ 는 다음과 같이 벡터가 $\pi$ 유형에 속하는 비율로 정의된다. $$ p (\pi) := \frac{ \left| \left\{ t : \left( y_{t+1}, \cdots , y_{t+n} \right) \text{ is of type } \pi \right\} \right| }{T - n + 1} $$ 여기서 $\left| \cdot \right|$ 는 집합의 기수다. $n$ 에 대해 퍼뮤테이션 엔트로피permutation entropy $H(n)$ 은 다음과 같이 정의된다. $$ H (n) := - \sum_{\pi} p (\pi) \log p (\pi) $$

설명

사실 정의에서 $\pi$ 가 뭔지만 잘 파악이 되면 엔트로피의 정의 자체는 샤넌 엔트로피와 동일하기 때문에 전혀 어렵지 않다. 퍼뮤테이션 엔트로피는 시계열이 가장 단순한 경우, 이를테면 증가하기만 하거나 감소하기만 할 때 $0$ 이 되고 무작위성이 강한 카오스나 브라운 모션 등에서는 큰 값을 취할 것이다.


  1. Bandt, C., & Pompe, B. (2002). Permutation entropy: a natural complexity measure for time series. Physical review letters, 88(17), 174102. https://doi.org/10.1103/PhysRevLett.88.174102 http://materias.df.uba.ar/dnla2019c1/files/2019/03/permutation_entropy.pdf ↩︎