ジップの法則
法則
コーパスにおいて$k$番目に頻繁に現れる単語の相対頻度を$f_{k}$とすると $$ f_{k} = {{C} \over {k}} $$
説明
ここで$C$は$\displaystyle \sum_{k} f_{k} = 1$となるようにする正規化係数である。ヒストグラムで表すとおおよそ上のような形になるが、面積の合計が正確に$1$になるようにスケールを調整したものである。
右側にできる太い尾の形をロングテールと呼ぶ。ヒープスの法則と同様に経験的に得られた法則であるが、よく当てはまるだけでなく非常に簡潔であるという長所がある。
一方、両辺に対数をとってみると$\log f_{k} = \log C - \log k$となり線形関係を持つように見える。しかし理論とは異なり実際には頻繁に登場しない単語に対してはうまく成り立たないこともあるので注意しなければならない。