3-1.情報に関する理論

(1)情報理論

★情報量の概念

ある事象が発生したとき、それがどれほど起こりにくいかを表す尺度(エントロピー)のこと


★生起確率

ある情報集合の中であるデータが発生すると予測される確率。
例:10000個のくじの中で当たりをひく確率が1%であった場合のその確率が生起確率

(2)符号理論

★通信路符号化
通信路における誤りに対応できるような別の符号に置き換えること
例:
情報源A、B
情報源符号A⇒00、B⇒01
通信路符号0⇒000、1⇒111


★ハフマン符号
情報圧縮における可逆符号(そのまま復号できる符号)
例:符号を木で表現して、ビットを振り分ける
0→1
 0→01
 ↓
  0→001
  ↓
  000

★データ圧縮

あるデータをそのデータの実質的な性質を保ったままデータ量をへらした別のデータに変換すること
例:
生データ⇒AAAAAAAAABBBBB
圧縮データ⇒A9B5




  • 最終更新:2017-08-16 21:13:41

このWIKIを編集するにはパスワード入力が必要です

認証パスワード