練習問題
1.A,B,C,D,Eの通報がそれぞれ1件、1件、2件、4件、8件の割合で発生する。
 (1)A,B,C,D,Eの個々の通報の情報量と個々の通報のエントロピー量、
  さらにA,B,C,D,Eの通報全体のエントロピーと最大エントロピーを求めよ。
 (2)この通報をすべての通報が同じ符号長を持つ単純な符号化をした場合の
  符号と効率を求めよ。
 (3)この通報をシャノンの符号化をした場合の符号と効率を求めよ。
 (4)この通報をハフマン符号化をした場合のそれぞれの通報の符号と効率を求めよ。
2.2進符号 00010 とのハミングの距離が1となる符号をすべて書き出せ。
3.n桁の2進符号X,Yのそれぞれの要素をxi,yiとするとき
  ハミングの距離d(X,Y)を計算する式を示せ。
4.4ビットのデータを対象とするハミング符号について、
 4.1 検査ビットc1,c2,c3の計算方法を示せ。
 4.2 1011を符号化した場合のビット列を示せ。
 4.3 いま0010010が受信されたとき、このビット列が正しいかを確かめ、
   誤りのある場合はただしいビット列を求めよ。
5.符号00010001、00011100、01011100、11101100 に対して偶数パリティに
  なるようにパリティビットを付けたパリティ符号を計算せよ