誤り率 p（0 と 1 が確率 p で反転する）の二元対称通信路の通信路容量は、C＝1－H(p)〔bit／記号〕で与えられる。ここで H(p)＝－p log2 p－(1－p) log2(1－p) である。この通信路に関する次の記述のうち、正しいものはどれか。
正解・解説を確認する
解答正解 1
二元対称通信路の容量 C＝1－H(p) は p＝0.5 に関して左右対称で、p＝0 と p＝1 のとき最大の 1、p＝0.5 のとき最小の 0 となる。p が小さい値でも H(p) は急に増える（H(0.1)≒0.47、H(0.25)≒0.81）ため、容量は 1－p よりもかなり小さい。p＝1 の通信路は「必ず反転する」ことが分かっていれば完全に情報を伝えられる、という点が見落としやすい。
選択肢ごとの判定
1正しい。H(0)＝0 より C＝1 bit／記号。誤りがないので 1 記号あたり 1 bit を完全に伝えられる。
2誤り。p＝0.5 では出力が入力と無関係になり、H(0.5)＝1 なので C＝0 である。
3誤り。p＝1 では必ず反転するだけなので、受信側で反転すれば完全に復元でき C＝1 bit／記号 である（容量は p＝0.5 に対して左右対称）。
4誤り。C＝1－p と取り違えている。H(0.25)≒0.81 なので C≒0.19 bit／記号 にすぎない。