情報の表現と理論

要点と定義

コンピュータでは情報をビットで表します。1ビットは0または1の2通りを表し、nビットで表せる組合せは2ⁿ通りです。必要な種類数以上になる最小のnを選びます。

2進数の各桁は、右から1、2、4、8、16……の重みを持ちます。1011₂は8＋2＋1＝11、101₂は4＋1＝5なので、積は55です。55＝32＋16＋4＋2＋1より、2進数では110111₂です。

2進数の加算では各桁を足し、合計が2以上なら繰り上げます。たとえば01011010₂＝90、01101011₂＝107なので、和は197、2進数では11000101₂です。正の8ビットで表せる範囲は0～255なので、この和は収まります。

接頭語は大きさを簡潔に表します。10⁻⁹はナノ（n）、10⁹はギガ（G）です。 1バイトは8ビットです。転送時間は、単位をそろえたデータ量を実効速度で割って求めます。たとえば5 Mバイトは40 Mビット、100 Mビット/秒の20％は20 Mビット/秒なので、40÷20＝2秒です。

アナログデータは長さや電圧のような連続する物理量で表し、デジタルデータは離散的な数値で表します。CDはデジタルデータを格納する媒体の例です。デジタル化では、標本化・量子化・符号化が連続量を数値で表す過程に関わります。

コードは用途や形式によって表せる情報が異なります。QRコードは縦横二次元のパターンに情報を記録します。JANコードと比べると、QRコードの方が最大データ量は大きいとされます。

AIの処理は入力と目的に応じて組み合わされます。音声で受けた質問の内容を理解して回答するには、音声認識に加えて自然言語処理が必要です。

教師あり学習では、入力と正解の組を学習データとして与え、入力から正解を推測する対応関係を学びます。泣き声と原因の組から、声に対応する原因を推測するのがその例です。

ニューラルネットワークの活性化関数は、ニューロンに入力された値を基に出力値を計算し、次のニューロンへ渡します。

適用条件と例

ビット数の問題では、表したい種類数以上になる最小のnを探します。2ⁿ≧種類数を満たす最小のnが必要ビット数です。2進数の変換では、各桁の重みを足すか、10進数を2のべき乗の和に分解します。たとえば155＝128＋16＋8＋2＋1なので、8ビット表現は10011011₂です。

通信時間の計算では、単位をそろえる必要があります。速度がビット/秒で示されているなら、バイト単位のデータ量を8倍してビットに直します。また、実効速度が回線速度の一部と指定されている場合は、その割合を先に掛けます。

アナログとデジタルは、データの表現方法で区別します。連続値を扱う表現がアナログ、離散した数値で扱う表現がデジタルです。標本化・量子化・符号化は、連続量をデジタル表現に変える過程に関わります。

AIの利用例は処理の流れで見分けます。音を検知するだけの場合と、発話内容を認識して意味を扱う場合は異なります。教師あり学習かどうかは、入力だけでなく対応する正解データが与えられているかで判断します。

誤りやすい点

必要ビット数は、種類数を2で割るのではなく、2ⁿが種類数以上になる最小のnで考えます。26種類なら4ビットは16通りで不足し、5ビットは32通りです。