[Information theory - Wikipedia](https://en.wikipedia.org/wiki/Information_theory)
> 情報理論は、デジタル情報の定量化、保存、伝達に関する科学的研究である[1]。この分野は、1920年代のハリー・ナイキストとラルフ・ハートリー、1940年代のクロード・シャノンによる研究によって基本的に確立した[2]:vii この分野は、確率論、統計、[[Computer Science|コンピュータサイエンス]]、統計力学、情報工学、電気工学が交差する分野である。
> 情報理論は、情報の伝達、処理、抽出、活用を研究するものである。抽象的には、情報とは不確実性の解消と考えることができる。この論文では、情報は可能なメッセージの集合であると考え、これらのメッセージをノイズの多いチャンネルに送信し、受信者がチャンネルノイズにもかかわらず、低いエラー確率でメッセージを再構成することを目標としている。シャノンの主要な結果である雑音チャネル符号化定理は、多くのチャネル使用の限界において、漸近的に達成可能な情報の割合は、メッセージが送信されるチャネルの統計にのみ依存する量であるチャネル容量に等しいことを示した[4]。
> 符号理論とは、ノイズの多いチャネルでのデータ通信の効率を高め、誤り率を低減してチャネル容量に近づけるための符号と呼ばれる明示的な方法を見つけることに関わるものである。これらの符号は、データ圧縮(ソースコーディング)技術と誤り訂正(チャネルコーディング)技術に大別される。
> 情報理論コードの第3のクラスは、暗号アルゴリズム(コードと暗号の両方)です。符号理論や情報理論の概念、方法、結果は、暗号学や暗号解読に広く利用されている。歴史的な応用例については、記事「禁止(単位)」を参照してください。
- [[誤り訂正符号]]