翻訳|redundancy
情報理論において,情報源から発生されるメッセージ(信号や文字の列)に,情報として余分な部分がどの程度含まれているかを示す量。すなわち,情報源がもつ1メッセージ当りの平均情報量,つまりエントロピーをHとし,その最大値をHmaxとするとき,
R=(Hmax-H)/Hmax
で与えられるRを平均情報量の冗長度という。情報源の各メッセージの送信確率がすべて同一の場合に,エントロピーは最大値Hmaxとなる。冗長度は,各メッセージの送信確率が同じでないことによるエントロピーの損失である。英語の文章の場合,N個のアルファベットからなるメッセージのすべてが意味のある英文ではない。また文字の発生についても種々の確率的な制約があり,EやAなどは発生確率が大であり,ZやQは発生確率が小である。いいかえれば,情報源のメッセージの各種の制約を定量化したものが冗長度といえる。冗長度があるために,逆に英文の一部が失われてもその前後から失われた部分をある程度推測することができる。また適当な方法で,この冗長な部分を取り除くともとの英文をより短い長さで表すことも可能となる。これを情報源符号化という。
→情報理論 →符号化
執筆者:宮川 洋
出典 株式会社平凡社「改訂新版 世界大百科事典」改訂新版 世界大百科事典について 情報