情報理論と符号

ショートカット: 違い、類似点、ジャカード類似性係数、参考文献。

情報理論と符号の違い

情報理論 vs. 符号

情報理論（じょうほうりろん、Information theory）は、情報・通信を数学的に論じる学問である。応用数学の中でもデータの定量化に関する分野であり、可能な限り多くのデータを媒体に格納したり通信路で送ったりすることを目的としている。情報エントロピーとして知られるデータの尺度は、データの格納や通信に必要とされる平均ビット数で表現される。例えば、日々の天気が3ビットのエントロピーで表されるなら、十分な日数の観測を経て、日々の天気を表現するには「平均で」約3ビット/日（各ビットの値は 0 か 1）と言うことができる。 情報理論の基本的な応用としては、ZIP形式（可逆圧縮）、MP3（非可逆圧縮）、DSL（伝送路符号化）などがある。この分野は、数学、統計学、計算機科学、物理学、神経科学、電子工学などの交差する学際領域でもある。その影響は、ボイジャー計画の深宇宙探査の成功、CDの発明、携帯電話の実現、インターネットの開発、言語学や人間の知覚の研究、ブラックホールの理解など様々な事象に及んでいる。. モールス符号 符号理論において、符号（ふごう）またはコード（code）とは、シンボルの集合S, Xがあるとき、Sに含まれるシンボルのあらゆる系列から、Xに含まれるシンボルの系列への写像のことである。Sを情報源アルファベット、Xを符号アルファベットという。すなわち符号とは、情報の断片（例えば、文字、語、句、ジェスチャーなど）を別の形態や表現へ（ある記号から別の記号へ）変換する規則であり、変換先は必ずしも同種のものとは限らない。 コミュニケーションや情報処理において符号化（エンコード）とは、情報源の情報を伝達のためのシンボル列に変換する処理である。復号（デコード）はその逆処理であり、符号化されたシンボル列を受信者が理解可能な情報に変換して戻してやることを指す。 符号化が行われるのは、通常の読み書きや会話などの言語によるコミュニケーションが不可能な場面でコミュニケーションを可能にするためである。例えば、手旗信号や腕木通信の符号も個々の文字や数字を表していることが多い。遠隔にいる人がその手旗や腕木を見て、本来の言葉などに戻して解釈することになる。.

チェス

チェスの駒 チェス（chess、شطرنج šaṭranj シャトランジ）は、2人で行うボードゲーム、マインドスポーツの一種である。先手・後手それぞれ6種類16個の駒を使って、敵のキングを追いつめるゲームである。その文化的背景などから、チェスプレイヤーの間では、チェスはゲームであると同時に「スポーツ」でも「芸術」でも「科学」でもあるとされ、ゲームに勝つためにはこれらのセンスを総合する能力が必要であると言われている。.

チェスと情報理論 · チェスと符号 · 続きを見る »

データ

データ（data）とは、事実や資料をさす言葉。言語的には複数形であるため、厳密には複数の事象や数値の集まりのことを指し、単数形は datum（データム）である。.

データと情報理論 · データと符号 · 続きを見る »

データ圧縮

データ圧縮（データあっしゅく）とは、あるデータをそのデータの実質的な性質（専門用語では「情報量」）を保ったまま、データ量を減らした別のデータに変換すること。高効率符号化ともいう-->。アナログ技術を用いた通信技術においては通信路の帯域幅を削減する効果を得るための圧縮ということで帯域圧縮ともいわれた。デジタル技術では、情報を元の表現よりも少ないビット数で符号化することを意味する。 データ圧縮には大きく分けて可逆圧縮と非可逆圧縮がある。というより正確には非可逆圧縮はデータ圧縮ではない。可逆圧縮は統計的冗長性を特定・除去することでビット数を削減する。可逆圧縮では情報が失われない。非可逆圧縮は不必要な情報を特定・除去することでビット数を削減する。しかしここで「不必要な」とは、例えばMP3オーディオの場合「ヒトの聴覚では通常は識別できない」という意味であり、冒頭の「情報量を保ったまま」という定義を破っている。データファイルのサイズを小さくする処理は一般にデータ圧縮と呼ばれるが、データを記録または転送する前に符号化するという意味では情報源符号化である。 圧縮は、データ転送におけるトラフィックやデータ蓄積に必要な記憶容量の削減といった面で有効である。しかし圧縮されたデータは、利用する前に伸長（解凍）するという追加の処理を必要とする。つまりデータ圧縮は、空間計算量を時間計算量に変換することに他ならない。例えば映像の圧縮においては、それをスムースに再生するために高速に伸長（解凍）する高価なハードウェアが必要となるかもしれないが、圧縮しなければ大容量の記憶装置を必要とするかもしれない。データ圧縮方式の設計には様々な要因のトレードオフがからんでおり、圧縮率をどうするか、（非可逆圧縮の場合）歪みをどの程度許容するか、データの圧縮伸長に必要とされる計算リソースの量などを考慮する。 新たな代替技法として、圧縮センシングの原理を使ったリソース効率のよい技法が登場している。圧縮センシング技法は注意深くサンプリングすることでデータ圧縮の必要性を避けることができる。.

データ圧縮と情報理論 · データ圧縮と符号 · 続きを見る »

エンコード

ンコード（encode）、符号化（ふごうか）とは、アナログ信号やデジタルデータに特定の方法で、後に元の（あるいは類似の）信号またはデータに戻せるような変換を加えることである。 一般的には、エンコードするための機器・回路・プログラムをエンコーダ、デコード（記事内後述を参照）するための機器・回路・プログラムをデコーダと呼んでいる。 特にコンピュータ（特にパーソナルコンピュータ）分野では、エンコードとは、音声や動画などをコーデックを用いて圧縮する事を言う。一部では「エンコ」と略して呼ぶこともある。.

エンコードと情報理論 · エンコードと符号 · 続きを見る »

符号理論

号理論（ふごうりろん、Coding theory）は、情報を符号化して通信を行う際の効率と信頼性についての理論である。符号は、データ圧縮・暗号化・誤り訂正・ネットワーキングのために使用される。符号理論は、効率的で信頼できるデータ伝送方法を設計するために、情報理論・電気工学・数学・言語学・計算機科学などの様々な分野で研究されている。通常、符号理論には、冗長性の除去と、送信されたデータの誤りの検出・訂正が含まれる。 符号化は、以下の4種類に分けられる。.

情報理論と符号理論 · 符号と符号理論 · 続きを見る »

計算機科学

計算機科学（けいさんきかがく、computer science、コンピュータ科学）とは、情報と計算の理論的基礎、及びそのコンピュータ上への実装と応用に関する研究分野である。計算機科学には様々な下位領域がある。コンピュータグラフィックスのように特定の処理に集中する領域もあれば、計算理論のように数学的な理論に関する領域もある。またある領域は計算の実装を試みることに集中している。例えば、プログラミング言語理論は計算を記述する手法に関する学問領域であり、プログラミングは特定のプログラミング言語を使って問題を解決する領域である。.

情報理論と計算機科学 · 符号と計算機科学 · 続きを見る »

誤り検出訂正

誤り検出訂正（あやまりけんしゅつていせい）またはエラー検出訂正 (error detection and correction/error check and correct) とは、データに符号誤り（エラー）が発生した場合にそれを検出、あるいは検出し訂正（前方誤り訂正）することである。検出だけをする誤り検出またはエラー検出と、検出し訂正する誤り訂正またはエラー訂正を区別することもある。また改竄検出を含める場合も含めない場合もある。誤り検出訂正により、記憶装置やデジタル通信・信号処理の信頼性が確保されている。.

情報理論と誤り検出訂正 · 符号と誤り検出訂正 · 続きを見る »

暗号

暗号とは、セキュア通信の手法の種類で、第三者が通信文を見ても特別な知識なしでは読めないように変換する、というような手法をおおまかには指す。いわゆる「通信」（telecommunications）に限らず、記録媒体への保存などにも適用できる。.

情報理論と暗号 · 暗号と符号 · 続きを見る »

情報

情報（じょうほう、英語: information、ラテン語: informatio インフォルマーティオー）とは、.

情報と情報理論 · 情報と符号 · 続きを見る »

情報源

情報源（じょうほうげん）には主に次の2つの意味がある。.

情報源と情報理論 · 情報源と符号 · 続きを見る »

数学

数学（すうがく、μαθηματικά, mathematica, math）は、量（数）、構造、空間、変化について研究する学問である。数学の範囲と定義については、数学者や哲学者の間で様々な見解がある。.

情報理論と数学 · 数学と符号 · 続きを見る »