ブラウザよりも高速アクセス！
15 関係: 可変長符号、二分木、チャイティンの定数、ハフマン符号、トライ木、アルファベット (計算機科学)、アルゴリズム情報理論、確率質量関数、符号、符号理論、総和、計算機科学、接頭符号、母関数、情報理論。
可変長符号
号理論において、可変長符号（かへんちょうふごう、variable-length code）とは、情報源の記号に対して割り当てる符号を可変長とする符号である。 可変長符号は、情報源が誤りなしで圧縮および解凍（可逆圧縮）され、依然として記号として読み取られることを可能にする。正しい符号戦略により、 独立同分布の情報源は、そのエントロピーの近い符号長でほぼ任意に圧縮される。これは、データ圧縮が大量のデータブロックに対してのみ可能な固定長符号とは対照的であり、可能性の合計の対数を超える圧縮は、有限の（おそらく任意に小さい）失敗確率でもたらされる。 良く知られた可変長符号には、ハフマン符号、Lempel-Ziv符号、算術符号などがある。.
新しい！!: クラフトの不等式と可変長符号 · 続きを見る »
二分木
二分木（binary tree; 二進木、バイナリツリー）は、データ構造の1つである。根付き木構造の中で、あるノード（節点 node）が持つ子の数が高々2であるものをいう。典型的には2つの子はそれぞれ「左」「右」と呼ばれる。 たとえば、二分探索や二分ヒープを実装するために使われる。 簡単な二分木。大きさ9、深さ3、根は値2を持つ 以後、括弧の中は英語表記。.
新しい！!: クラフトの不等式と二分木 · 続きを見る »
チャイティンの定数
チャイティンの定数（チャイティンのていすう、Chaitin's constant）は、計算機科学の一分野であるアルゴリズム情報理論の概念で、非形式的に言えば無作為に選択されたプログラムが停止する確率を表した実数である。グレゴリー・チャイティンの研究から生まれた。停止確率（ていしかくりつ、Halting probability）とも。 停止確率は無限に多数存在するが、Ω という文字でそれらをあたかも1つであるかのように表すのが普通である。Ω はプログラムを符号化する方式に依存するので、符号化方式を特定せずに議論する場合は Chaitin's construction と呼ぶことがある。 個々の停止確率は正規かつ超越的な実数であり、計算不可能である。つまりその各桁を列挙するアルゴリズムは存在しない。.
新しい！!: クラフトの不等式とチャイティンの定数 · 続きを見る »
ハフマン符号
ハフマン符号（ハフマンふごう、Huffman coding）とは、1952年にデビッド・ハフマンによって開発された符号で、文字列をはじめとするデータの可逆圧縮などに使用される。 ほかのエントロピー符号と同様、よく出現する文字には短いビット列を、あまり出現しない文字には長いビット列を割り当てることで、メッセージ全体の符号化に使われるデータ量を削減することを狙っている。 コンパクト符号やエントロピー符号の一つ。JPEGやZIP (Deflate) などの圧縮フォーマットで使用されている。 シャノン符号化が最適ではない場合が存在する不完全な符号であったのに対し、ハフマン符号は（整数の符号語長という制約のもとでは、）常に最適な符号を構成できる。擬似的に実数の符号語長を割り振る算術符号と比較すれば、データ圧縮効率は劣る。ただし、算術符号やその他の高効率の符号化法と異なり、特許の問題が無い。.
新しい！!: クラフトの不等式とハフマン符号 · 続きを見る »
トライ木
トライ木（trie）やプレフィックス木（prefix tree）とは、順序付き木の一種。あるノードの配下の全ノードは、自身に対応する文字列に共通するプレフィックス（接頭部）があり、ルート（根）には空の文字列が対応している。値は一般に全ノードに対応して存在するわけではなく、末端ノードや一部の中間ノードだけがキーに対応した値を格納している。2分探索木と異なり、各ノードに個々のキーが格納されるのではなく、木構造上のノードの位置とキーが対応している。 キーが文字列である連想配列の実装構造としても使われる。右図の例では、ノードを表す丸の中にキーが書かれ、連想される値がその下に書かれている。値が書かれていないノードはキー文字列の途中までにしか対応していない。各英単語には整数の値が対応している。 トライ木は一種の決定性有限オートマトンと見ることもできるが、エッジ（枝）に対応する記号（文字）はその順序が暗黙のうちに決定される（辞書順など）。 キーは必ずしもノードに格納される必要はない。右図はトライ木の概念を示したもので実装は一般に異なる。 トライ木のキーは必ずしも文字列である必要はない。トライ木のアルゴリズムを文字列以外の任意のデータ構造に適用することは容易である。 trie という名称は "retrieval"（探索、検索）が語源であるため、"tree" と同じ発音を用いる（リトゥリーヴァル）。しかし、ツリー構造との混同を避けるために「トライ」という読み方を奨励する人もいる。日本語では、「トライ木」という呼び方がほぼ定着している。.
新しい！!: クラフトの不等式とトライ木 · 続きを見る »
アルファベット (計算機科学)
形式言語とオートマトンの理論において、アルファベット (英: alphabet) または字母とは、文字や数字などといったような「記号」の有限の集合のこと。有限の文字列は、アルファベットからなる文字の有限の並びである。特に、からなるアルファベットはバイナリアルファベットと呼ばれる。また、二進列 (binary string)は、バイナリアルファベットの並びである。また、うまく処理することで、無限の文字の並びも考えることが可能である。 アルファベットΣが与えられたとき、Σ*はアルファベットΣからなる有限の文字列全てを意味する。ここでの*はクリーネ閉包を意味する演算子である。また、\Sigma^\infty (or occasionally, \Sigma^\N or \Sigma^\omega)は、アルファベットΣからなる無限の文字列全てを意味する。 例えばバイナリアルファベットからはのような文字列が生成できる（εは空文字列を意味する）。.
新しい！!: クラフトの不等式とアルファベット (計算機科学) · 続きを見る »
アルゴリズム情報理論
アルゴリズム情報理論（あるごりずむじょうほうりろん、Algorithmic information theory）は、情報理論と計算機科学の一分野であり、計算理論や情報科学とも関連がある。グレゴリー・チャイティンによれば、「シャノンの情報理論とチューリングの計算複雑性理論をシェイカーに入れて、力いっぱいシェイクしてできたもの」である。.
新しい！!: クラフトの不等式とアルゴリズム情報理論 · 続きを見る »
確率質量関数
率質量関数の例。全ての値は非負であり、その和は1になる。 確率論および統計学において、確率質量関数（probability mass function、PMF）とは、離散確率変数が“ある値”となる確率を与える関数である（単に確率関数と表されることもある）。 確率質量関数は離散確率分布について、定義域が離散的であるスカラー変数やとして定義される。 確率質量関数は、連続確率変数を採る確率密度関数 (PDF) とは異なり離散確率変数を採るので、PDFで確率を計算する際に範囲を積分しなければならないのに対して、PMFの計算では積分の必要はない。.
新しい！!: クラフトの不等式と確率質量関数 · 続きを見る »
符号
モールス符号 符号理論において、符号（ふごう）またはコード（code）とは、シンボルの集合S, Xがあるとき、Sに含まれるシンボルのあらゆる系列から、Xに含まれるシンボルの系列への写像のことである。Sを情報源アルファベット、Xを符号アルファベットという。すなわち符号とは、情報の断片（例えば、文字、語、句、ジェスチャーなど）を別の形態や表現へ（ある記号から別の記号へ）変換する規則であり、変換先は必ずしも同種のものとは限らない。 コミュニケーションや情報処理において符号化（エンコード）とは、情報源の情報を伝達のためのシンボル列に変換する処理である。復号（デコード）はその逆処理であり、符号化されたシンボル列を受信者が理解可能な情報に変換して戻してやることを指す。 符号化が行われるのは、通常の読み書きや会話などの言語によるコミュニケーションが不可能な場面でコミュニケーションを可能にするためである。例えば、手旗信号や腕木通信の符号も個々の文字や数字を表していることが多い。遠隔にいる人がその手旗や腕木を見て、本来の言葉などに戻して解釈することになる。.
新しい！!: クラフトの不等式と符号 · 続きを見る »
符号理論
号理論（ふごうりろん、Coding theory）は、情報を符号化して通信を行う際の効率と信頼性についての理論である。符号は、データ圧縮・暗号化・誤り訂正・ネットワーキングのために使用される。符号理論は、効率的で信頼できるデータ伝送方法を設計するために、情報理論・電気工学・数学・言語学・計算機科学などの様々な分野で研究されている。通常、符号理論には、冗長性の除去と、送信されたデータの誤りの検出・訂正が含まれる。 符号化は、以下の4種類に分けられる。.
新しい！!: クラフトの不等式と符号理論 · 続きを見る »
総和
数学において、総和（そうわ、summation）とは与えられた数を総じて加えることである。.
新しい！!: クラフトの不等式と総和 · 続きを見る »
計算機科学
計算機科学（けいさんきかがく、computer science、コンピュータ科学）とは、情報と計算の理論的基礎、及びそのコンピュータ上への実装と応用に関する研究分野である。計算機科学には様々な下位領域がある。コンピュータグラフィックスのように特定の処理に集中する領域もあれば、計算理論のように数学的な理論に関する領域もある。またある領域は計算の実装を試みることに集中している。例えば、プログラミング言語理論は計算を記述する手法に関する学問領域であり、プログラミングは特定のプログラミング言語を使って問題を解決する領域である。.
新しい！!: クラフトの不等式と計算機科学 · 続きを見る »
接頭符号
接頭符号（Prefix code）は、語頭属性（prefix property）を満たす符号の事で、通常可変長符号である。主にデータ圧縮に使われる。接頭符号の例として可変長ハフマン符号がある。 日本語では他に語頭符号、英語では prefix-free code、prefix condition code、comma-free code、instantaneous code（日本語では瞬時復号可能符号）などとも呼ばれる。ハフマン符号は接頭符号を生成する数あるアルゴリズムの1つに過ぎないが、ハフマンのアルゴリズムを使わずに生成した接頭符号も「ハフマン符号」と呼ぶことがある。 接頭符号はエントロピー符号の一種で、従って可逆圧縮である。 またクラフトの不等式は、接頭符号として可能な符号語の長さの特性を示している。.
新しい！!: クラフトの不等式と接頭符号 · 続きを見る »
母関数
数学において、母関数（ぼかんすう、generating function; 生成関数）は、（自然数で添字付けられた）数列 に関する情報を内包した係数を持つ、形式的冪級数である。母関数は、一般線型回帰問題の解決のためにド・モアブルによって1730年に初めて用いられた。複数の自然数で添字付けられる数の配列（多重数列）の情報を取り込んだ多変数冪級数を同様に考えることもできる。 母関数には、通常型母関数、指数型母関数、ランベルト級数、ベル級数、ディリクレ級数 など様々なものがある。これらについては定義と例を後述する。原理的にはあらゆる列についてそれぞれの種類の母関数が存在する（ただし、ランベルト級数とディリクレ型は添字を 1 から始めることが必要）が、扱い易さについてはそれぞれの種類で相当異なるかもしれない。どの母関数が最も有効かは、その列の性質と解くべき問題の詳細に依存する。 母関数を、形式的冪級数に対する演算・操作を用いるなどして（級数の形ではなく）の式で表すこともよく行われる。このような母関数の表示は、母関数の不定元を x とすれば、四則演算、母関数のx に関する微分、他の母関数へ代入すること、などを行った結果として得られる。これらの操作は関数に対しても定義されるものであるし、結果として得られる式もやはり x の関数であるかのように見える。実際、母関数を x の（十分小さい）具体的な値で評価することのできる関数として解釈することができる場合も少なくない（このとき、母関数の冪級数表示は、母関数の閉じた形の式のテイラー級数と解釈される）のであり、それがこの式が「母関数」と呼ばれる所以でもある。しかし、形式的冪級数は x に何らかの数値を代入したときに収束するかどうかは問題にしないのであって、母関数についてそのような関数としての解釈が可能であるということは必ずしも要求されるものではないし、同様に x の関数として意味を持つ式がいずれも形式的冪級数に対して意味を持つわけではない。 慣例的に母「関数」と呼ばれてはいるが、始域から終域への写像という関数の厳密な意味に照らして言えば母関数は関数ではなく、今日的には生成級数（母級数）と呼ぶこともしばしばである。.
新しい！!: クラフトの不等式と母関数 · 続きを見る »
情報理論
情報理論（じょうほうりろん、Information theory）は、情報・通信を数学的に論じる学問である。応用数学の中でもデータの定量化に関する分野であり、可能な限り多くのデータを媒体に格納したり通信路で送ったりすることを目的としている。情報エントロピーとして知られるデータの尺度は、データの格納や通信に必要とされる平均ビット数で表現される。例えば、日々の天気が3ビットのエントロピーで表されるなら、十分な日数の観測を経て、日々の天気を表現するには「平均で」約3ビット/日（各ビットの値は 0 か 1）と言うことができる。 情報理論の基本的な応用としては、ZIP形式（可逆圧縮）、MP3（非可逆圧縮）、DSL（伝送路符号化）などがある。この分野は、数学、統計学、計算機科学、物理学、神経科学、電子工学などの交差する学際領域でもある。その影響は、ボイジャー計画の深宇宙探査の成功、CDの発明、携帯電話の実現、インターネットの開発、言語学や人間の知覚の研究、ブラックホールの理解など様々な事象に及んでいる。.
新しい！!: クラフトの不等式と情報理論 · 続きを見る »
