ロゴ
ユニオンペディア
コミュニケーション
Google Play で手に入れよう
新しい! あなたのAndroid™デバイスでユニオンペディアをダウンロードしてください!
無料
ブラウザよりも高速アクセス!
 

相互情報量

索引 相互情報量

互情報量(そうごじょうほうりょう、Mutual information)または伝達情報量(でんたつじょうほうりょう、Transinformation)は、確率論および情報理論において、2つの確率変数の相互依存の尺度を表す量である。最も典型的な相互情報量の物理単位はビットであり、2 を底とする対数が使われることが多い。.

26 関係: 同値同時分布多重整列対称性座標医用画像処理リボ核酸ビットカルバック・ライブラー情報量コーパス言語学確率変数確率論結合エントロピー物理単位特徴選択独立成分分析通信路容量連語Portable Document Format条件付き確率機械学習期待値情報理論情報量時系列

同値

同値(どうち)または等価(とうか)とは、2つの命題が共に真または共に偽のときに真となる論理演算である。 英語ではequivalence (EQ)。「if and only if」を略して、iff ともいう。否定排他的論理和 (XNOR) に等しい。 演算子記号は ⇔、↔、≡、.

新しい!!: 相互情報量と同値 · 続きを見る »

同時分布

率論において、同時分布(どうじぶんぷ)または結合分布(けつごうぶんぷ, joint distribution)とは、確率変数が複数個ある場合に、複数の確率変数がとる値の組に対して、その発生の度合いを確率を用いて記述するもので、確率分布の一種である。 日本工業規格では、2次元分布関数の定義において、多次元分布関数を説明し、同時分布を紹介している。 同時分布の表現方法として、離散型の確率変数にたいしては確率質量関数(確率関数ともいう)を用い、連続型の確率変数にたいしては確率密度関数を用いる。.

新しい!!: 相互情報量と同時分布 · 続きを見る »

多重整列

多重整列(たじゅうせいれつ、multiple sequence alignment)とは、DNAの塩基配列やタンパク質のアミノ酸配列について、3つ以上の配列間で対応する部分が並ぶように整列したもの、また整列すること。通常、整列する配列群は進化的類縁性を持っていることが仮定される。多重整列の結果に基づいて分子系統樹を推定することができる。.

新しい!!: 相互情報量と多重整列 · 続きを見る »

対称性

対称性(たいしょうせい、ラテン語・ギリシャ語: συμμετρία symmetria, 独:Symmetrie, 英:symmetry)とは、ある変換に関して不変である性質である。 英語を音訳したシンメトリーと呼ぶこともあるが、2つのmは同時に発音されるため、英語の発音は「シメトリー」に近い。.

新しい!!: 相互情報量と対称性 · 続きを見る »

座標

幾何学において、座標(ざひょう)とは、点の位置を指定するために与えられる数の組 (coordinates)、あるいはその各数 (coordinate) のことであり、その組から点の位置を定める方法を与えるものが座標系(ざひょうけい、coordinate system)である。座標系と座標が与えられれば、点はただ一つに定まる。 座標は点により定まる関数の組であって、一つの空間に複数の座標系が重複して定義されていることがある。例えば、多様体は各点の近くでユークリッド空間と同様の座標系が貼り付けられているが、ほとんどの場合、一つの座標系の座標だけを考えていたのでは全ての点を特定することができない。このような場合は、たくさんの座標系を貼り付けて、重なる部分での読み替えの方法を記した地図帳(アトラス、atlas)を用意することもある。 地球上の位置を表す地理座標や、天体に対して天球上の位置を表す天球座標がある。.

新しい!!: 相互情報量と座標 · 続きを見る »

医用画像処理

医用画像処理はMedical image processingを意味し、Medical imagingと同意ではない。 以降、医用画像処理を医用イメージングに替えて記述する。 医用イメージング(いよういめーじんぐ、Medical imaging)は、臨床(病気の診断および検査)や医学(解剖学的研究)のために人体(およびその部分)の画像を生成する技法およびプロセスを指す。人間に限らない「生体画像処理」の一部であり、放射線医学、内視鏡検査、サーモグラフィー、医用写真撮影、顕微鏡検査などとも密接に関連する。本来、画像を生成するよう設計されていなかった測定手法や記録手法(脳波や脳磁図)も一種の地図のように表せるデータを生成することから、医用イメージングの一形態と見ることもできる。 画像診断学(放射線診断学)において扱う医用画像には、単純X線画像、CT、MRI、超音波断層画像(US)、血管造影(血管撮影)などがある。画像を(時には撮影も行い)医学的に解釈する医師を放射線診断医あるいは画像診断医と呼び、医師の専門分野のひとつである。診療放射線技師は診断用医用画像の撮影を行う。 撮影された画像に対し必要に応じた画像処理を施すことは、医用イメージングの一分野であり、医療施設内では特にラジオロジストあるいは診療放射線技師がその行為を行うことが多い。 科学的研究としては、その観点に応じて医用生体工学、医用物理学、医学などの一分野に位置づけられる。撮影機器や画像生成機器の研究開発は医用生体工学、医用物理学、情報工学の領域である。そういった機器の利用や画像の解釈は、放射線診断学や撮影部位に対応した医学の下位分野(脳科学、循環器学、精神医学、心理学など)の領域である。医用イメージングのために開発された様々な技術は、他の科学や産業にも応用されている。 医用イメージングは、人体内部を可視化した画像を生成する技法であると見なされることが多い。例えば、超音波検査の場合、超音波を発することで組織内のエコーから内部構造を知ることができる。X線の場合、骨や脂肪などでX線の吸収率が異なることを利用して画像を得る。.

新しい!!: 相互情報量と医用画像処理 · 続きを見る »

リボ核酸

リボ核酸(リボかくさん、ribonucleic acid, RNA)は、リボヌクレオチドがホスホジエステル結合でつながった核酸である。RNAと略されることが多い。RNAのヌクレオチドはリボース、リン酸、塩基から構成される。基本的に核酸塩基としてアデニン (A)、グアニン (G)、シトシン (C)、ウラシル (U) を有する。RNAポリメラーゼによりDNAを鋳型にして転写(合成)される。各塩基はDNAのそれと対応しているが、ウラシルはチミンに対応する。RNAは生体内でタンパク質合成を行う際に必要なリボソームの活性中心部位を構成している。 生体内での挙動や構造により、伝令RNA(メッセンジャーRNA、mRNA)、運搬RNA(トランスファーRNA、tRNA)、リボソームRNA (rRNA)、ノンコーディングRNA (ncRNA)、リボザイム、二重鎖RNA (dsRNA) などさまざまな分類がなされる。.

新しい!!: 相互情報量とリボ核酸 · 続きを見る »

ビット

ビット (bit, b) は、ほとんどのデジタルコンピュータが扱うデータの最小単位。英語の binary digit (2進数字)の略であり、2進数の1けたのこと。量子情報科学においては古典ビットと呼ばれる。 1ビットを用いて2通りの状態を表現できる(二元符号)。これらの2状態は一般に"0"、"1"と表記される。 情報理論における選択情報およびエントロピーの単位も「ビット」と呼んでいるが、これらの単位は「シャノン」とも呼ばれる(詳細は情報量を参照)。 省略記法として、バイトの略記である大文字の B と区別するために、小文字の b と表記する。.

新しい!!: 相互情報量とビット · 続きを見る »

カルバック・ライブラー情報量

ルバック・ライブラー情報量(カルバック・ライブラーじょうほうりょう、英: Kullback–Leibler divergence、カルバック・ライブラー・ダイバージェンス)とは、確率論と情報理論における2つの確率分布の差異を計る尺度である。情報ダイバージェンス(Information divergence)、情報利得(Information gain)、相対エントロピー(Relative entropy)とも呼ばれる。 2つの確率分布の差異を表す事から、カルバック・ライブラー距離 と呼ばれる事もあるが、距離の公理を満たさないので、数学的な意味での距離ではない。 応用上は、「真の」確率分布 P とそれ以外の任意の確率分布 Q に対するカルバック・ライブラー情報量が計算される事が多い。 例えばP はデータ、観測値、正確に計算で求められた確率分布などを表し、Q は理論値、モデル値、P の予測値などを表す。 この概念は1951年、ソロモン・カルバックとリチャード・ライブラーが2つの分布の間の directed divergence として用いたのが最初であり、ベクトル解析におけるダイバージェンスとは異なる概念である。 カルバック・ライブラー情報量は離散分布のみならず連続分布に対しても定義されており、連続分布に対するカルバック・ライブラー情報量は変数変換について不変である。従って、情報理論の他の量(自己情報量やエントロピー)よりも基本的であるとも言える。というのも、それらは離散的でない確率については未定義だったり、変数変換に対して不変ではなかったりするからである。.

新しい!!: 相互情報量とカルバック・ライブラー情報量 · 続きを見る »

コーパス言語学

ーパス言語学(コーパスげんごがく、corpus linguistics)とは、言語学の一分野で、計算言語学と関連がある。.

新しい!!: 相互情報量とコーパス言語学 · 続きを見る »

確率変数

率変数(かくりつへんすう、random variable, aleatory variable, stochastic variable)とは、確率論ならびに統計学において、ランダムな実験により得られ得る全ての結果を指す変数である。 数学で言う変数は関数により一義的に決まるのに対し、確率変数は確率に従って定義域内の様々な値を取ることができる。.

新しい!!: 相互情報量と確率変数 · 続きを見る »

確率論

率論(かくりつろん、,, )とは、偶然現象に対して数学的な模型(モデル)を与え、解析する数学の一分野である。 もともとサイコロ賭博といった賭博の研究として始まった。現在でも保険や投資などの分野で基礎論として使われる。 なお、確率の計算を問題とする分野を指して「確率論」と呼ぶ用例もあるが、本稿では取り扱わない。.

新しい!!: 相互情報量と確率論 · 続きを見る »

結合エントロピー

結合エントロピー(英: Joint entropy)とは、情報理論における情報量の一種。結合エントロピーは、2つの確率変数の結合した系でのエントロピーを表す。確率変数 X と Y があるとき、結合エントロピーは H(X,Y) と記される。他のエントロピーと同様、単位は対数の底によってビット (bit)、ナット (nat)、ディット (dit) が使われる。.

新しい!!: 相互情報量と結合エントロピー · 続きを見る »

物理単位

物理単位(ぶつりたんい)とは、種々の物理量を表すための単位である。.

新しい!!: 相互情報量と物理単位 · 続きを見る »

特徴選択

特徴選択(とくちょうせんたく、feature selection)とは、機械学習と統計学の用語であり、頑健な学習モデルの構築のため、特徴集合のうち意味のある部分集合だけを選択する手法のことを指す。特徴量選択、変数選択、特徴削減、属性選択、素性選択、変数部分集合選択などとも呼ばれる。生物学の文脈では、DNAマイクロアレイの実験に基づいて影響力のある遺伝子を検出する手法を指す場合もある。不要で冗長な特徴量をデータから除去することによって、特徴選択は学習モデルを次の点で改善する:.

新しい!!: 相互情報量と特徴選択 · 続きを見る »

独立成分分析

立成分分析(どくりつせいぶんぶんせき、independent component analysis、ICA)は、多変量の信号を複数の加法的な成分に分離するための計算手法である。各成分は、ガウス的でない信号で相互に統計的独立なものを想定する。これはブラインド信号分離の特殊な場合である。.

新しい!!: 相互情報量と独立成分分析 · 続きを見る »

この記事では量(りょう、)について解説する。.

新しい!!: 相互情報量と量 · 続きを見る »

通信路容量

通信路容量(つうしんろようりょう)または伝送路容量(でんそうろようりょう、Channel capacity)は、電気工学、計算機科学や情報理論において通信路に対して定義される量であり、通信路を介して確実に伝送できる情報の量の上限である。 通信路容量という概念は、その値の具体的な評価を可能にする数学モデルと併せて、クロード・シャノンが確立した情報理論において定義された。通信路容量は、通信路の入力と出力との間の相互情報量を、入力分布に関して最大化したときの最大値によって与えられる。通信路符号化定理によれば、ある通信路の通信路容量は、任意に小さい誤り率を要請した場合にその通信路を介して単位時間当たりに伝送可能な情報量の上限に等しい。.

新しい!!: 相互情報量と通信路容量 · 続きを見る »

連語

連語(れんご、)は一般に、複数の単語からなるが、まとまった形で単語と同様に用いられる言語表現をいう。言語学ではいくつかの異なる意味で用いられる用語である。.

新しい!!: 相互情報量と連語 · 続きを見る »

Portable Document Format

Portable Document Format(ポータブル・ドキュメント・フォーマット、略称:PDF)は、アドビシステムズが開発および提唱する、電子上の文書に関するファイルフォーマットである。1993年に発売されたAdobe Acrobatで採用された。 特定の環境に左右されずに全ての環境でほぼ同様の状態で文章や画像等を閲覧できる特性を持っている。 アドビシステムズはPDF仕様を1993年より無償で公開していたが、それでもPDF規格はAdobeが策定するプロプライエタリなフォーマットであった。2008年7月には国際標準化機構によってISO 32000-1として標準化された。アドビはISO 32000-1 についての特許を無償で利用できるようにしたが、XFA (Adobe XML Forms Architecture) やAdobe JavaScriptなどはアドビのプロプライエタリな部分として残っている。.

新しい!!: 相互情報量とPortable Document Format · 続きを見る »

条件付き確率

条件付き確率(じょうけんつきかくりつ、conditional probability)は、ある が起こるという条件下での別の事象 の確率のことをいう。条件付き確率は または のように表される。条件付き確率 はしばしば「 が起こったときの の(条件付き)確率」「条件 の下での の確率」などと表現される。なお英文においては通例、 または と表現される。.

新しい!!: 相互情報量と条件付き確率 · 続きを見る »

機械学習

機械学習(きかいがくしゅう、machine learning)とは、人工知能における研究課題の一つで、人間が自然に行っている学習能力と同様の機能をコンピュータで実現しようとする技術・手法のことである。.

新しい!!: 相互情報量と機械学習 · 続きを見る »

期待値

率論において、期待値(きたいち、expected value)または平均は、確率変数の実現値を, 確率の重みで平均した値である。 例えば、ギャンブルでは、掛け金に対して戻ってくる「見込み」の金額をあらわしたものである。ただし、期待値ぴったりに掛け金が戻ることを意味するのではなく、各試行で期待値に等しい掛け金が戻るわけでもない。.

新しい!!: 相互情報量と期待値 · 続きを見る »

情報理論

情報理論(じょうほうりろん、Information theory)は、情報・通信を数学的に論じる学問である。応用数学の中でもデータの定量化に関する分野であり、可能な限り多くのデータを媒体に格納したり通信路で送ったりすることを目的としている。情報エントロピーとして知られるデータの尺度は、データの格納や通信に必要とされる平均ビット数で表現される。例えば、日々の天気が3ビットのエントロピーで表されるなら、十分な日数の観測を経て、日々の天気を表現するには「平均で」約3ビット/日(各ビットの値は 0 か 1)と言うことができる。 情報理論の基本的な応用としては、ZIP形式(可逆圧縮)、MP3(非可逆圧縮)、DSL(伝送路符号化)などがある。この分野は、数学、統計学、計算機科学、物理学、神経科学、電子工学などの交差する学際領域でもある。その影響は、ボイジャー計画の深宇宙探査の成功、CDの発明、携帯電話の実現、インターネットの開発、言語学や人間の知覚の研究、ブラックホールの理解など様々な事象に及んでいる。.

新しい!!: 相互情報量と情報理論 · 続きを見る »

情報量

情報量(じょうほうりょう)やエントロピー(entropy)は、情報理論の概念で、あるできごと(事象)が起きた際、それがどれほど起こりにくいかを表す尺度である。ありふれたできごと(たとえば「風の音」)が起こったことを知ってもそれはたいした「情報」にはならないが、逆に珍しいできごと(たとえば「曲の演奏」)が起これば、それはより多くの「情報」を含んでいると考えられる。情報量はそのできごとが本質的にどの程度の情報を持つかの尺度であるとみなすこともできる。 なおここでいう「情報」とは、あくまでそのできごとの起こりにくさ(確率)だけによって決まる数学的な量でしかなく、個人・社会における有用性とは無関係である。たとえば「自分が宝くじに当たった」と「見知らぬAさんが宝くじに当たった」は、前者の方が有用な情報に見えるが、両者の情報量は全く同じである(宝くじが当たる確率は所与条件一定のもとでは誰でも同じであるため)。.

新しい!!: 相互情報量と情報量 · 続きを見る »

時系列

時系列(じけいれつ、Time Series)とは、ある現象の時間的な変化を、連続的に(または一定間隔をおいて不連続に)観測して得られた値の系列(一連の値)のこと。.

新しい!!: 相互情報量と時系列 · 続きを見る »

ここにリダイレクトされます:

伝達情報量

出ていきます入ってきます
ヘイ!私たちは今、Facebook上です! »