デジタルと固定小数点数

ショートカット: 違い、類似点、ジャカード類似性係数、参考文献。

デジタルと固定小数点数の違い

デジタル vs. 固定小数点数

デジタル（digital, 。ディジタル）量とは、離散量（とびとびの値しかない量）のこと。連続量を表すアナログと反対の概念である。工業的には、状態を示す量を量子化・離散化して処理（取得、蓄積、加工、伝送など）を行う方式のことである。 計数（けいすう）という訳語もある。古い学術文献や通商産業省の文書などで使われている。digitalの語源はラテン語の「指 (digitus)」であり、数を指で数えるところから離散的な数を意味するようになった。. 固定小数点数（読み: こていしょうすうてんすう, 英: fixed-point number）は、小数点が置かれる桁を固定して表された数のことである。ある桁数のうちのある場所に小数点が固定されているものとして扱う方式であるため、表現される仮数部に対して小数点の位置が移動する浮動小数点数の対義語として用いられる。コンピュータの数値表現のひとつである。 「固定-小数点数」ではなく「固定小数点-数」である。.

算術オーバーフロー

算術オーバーフロー（さんじゅつオーバーフロー、）あるいは単にオーバーフローは、デジタルコンピュータにおいて、演算結果がレジスタの表せる範囲や記憶装置上の格納域に記録できる範囲を超えてしまう現象、またはその結果レジスタ等に格納される値を意味する。オーバーフローは、本来演算結果を格納する場所とは違う場所に格納される場合がある。「溢れ」とも言う。 符号無し表現の加減算では、最上位桁より上の桁（存在しない桁）への繰り上がり（キャリー）や、おなじく存在しない桁からの繰り下がり（ボロー）が起きることが溢れである。フラグに保存され、キャリーフラグという名が付けられていることが多い。 加算器で2の補数を使って減算を行って（加算器#減算器）いて、加算器のキャリー入出力をそのままとしている場合、繰り下がり（ボロー）のなかった場合にフラグが立ち、繰り下がりがあった場合にはフラグが立たない、というロジックになる（6502・POWER・ARM・PICなど）。 符号付き表現の、特に2の補数表現では、加減算のビット操作は符号無し表現のそれと全く同じであるが、最上位桁より上の桁との繰り上がりや繰り下がりではなく、最上位桁への繰り上がりや繰り下がりが溢れであることがある。最上位桁への繰り上がりや繰り下がりと同時に最上位桁より上の桁への繰り上がりや繰り下がりがあったら溢れではない。これのフラグはオーバーフローフラグという名が付けられていることが多い。 3ビットで+1をくりかえした場合でそれぞれの例を示す。.

デジタルと算術オーバーフロー · 固定小数点数と算術オーバーフロー · 続きを見る »

誤差

誤差（ごさ、error）は、測定や計算などで得られた値 M と、指定値あるいは理論的に正しい値あるいは真値 T の差 ε であり、 で表される。.

デジタルと誤差 · 固定小数点数と誤差 · 続きを見る »

浮動小数点数

浮動小数点数（ふどうしょうすうてんすう、英: floating point number）は、浮動小数点方式による数のことで、もっぱらコンピュータの数値表現において、それぞれ固定長の仮数部と指数部を持つ、数値の表現法により表現された数である。.

デジタルと浮動小数点数 · 固定小数点数と浮動小数点数 · 続きを見る »