ブラウザよりも高速アクセス！
13 関係: 小数点、二進化十進表現、デジタルシグナルプロセッサ、コンパイラ、コンピュータの数値表現、コーデック、端数処理、算術、算術オーバーフロー、誤差、PostgreSQL、浮動小数点数、数。
小数点
小数点（しょうすうてん、:en:Decimal separatorまたはdecimal marker）とは、実数を数字列で表記したときの整数部と小数部との境を表す記号であり、アラビア数字の場合、「ピリオド」（点：dot）または「コンマ」（comma）が用いられる。現代の日本では、ピリオドを用いることがほとんどであり、コンマを用いることはほぼ皆無である。.
新しい！!: 固定小数点数と小数点 · 続きを見る »
二進化十進表現
二進化十進数 (BCD、Binary-coded decimal) とは、コンピュータにおける数値の表現方式の一つで、十進法の1桁を、0から9までを表す二進法の4桁で表したものである。「二進化十進符号」などとも呼ばれる。3増し符号など同じ目的の他の方式や、より一般的に、十進3桁を10ビットで表現するDensely packed decimalなども含めることもある。.
新しい！!: 固定小数点数と二進化十進表現 · 続きを見る »
デジタルシグナルプロセッサ
デジタルシグナルプロセッサ（digital signal processor、DSP）は、デジタル信号処理に特化したマイクロプロセッサであり、一般にリアルタイムコンピューティングで使われる。.
新しい！!: 固定小数点数とデジタルシグナルプロセッサ · 続きを見る »
コンパイラ
ンパイラ（英:compiler）とは、コンピュータ・プログラミング言語の処理系（言語処理系）の一種で、高水準言語によるソースコードから、機械語に（あるいは、元のプログラムよりも低い水準のコードに）変換するプログラムである。.
新しい！!: 固定小数点数とコンパイラ · 続きを見る »
コンピュータの数値表現
ンピュータの数値表現の記事では、コンピュータシステムにおける数の表現法について解説する。数学的には「数」の概念は複素数など大きく広がっているわけであるが、この記事ではこの冒頭部を除くと、もっぱら固定長の整数の、しかもコンピュータの内部的な事情の話に偏っている（すなわち、数学的な議論は多くない）。実数の近似表現などについては浮動小数点数の記事や任意精度演算の記事を、代数的数のコンピュータでの扱いなどといった話題については、適切な参考文献を参照のこと。 コンピュータに詳しくない人は（実際の所、自称「詳しい人」でもたいがい正確ではないことも多いが）、コンピュータでの数値計算が無謬（誤りがない）であると誤解していることがある。例えば、3 \times \frac13 を計算すると正確に 1 が得られると期待するかもしれない。しかし、実際にはコンピュータや電卓では 0.9999999999999999 のような結果となり、場合によっては 0.99999999923475 のような値になることもある。「実数型」などという概念は、それ自体が誤謬であるとも言える。 後者の値はバグの存在を示しているわけではなく、二進法の浮動小数点数による近似の結果生じるのである。ある種の任意精度演算系や、何らかの数式処理システムでそういった演算に対応している場合は、1 や 0.9999999999999999... という結果が得られるものもある。なお十進法の浮動小数点数でも、本来なら 0.9999999999999999 のような数になるのであるが、電卓などでは特別扱いして、表示画面には出ない内部での計算の最後の3桁が「999」の場合だけは繰り上がりを掛ける、といったものがあるためか、十進法の浮動小数点数では誤差が発生しないという誤解をしている、自称「詳しい人」に注意が必要である。.
新しい！!: 固定小数点数とコンピュータの数値表現 · 続きを見る »
コーデック
ーデック (Codec) は、符号化方式を使ってデータのエンコード（符号化）とデコード（復号）を双方向にできる装置やソフトウェアなどのこと。 また、そのためのアルゴリズムを指す用語としても使われている。 コーデックには、データ圧縮機能を使ってデータを圧縮・伸張するソフトウェアや、音声や動画などのデータを別の形式に変換する装置およびソフトウェアが含まれる。 コーデックはもともとデータをデジタル通信回線で送受信するための装置を意味する、電気通信分野の用語であった。語源は、coder/decoderの略語である。.
新しい！!: 固定小数点数とコーデック · 続きを見る »
端数処理
端数処理（はすうしょり）または丸め（まるめ）とは、与えられた数値を、ある一定の丸め幅の整数倍の数値に置き換えることである。常用的には、10の累乗（…、100、10、1、0.1、0.01、…）が丸め幅とされることが多い。.
新しい！!: 固定小数点数と端数処理 · 続きを見る »
算術
算術 (さんじゅつ、arithmetic) は、数の概念や数の演算を扱い、その性質や計算規則、あるいは計算法などの論理的手続きを明らかにしようとする学問分野である。.
算術オーバーフロー
算術オーバーフロー（さんじゅつオーバーフロー、）あるいは単にオーバーフローは、デジタルコンピュータにおいて、演算結果がレジスタの表せる範囲や記憶装置上の格納域に記録できる範囲を超えてしまう現象、またはその結果レジスタ等に格納される値を意味する。オーバーフローは、本来演算結果を格納する場所とは違う場所に格納される場合がある。「溢れ」とも言う。 符号無し表現の加減算では、最上位桁より上の桁（存在しない桁）への繰り上がり（キャリー）や、おなじく存在しない桁からの繰り下がり（ボロー）が起きることが溢れである。フラグに保存され、キャリーフラグという名が付けられていることが多い。 加算器で2の補数を使って減算を行って（加算器#減算器）いて、加算器のキャリー入出力をそのままとしている場合、繰り下がり（ボロー）のなかった場合にフラグが立ち、繰り下がりがあった場合にはフラグが立たない、というロジックになる（6502・POWER・ARM・PICなど）。 符号付き表現の、特に2の補数表現では、加減算のビット操作は符号無し表現のそれと全く同じであるが、最上位桁より上の桁との繰り上がりや繰り下がりではなく、最上位桁への繰り上がりや繰り下がりが溢れであることがある。最上位桁への繰り上がりや繰り下がりと同時に最上位桁より上の桁への繰り上がりや繰り下がりがあったら溢れではない。これのフラグはオーバーフローフラグという名が付けられていることが多い。 3ビットで+1をくりかえした場合でそれぞれの例を示す。.
新しい！!: 固定小数点数と算術オーバーフロー · 続きを見る »
誤差
誤差（ごさ、error）は、測定や計算などで得られた値 M と、指定値あるいは理論的に正しい値あるいは真値 T の差 ε であり、 で表される。.
PostgreSQL
PostgreSQL（ぽすとぐれすきゅーえる: ）はオープンソースのオブジェクト関係データベース管理システム (ORDBMS) である。その名称は Ingres の後継を意味する「Post-Ingres」に由来している。「Postgres」や「ポスグレ」と呼ばれることも多い。.
新しい！!: 固定小数点数とPostgreSQL · 続きを見る »
浮動小数点数
浮動小数点数（ふどうしょうすうてんすう、英: floating point number）は、浮動小数点方式による数のことで、もっぱらコンピュータの数値表現において、それぞれ固定長の仮数部と指数部を持つ、数値の表現法により表現された数である。.
新しい！!: 固定小数点数と浮動小数点数 · 続きを見る »
数
数（かず、すう、number）とは、.
