ブラウザよりも高速アクセス！
22 関係: 十進法、単精度浮動小数点数、可算集合、対数、平方根、任意精度演算、ネイピア数、アルゴリズム、円周率、倍精度浮動小数点数、端数処理、立方根、計算機イプシロン、誤差、近似、量子化誤差、自然対数、正確度と精度、有効数字、浮動小数点数、方程式、数値解析。
十進法
十進法（じっしんほう、decimal system）とは、10 を底（てい）とし、底およびその冪を基準にして数を表す方法である。.
新しい！!: 精度 (算術)と十進法 · 続きを見る »
単精度浮動小数点数
情報処理において、単精度浮動小数点数 (Single precision floating point number) は、コンピュータの数値表現の一種である。 浮動小数点形式の標準であるIEEE 754では、単精度は32ビット（4オクテット）、倍精度は64ビット（8オクテット）である。IEEE 754-2008 では単精度の形式は正式には binary32 と呼ばれている。「単」や「倍」という表現は32ビットを1ワードとする32ビットアーキテクチャを基にしている。 単精度浮動小数点数は、同じ幅の固定小数点数に比べてより広範囲な数値を表せるようになっているが、同時に精度を犠牲にしている。 C言語、C++、C#、Java、Haskellでは単精度のデータ型を float と呼び、Pascal、MATLABなどでは single と呼ぶ。3.2以前のOctaveでは single という名前だが倍精度である。Pythonの float も倍精度である。.
新しい！!: 精度 (算術)と単精度浮動小数点数 · 続きを見る »
可算集合
可算集合（かさんしゅうごう、countable set 又は denumerable set）もしくは可付番集合とは、おおまかには、自然数全体と同じ程度多くの元を持つ集合のことである。各々の元に 1, 2, 3, … と番号を付けることのできる、すなわち元を全て数え上げることのできる無限集合と表現してもよい。 有限集合も、数え上げることができる集合という意味で、可算集合の一種とみなすことがある。そのため、はっきりと区別を付ける必要がある場合には、冒頭の意味での集合を可算無限集合と呼び、可算無限集合と有限集合を合わせて高々可算の集合と呼ぶ。可算でない無限集合を非可算集合という。非可算集合は可算集合よりも「多く」の元を持ち、全ての元に番号を付けることができない。そのような集合の存在は、カントールによって初めて示された。.
新しい！!: 精度 (算術)と可算集合 · 続きを見る »
対数
対数（たいすう、logarithm）とは、ある数 を数 の冪乗 として表した場合の冪指数 である。この は「底を とする の対数（x to base; base logarithm of ）」と呼ばれ、通常は と書き表される。また、対数 に対する は（しんすう、antilogarithm）と呼ばれる。数 に対応する対数を与える関数を考えることができ、そのような関数を対数関数と呼ぶ。対数関数は通常 と表される。 通常の対数 は真数, 底 を実数として定義されるが、実数の対数からの類推により、複素数や行列などの様々な数に対してその対数が定義されている。 実数の対数 は、底 が でない正数であり、真数 が正数である場合この条件は真数条件と呼ばれる。 について定義される。 これらの条件を満たす対数は、ある と の組に対してただ一つに定まる。 実数の対数関数 はb に対する指数関数 の逆関数である。この性質はしばしば対数関数の定義として用いられるが、歴史的には対数の出現の方が指数関数よりも先であるネイピア数 のヤコブ・ベルヌーイによる発見が1683年であり、指数関数の発見もその頃である。詳細は指数関数#歴史と概観や を参照。。 y 軸を漸近線に持つ。.
新しい！!: 精度 (算術)と対数 · 続きを見る »
平方根
平方根（へいほうこん、square root）とは、数に対して、平方すると元の値に等しくなる数のことである。与えられた数を面積とする正方形を考えるとき、その数の平方根の絶対値がその一辺の長さであり、一つの幾何学的意味付けができる。また、単位長さと任意の長さ x が与えられたとき、長さ x の平方根を定規とコンパスを用いて作図することができる。二乗根（にじょうこん）、自乗根（じじょうこん）とも言う。.
新しい！!: 精度 (算術)と平方根 · 続きを見る »
任意精度演算
任意精度演算とは、数値の精度を必要ならいくらでも伸ばしたりできるような演算システム（実際上は利用可能なメモリ容量に制限されるが）による演算である。.
新しい！!: 精度 (算術)と任意精度演算 · 続きを見る »
ネイピア数
1.
新しい！!: 精度 (算術)とネイピア数 · 続きを見る »
アルゴリズム
フローチャートはアルゴリズムの視覚的表現としてよく使われる。これはランプがつかない時のフローチャート。 アルゴリズム（algorithm ）とは、数学、コンピューティング、言語学、あるいは関連する分野において、問題を解くための手順を定式化した形で表現したものを言う。算法と訳されることもある。 「問題」はその「解」を持っているが、アルゴリズムは正しくその解を得るための具体的手順および根拠を与える。さらに多くの場合において効率性が重要となる。 コンピュータにアルゴリズムをソフトウェア的に実装するものがコンピュータプログラムである。人間より速く大量に計算ができるのがコンピュータの強みであるが、その計算が正しく効率的であるためには、正しく効率的なアルゴリズムに基づいたものでなければならない。.
新しい！!: 精度 (算術)とアルゴリズム · 続きを見る »
円周率
円周率（えんしゅうりつ）は、円の周長の直径に対する比率として定義される数学定数である。通常、ギリシア文字 （パイ、ピー、ラテン文字表記: ）で表される。数学をはじめ、物理学、工学といった様々な科学分野に出現し、最も重要な数学定数とも言われる。 円周率は無理数であり、その小数展開は循環しない。円周率は、無理数であるのみならず、超越数でもある。 円周率の計算において功績のあったルドルフ・ファン・コーレンに因み、ルドルフ数とも呼ばれる。ルドルフは、小数点以下35桁までを計算した。小数点以下35桁までの値は次の通りである。.
新しい！!: 精度 (算術)と円周率 · 続きを見る »
倍精度浮動小数点数
倍精度浮動小数点数（ばいせいどふどうしょうすうてんすう、Double precision floating point number）は、64ビットの浮動小数点数表現である。 「倍」精度と言うのは、単精度に対してそのように言うわけだが、これは32ビットを1ワードとする32ビットアーキテクチャを基にしている。 昔のFORTRANでは、単精度（REAL型）よりも精度が高ければ倍精度（DOUBLE PRECISION型）を名乗ることができた（そもそもワードの長さも浮動小数点のフォーマットも機種ごとにまちまちだった）。IBMのSystem/360で採用され大型機の事実上の標準となった、指数の基数が16の浮動小数点形式は、32ビット単精度では最悪の場合の精度が十進で6桁程度となり、技術計算では倍精度以上を使わねばならないという問題があった。（注：FORTRANは、REAL型が1ワード、DOUBLE PRECISION型が2ワードという前提だった） 標準であるIEEE 754では、単精度は32ビット（4オクテット）、倍精度は64ビット（8オクテット）である。いずれにしろ、「倍」というのは、精度に関係する仮数部（後述）の長さが正確に2倍である、といったような意味ではなく、全体の長さが2倍である所から来ているので、実際の所「倍精度」というのはかなり大雑把な言い方に過ぎない。.
新しい！!: 精度 (算術)と倍精度浮動小数点数 · 続きを見る »
端数処理
端数処理（はすうしょり）または丸め（まるめ）とは、与えられた数値を、ある一定の丸め幅の整数倍の数値に置き換えることである。常用的には、10の累乗（…、100、10、1、0.1、0.01、…）が丸め幅とされることが多い。.
新しい！!: 精度 (算術)と端数処理 · 続きを見る »
立方根
立方根（りっぽうこん、cubic root、root of third power）とは、ある数が与えられた時、三乗して与えられた数となるような新たな数を指す。三乗根（さんじょうこん）ともいう。.
新しい！!: 精度 (算術)と立方根 · 続きを見る »
計算機イプシロン
計算機イプシロン（けいさんきいぷしろん、machine epsilon）は、浮動小数点数において、「1より大きい最小の数」と1との差のことである。機械イプシロン（きかいいぷしろん）とも言う。また、それぞれの「イプシロン」はエプシロンとも表記される。.
新しい！!: 精度 (算術)と計算機イプシロン · 続きを見る »
誤差
誤差（ごさ、error）は、測定や計算などで得られた値 M と、指定値あるいは理論的に正しい値あるいは真値 T の差 ε であり、 で表される。.
新しい！!: 精度 (算術)と誤差 · 続きを見る »
近似
近似（きんじ、approximation）とは、数学や物理学において、複雑な対象の解析を容易にするため、細部を無視して、対象を単純化する行為、またはその方法。近似された対象のより単純な像は、近似モデルと呼ばれる。 単純化は解析の有効性を失わない範囲内で行われなければならない。解析の内容にそぐわないほど、過度に単純化されたモデルにもとづいた解析は、近似モデルの適用限界を見誤った行為であり、誤った解析結果をもたらす。しかしながら、ある近似モデルが、どこまで有効性を持つのか、すなわち適用限界がどこにあるのかは、実際にそのモデルに基づいた解析を行ってみなければ分からないことが多い。.
新しい！!: 精度 (算術)と近似 · 続きを見る »
量子化誤差
量子化誤差（りょうしかごさ、Quantization Error）または量子化歪み（りょうしかひずみ、Quantization Distortion）とは、信号をアナログからデジタルに変換する際に生じる誤差。 アナログ信号からデジタル信号への変換を行う際、誤差は避けられない。アナログ信号は連続的で無限の正確さを伴うが、デジタル信号の正確さは量子化の解像度やアナログ-デジタル変換回路のビット数に依存する。実際のアナログ値と変換時に「丸め」られた近似的デジタル値の差を量子化誤差と呼ぶ。また、誤差信号は確率過程のランダム信号を加えて量子化雑音（Quantization Noise）と呼ばれる。.
新しい！!: 精度 (算術)と量子化誤差 · 続きを見る »
自然対数
実解析において実数の自然対数（しぜんたいすう、natural logarithm）は、超越的無理数であるネイピアの定数 を底とする対数を言う。 の自然対数を や、より一般に あるいは単に（底を暗に伏せて） などと書く。 通常の函数の記法に則って引数を指示する丸括弧を明示的に付けて、 や などのように書いてもよい 定義により、 の自然対数とは の肩にそれを載せた冪が 自身に一致するような冪指数のことに他ならない。例えば、 となることは となることを理由とする。特に の自然対数は であり、 の自然対数は である。 自然対数は、任意の正数 に対して 逆数函数 の から までの間のグラフの下にある面積（ と の成立を意味する。 他の任意の対数がそうであるように、自然対数は なる意味で乗法を加法へ写す。これにより自然対数函数は正の実数の乗法群 から実数の加法群 への写像 として 群の準同型になる。 以外にも、任意の正数 に対して、それを底とする対数を定義することができるが、そのような対数は自然対数の定数倍として得ることができる（例えば二進対数は自然対数の 倍である）し、通常はそうして自然対数から定義される。対数は未知の量がほかの適当な量の冪と見なされる問題を解く際に有用で、例えば指数函数的減衰問題における減衰定数としての半減期を求めるときなどに利用できる。このように対数は、数学や自然科学の多くの分野において重要であり、また金融経済において複利を含む問題にも利用できる。 リンデマン–ヴァイアシュトラスの定理により、 でない任意の（正の）代数的数に対してその自然対数は超越数となる。.
新しい！!: 精度 (算術)と自然対数 · 続きを見る »
正確度と精度
正確度と精度（せいかくどとせいど）では、科学、工学、産業、統計学の分野における正確度と精度について記述する。 科学、工学、産業、統計学の分野において、測定、推定または計算値に関し、.
新しい！!: 精度 (算術)と正確度と精度 · 続きを見る »
有効数字
n 桁の有効数字（ゆうこうすうじ）で丸めるとは、端数処理での一形式である。 n 桁の有効数字で丸めるという作業は、単に n 桁に丸めるというだけではなく、異なるスケールの数字を統合して取り扱う点でより重要な技法である。 浮動小数表示というのは、コンピュータ上での有効数字表現に丸める典型例であるが、2進数である点がポイントである。.
新しい！!: 精度 (算術)と有効数字 · 続きを見る »
浮動小数点数
浮動小数点数（ふどうしょうすうてんすう、英: floating point number）は、浮動小数点方式による数のことで、もっぱらコンピュータの数値表現において、それぞれ固定長の仮数部と指数部を持つ、数値の表現法により表現された数である。.
新しい！!: 精度 (算術)と浮動小数点数 · 続きを見る »
方程式
14''x'' + 15.
新しい！!: 精度 (算術)と方程式 · 続きを見る »
数値解析
バビロニアの粘土板 YBC 7289 （紀元前1800-1600年頃） 2の平方根の近似値は60進法で4桁、10進法では約6桁に相当する。1 + 24/60 + 51/602 + 10/603.
新しい！!: 精度 (算術)と数値解析 · 続きを見る »
