精度 (算術)
数値の精度とは、その値を表すのに使用される桁数を表します。科学的な設定では、これは総桁数（有効数字または有効桁と呼ばれることもあります）、または、あまり一般的ではありませんが、小数部の桁数または小数点以下の桁数（小数点以下の桁数）となります。この2番目の定義は、端数部の桁数が特に重要な金融や工学のアプリケーションで有用です。
どちらの場合も、「精度」という用語は、不正確な結果が丸められる位置を表すために使用することができます。例えば、浮動小数点演算では、結果は、結果の記号の長さである所定の精度または固定の精度に丸められます。金融計算では、数値は指定された桁数に丸められることがよくあります (例えば、多くの世界通貨では小数点以下の桁数の後に2桁の桁数に丸められます)。
例として、10進数12.345は、有効数字や小数点以下の桁数で表すことができます。不十分な精度が利用可能な場合は、利用可能な精度に合わせて何らかの方法で数値を丸めます。以下の表は、ラウンド・トゥ・イーブン法を使用して、様々な合計精度と小数点以下の桁数を丸めた結果を示しています。
測定可能な数字よりも多くの数字を表示することは適切ではないことが多いことに注意してください。例えば、デバイスが最も近いグラムまで測定して12.345kgの読み取り値を与える場合、測定値が「12.34500kg」と最後に2つの余分なゼロ("00")で表現されていると、誤った精度を生み出してしまいます。
正の数xを有効桁数pの精度で表現すると、次の式で与えられる数値を持っています。
round(10-n-x)-10n, ここで n = floor(log10 x) + 1 - p.
負の数の場合、数値は絶対値からマイナスになります。数字の0は、どんな精度でも0と取ることができます。
関連ページ
質問と回答
Q:数値の精度とは何ですか?
A: 数値の精度とは、その値を示すために使用される桁数を表します。
Q:精度は、不正確な結果が丸められる位置を記述するためにどのように使用できますか?
A:精度は、結果のシグニフィカンドの長さである所定のまたは固定の精度を設定することによって、不正確な結果が丸められる位置を表すために使用することができます。金融計算では、数値はしばしば与えられた桁数に丸められます（例えば、多くの世界の通貨では小数点以下の桁数は2桁です）。
Q:12.345は、有効数字や小数点以下の桁数を変えて、どのように表現することができますか?
A: 12.345は，Round-to-even法を用いて，利用可能な精度に合うように丸めることによって，様々な有効桁数または小数点以下の桁数で表現することができます。
Q:精度が十分でない場合はどうなりますか?
A:精度が十分でない場合は，何らかの方法で四捨五入して精度を合わせます．
Q: 測定可能な数値より多くの桁の数値を表示することは適切ですか?
A: いいえ、測定可能な桁数よりも多い数字を表示することは、誤った精度をもたらすため、適切ではありません。例えば、ある装置がグラム単位で測定して12.345kgと表示した場合、最後にゼロ（"00"）を2つ付けて12.34500kgと表示すれば、誤った精度が生じることになります。
Q:正の数 x を有効数字 p 桁の精度で表現する公式は何ですか?
A:正の数xを有効数字pの精度で表す式は、round(10-n-x)-10n（n = floor(log10 x) + 1 - p）で表される数値があります。負の数の場合はその絶対値からマイナスした値となり、0は任意の精度を0とします。
