数値の精度(有効数字・小数点以下・丸め):定義と例

数値の精度(有効数字・小数点以下・丸め)の定義と具体例を図解でわかりやすく解説。測定や計算での正しい丸め方と注意点も紹介。

著者: Leandro Alegsa

数値精度とは、その値を表すのに使用される桁数を指します。科学分野では通常、これは総桁数有効数字または有効桁と呼ばれます)が使われますが、用途によっては小数部だけの桁数、すなわち小数点以下の桁数(小数点以下の桁数)を精度と見なすこともあります。後者の定義は、特に金融や工学のアプリケーションで重要になることがあります(例:通貨は小数点以下2桁で扱う等)。

精度と丸めの関係

どちらの定義でも、「精度」という用語は、誤差をどの位の桁で切り捨て・丸めるか(すなわち丸めの位置)を表します。例えば、浮動小数点演算では、多くの場合、演算結果は規定の桁数に丸められますし、金融計算では特定の小数桁に丸めることが慣例です(たとえば多くの世界の通貨では小数点以下2桁に丸められます)。丸めにはいくつかの方式があり、代表的なものは以下の通りです。

  • 最近接丸め(round to nearest):最も近い値に丸める。0.5 のあいまいさを扱う方式としては「丸め先偶数(round half to even、銀行家の丸め)」がよく使われます。これは四捨五入のときにちょうど中間の場合、直前の桁が偶数なら切り捨て、奇数なら切り上げる方法です。
  • 0.5 を切り上げる(round half away from zero):0.5 を常に遠ざかる方向に丸める(正は上へ、負は下へ)。多くのソフトや人間の慣習ではこれが「四捨五入」として用いられますが、統計的バイアスが生じやすいです。
  • 切り捨て(truncate):単に指定桁以下を切り落とす。
  • 切り上げ/切り下げ(ceil/floor):常に上または下に丸める。

例:12.345 の丸め(ラウンド・トゥ・イーブン法)

例として、10進数の 12.345 を、様々な有効桁数および小数点以下桁数でラウンド・トゥ・イーブン(丸め先偶数)により丸めると、次のようになります。

  • 有効数字(p)で表す場合:
    • p = 1 → 10
    • p = 2 → 12
    • p = 3 → 12.3
    • p = 4 → 12.34
    • p = 5 → 12.345(元の値)
  • 小数点以下の桁数で表す場合:
    • 小数点以下0桁(整数)→ 12
    • 小数点以下1桁 → 12.3
    • 小数点以下2桁 → 12.34(注:12.345 は第三小数位が 5 のちょうど中間で、第二小数位の 4 が偶数なので切り捨て)
    • 小数点以下3桁 → 12.345(変化なし)

有効数字での丸めの式(正の数)

正の数xを有効桁数pで表す(つまり p 桁の精度に丸める)とき、丸め後の値は次の式で与えられます。

round( x / 10n ) × 10n, ここで n = floor( log10(|x|) ) + 1 − p.

負の数の場合は、まず絶対値を丸めてから符号を付けます(絶対値からマイナスになります)。また、0 はどのような精度でも 0 と扱えます。

表示と有効桁の注意点

測定値を示すとき、実際に測定可能な桁以上の桁を表示するのは好ましくありません。例えば、計測器が最小単位を「1グラム」として 12.345kg と表示している場合、これを「12.34500kg」と余分なゼロを付けて表示すると、誤った精度(過度の精度)を示してしまいます。必要ならば、不確かさ(±)を併記するか、科学表記法(例えば 1.2345 × 10^1)や有効数字を明示することで正確さを表現します。

実装上・運用上の注意

  • コンピュータでの小数演算では、二進浮動小数点表現の性質により丸め誤差が生じやすく、表示上の桁と内部値が一致しないことがあります。IEEE 754 規格では既定の丸め方法として「最近接、かつ偶数へ丸める(round to nearest, ties to even)」が採用されています。
  • 金融計算などでは、丸め方の規則を明確に決め(例えば常に小数第3位で四捨五入する、あるいは銀行家の丸めを使う等)、処理全体で一貫させることが重要です。
  • 報告・表示の際は、有効数字と誤差(不確かさ)を明示する、または必要に応じて桁数のルールを記述して誤解を防ぎます。

以上が、有効数字(総桁数)と小数点以下の桁数(小数桁)、および丸めに関する基本的な定義と実例、注意点です。

関連ページ

質問と回答

Q:数値の精度とは何ですか?


A: 数値の精度とは、その値を示すために使用される桁数を表します。

Q:精度は、不正確な結果が丸められる位置を記述するためにどのように使用できますか?


A:精度は、結果のシグニフィカンドの長さである所定のまたは固定の精度を設定することによって、不正確な結果が丸められる位置を表すために使用することができます。金融計算では、数値はしばしば与えられた桁数に丸められます(例えば、多くの世界の通貨では小数点以下の桁数は2桁です)。

Q:12.345は、有効数字や小数点以下の桁数を変えて、どのように表現することができますか?


A: 12.345は,Round-to-even法を用いて,利用可能な精度に合うように丸めることによって,様々な有効桁数または小数点以下の桁数で表現することができます。

Q:精度が十分でない場合はどうなりますか?


A:精度が十分でない場合は,何らかの方法で四捨五入して精度を合わせます.

Q: 測定可能な数値より多くの桁の数値を表示することは適切ですか?


A: いいえ、測定可能な桁数よりも多い数字を表示することは、誤った精度をもたらすため、適切ではありません。例えば、ある装置がグラム単位で測定して12.345kgと表示した場合、最後にゼロ("00")を2つ付けて12.34500kgと表示すれば、誤った精度が生じることになります。

Q:正の数 x を有効数字 p 桁の精度で表現する公式は何ですか?


A:正の数xを有効数字pの精度で表す式は、round(10-n-x)-10n(n = floor(log10 x) + 1 - p)で表される数値があります。負の数の場合はその絶対値からマイナスした値となり、0は任意の精度を0とします。


百科事典を検索する
AlegsaOnline.com - 2020 / 2025 - License CC3