本文へ移動

数値精度:小数点以下の桁数・有効数字・表現

数値精度は、数値やその表現がどれだけ細かく示されているかを表します。小数点以下の桁数や有効数字、デジタル形式で測られ、正確さとは異なり、丸めや不確かさとも関係します。

概要

数値精度は、ある量が数字によって、またはその数値を表す形式によって、どれだけ細かく指定されているかを表します。一般には、小数点以下の桁数(小数点の右側の桁数)や、有効数字の個数(値の中で意味を持つ桁数)で示されます。精度は数値的な記述の分解能を示し、精度が高いほど、より小さな値の変化を区別できます。

精度の表し方

  • 小数点以下の桁数: 小数点の右側にある桁の数です(たとえば 54.6 は小数点以下1桁です)。
  • 有効数字: 小数点の位置にかかわらず意味を持つ桁の数です(たとえば 0.0045 は有効数字2桁です)。
  • 暗黙の整数精度: 末尾の0を含む整数は曖昧です。500 は、位取りとして末尾に0が2つあるとみなされることがあり、10進の位取りの考え方では精度 -2 と表されることもあります。一方で 5.00×10^2 や 500. と書けば、より高い精度を明示できます。

規則と一般的な慣例

桁の解釈に使われる一般的な慣例には、次のようなものがあります。先頭の0(たとえば 0.012 の0)は有効数字に含めません。小数点の後ろの末尾の0は有効です(5.00 は有効数字3桁)。一方、小数点のない整数の末尾の0は、慣例や表記で意図を明示しない限り曖昧です。曖昧さを避けるため、科学的記法や明示的な小数点がよく使われます。

丸めと不確かさ

丸めは値を定められた精度にそろえる操作であり、その後の計算結果に影響することがあります。丸めにはいくつかの方法があります。基本的な場面でよく使われる round-half-up、統計的な偏りを抑える目的で計算機でよく用いられる round-half-to-even、そのほかの方法などです。計測科学では、精度は不確かさと密接に結びついています。報告される結果には通常、不確かさの推定値(たとえば 12.3 ± 0.1)を添えるか、有効数字の数によって暗黙の不確かさを示します。

精度と正確さ

精度は正確さとは異なります。精度は値の細かさや再現性を表し、正確さは真値または受け入れられた値への近さを表します。測定や計算は、精度は高いが正確ではない場合(系統的な偏りがある)、あるいは正確でも低い精度で報告される場合があります。数値情報の信頼性を評価する際には、両方の概念が重要です。

デジタル表現と計算

計算機では、精度は数値型が情報の損失なしに何桁まで表現できるかを指します。浮動小数点形式は、一般に単精度や倍精度として説明され、保存できる有効数字の量や、扱える数値範囲を示します。固定小数点形式では、小数部の桁数が暗黙に定まっています。デジタルシステムでの有限精度は、丸め誤差、桁落ち(似た数を引いたときの有効数字の減少)、さらにオーバーフローやアンダーフローを引き起こす可能性があります。数値解析では、こうした影響を抑えるために専用の方法が用いられます。

実務上の指針

  • 測定値を報告するときは、必ず単位を示し、可能であれば不確かさ、または意図した有効数字の数も示してください。
  • 科学的記法を用いると、値の大きさと精度を明確にできます(たとえば、500 が有効数字3桁であることを示すには 5.00×10^2 と書きます)。
  • 計算結果を公表するときや、精度の異なる値を組み合わせるときは、使った丸め規則を明示してください。

簡単な例で一般的な用法を示すと、54.6 は小数点以下1桁で有効数字3桁、0.0045 は有効数字2桁です。500 を追加の表記なしで書いた場合、位取りとして末尾の0が2つあるとみなされることがあり(精度 -2 と表されることもあります)、より高い精度を意図するなら 5.00×10^2 のように明示できます。5.00 は 5 より高い精度を示します。

表記、慣例、形式的定義の詳細については、追加資料を参照してください。

関連項目

著者

AlegsaOnline.com 数値精度:小数点以下の桁数・有効数字・表現

URL: https://ja.alegsaonline.com/art/78682

共有