丸め、桁落ちとは
丸めとは、四捨五入や切捨て、切り上げのこと。
桁落ちとは、有効桁数が少なくなることです。近い数同士を減算したときに起こります。
例:
0.746×107 - 0.741×107 = 0.500 × 105
近い数同士を減算した結果、有効桁が3桁から1桁になってしまいます。
丸め、桁落ちを意識する理由
システム開発において金額計算はかなりシビアです。
お客さんの業務マニュアルやルールで金額の計算方法が厳格に決められていますので、誤った丸めや 桁落ちをしないよう意識しています。
もし、金額計算で誤った計算をすると不正請求になり企業の信用失墜の可能性もあります。
桁落ちに対しても同様にシビアです。システム開発の場合、桁落ちを未然に防ぐために計算の仕方を 開発プロジェクト内で統一します。
例えば、「JavaではBigDecimal、BigIntegerクラスを利用して桁落ちしないようにする。」「SQLでは計算しない。」というルールがありました。
また、テスト工程では、金額計算に誤りがないか念入りに検証を行います。