「計算結果に誤差が出ます」
「浮動小数点数を使っているのでは？」
「ちゃんとBigDecimalを使ってます」

public class Test {
    private static final BigDecimal MAX_TOTAL = new BigDecimal(10000000000000001L);

    public static void main(String[] args) throws Exception {
        System.out.println("Value = " + MAX_TOTAL.longValue());
    }
}

J2SE1.4までだとBigDecimal(long)というのは無いから、doubleに昇格されて、BigDecimal(double)が呼び出される。しかしdoubleの仮数部は53bitしかないから、この引数だと誤差が発生する。1.4迄だと結果は

Value = 10000000000000000

同じソースをJ2SE5.0でコンパイルし直した場合、BigDecimal(long)が使用されるので、誤差が発生しない。

Value = 10000000000000001

1.4までの場合は文字列バージョンを使用しないといけない。

    private static final BigDecimal MAX_TOTAL = new BigDecimal("10000000000000001");

多分「53bitで表現できる範囲をこえるなら文字列で」なんて難しいコーディングルールを作っても、遵守は困難だろうから、常に文字列版を使用させるのが無難かな。チェックはBigDecimal(double)の呼び出しを見つけるディテクタ作ってFindBugsで見つけるのが簡単そう。

レスポンス[2]

投稿者 Shisei Hanai : 2006/01/11 14:25:24 JST #