現行精度よりも桁数の大きな2整数の除算は、整数に丸めるられるときにさえも、 不正確な浮動小数点の結果をもたらすかもしれません。 現行精度の有効桁が6桁ののとき、123456789 / 2 を考えてみましょう。 正しい答は 61728394.5 ですが、6桁の精度でこれは 12345700. / 2. = 61728500. に丸められます。整数に変換される時、答は正しい答から 106 外れます。
ここに2つの解決手段があります。ひとつは、充分に精度を上げて浮動小数点の 丸め誤差が間違いなく小数点の右側にくるようにすること。または、 分数モードにして 123456789 / 2 が厳密な分数 123456789:2 を作り、 浮動小数点への変換を経ずに F の切捨てが行われるようにすることです。
Go to the first, previous, next, last section, table of contents.
利用度数