2019-08-25から1日間の記事一覧

IEEE754浮動小数点数の丸めに関するメモ

すごく重箱の隅っぽいことについてです。 計算結果が有限だがINFに丸められる場合 方向丸め(正の無限大への丸め)の場合、真の結果が正規化数で表せる最大数よりも大きい場合、+INFに丸められます。 最近接丸めの場合、真の結果がどんな数でも"無限大"の方…