2019-02-24から1日間の記事一覧

完全精度 expf 関数の作り方

C言語では、expf関数などの超越関数の精度は一切保証されないことになっています*1。 そうは言っても、数学的な結果に近い結果が返ってくることが、常識的に信じられています。 数学的な結果に最も近いfloatやdoubleが返ってくることを、完全精度(丸め誤差0…