2019-08-01から1ヶ月間の記事一覧
すごく重箱の隅っぽいことについてです。 計算結果が有限だがINFに丸められる場合 方向丸め(正の無限大への丸め)の場合、真の結果が正規化数で表せる最大数よりも大きい場合、+INFに丸められます。 最近接丸めの場合、真の結果がどんな数でも"無限大"の方…
よく知られた事実ですが、指数的な回数の再帰呼び出しが行われるため、実用的ではありません。 フィボナッチ数列を計算する再帰関数は再帰の仕方がわかりやすいですが、よくわからない再帰の仕方の関数の場合はどうでしょうか? 関数が呼ばれたときにデバッ…
きっともっとやすんだほうがいい
Linuxのシステムコール62番は、64bit版の場合、lseekです。 off_t lseek(int fd, off_t offset, int whence); lseekシステムコールは、第一引数にファイルディスクリプタ、第二引数にどれだけ移動させるか、第三引数に動作の種類を受け取り、最終的な位置を…