2019-11-01から1ヶ月間の記事一覧

ロスってこんな形なのかな

なんか違った気がする

Microsoft(R) Excel(R) が有効数字を減らしてくる現象について

まずA1セルに1を入れ、A2セルには=A1*2と記入します。次に、A2セルのフィルハンドル(セルの右下にカーソルを合わせたときに出現する十字型のカーソル)を下にドラッグし、100セルほどコピーします。 このようにすると、2Nという数列を計算することができま…

g++でコンパイルが非常に遅くなる短い例

次の短いC++プログラムをg++ -g -O1などでコンパイルしてみると、非常に時間がかかります。最適化レベルは、-O0以外のどの最適化でも発生します。 struct Int { int n; Int() : n(0) {} }; struct Array { Int data[8000]; Array() : data{} {} } arr; [Wand…

交差型と主要型付けについてのメモ

主要型(principal type)のある体系とは、以下の性質を満たすような体系です。 型環境と項が与えられた時、につく型(一般に複数ありうる)は、何らかの型を具体化したものになっている。 一方、主要型付け(principal typing)のある体系とは、以下の性質…