2025-03-01から1ヶ月間の記事一覧
PentiumのFDIVバグという有名な設計ミスがあります。 これは、PentiumプロセッサのFDIV命令(浮動小数点数除算命令)が正しくない値*1を返すという問題で、回路設計の誤りが原因です。 ブルン定数(双子素数の逆数の和の極限で、収束することが知られている…
PentiumのFDIVバグという有名な設計ミスがあります。 これは、PentiumプロセッサのFDIV命令(浮動小数点数除算命令)が正しくない値*1を返すという問題で、回路設計の誤りが原因です。 ブルン定数(双子素数の逆数の和の極限で、収束することが知られている…