2008-04-01から1ヶ月間の記事一覧

いまさら浮動小数点の意味がわかった。

まず。 の結果は7になります。 今更だけど、実数をプログラムで使うということ。 当たり前ながら、実数というのは桁が無限大です。そりゃそうだ、1/3が20桁で終了するわけありません。πもそうですよね。 それを馬鹿正直にプログラム内部で使おうとすると…