0.01を10000回足したら100.003になる
タレコミ by nemui4
nemui4 曰く、
30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話
https://togetter.com/li/128980630年前の名著「数値計算の常識」を読んでたらBASICで0.01を10000回足したら100.003になるとか書いてあった。まあ昔のPCなんてそんなものかなと思いながら、Visual Studio 2017で試してみたら同じ結果だったw pic.twitter.com/HBwJhlhZjc
手近のターミナルからperlで繰り替えし回数を変えながらやるとなんだか酷い(型知らんし)。
繰り返し:結果
100:1
1000:9.99999999999983
10000:100.000000000014
0.01を10000回足したら100.003になる More ログイン