パスワードを忘れた? アカウント作成
13771663 submission
日記

0.01を10000回足したら100.003になる

タレコミ by nemui4
nemui4 曰く、

30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話
https://togetter.com/li/1289806

30年前の名著「数値計算の常識」を読んでたらBASICで0.01を10000回足したら100.003になるとか書いてあった。まあ昔のPCなんてそんなものかなと思いながら、Visual Studio 2017で試してみたら同じ結果だったw pic.twitter.com/HBwJhlhZjc

手近のターミナルからperlで繰り替えし回数を変えながらやるとなんだか酷い(型知らんし)。

繰り返し:結果
100:1
1000:9.99999999999983
10000:100.000000000014

この議論は、 ログインユーザだけとして作成されたが、今となっては 新たにコメントを付けることはできません。
typodupeerror

人生の大半の問題はスルー力で解決する -- スルー力研究専門家

読み込み中...