電卓機能の計算結果が正しくないことがあります
広告
Nasuさん
(No.1)
9月下旬に過去問題のページに追加された電卓機能ですが、
計算結果が正しく表示されないことがあります。
例えば、0.4×0.7×0.8 の計算をしたとき、正しい計算結果は 0.224 なのですが、
この電卓では 0.22399999999999998 と表示されてしまいます。
「私の入力ミスかな?」と思って、何度か試したのですが、
やはり同じ結果が表示されてしまい、原因が分かりません。
もし電卓機能の不具合でしたら修正して頂けないでしょうか?
宜しくお願いいたします。
計算結果が正しく表示されないことがあります。
例えば、0.4×0.7×0.8 の計算をしたとき、正しい計算結果は 0.224 なのですが、
この電卓では 0.22399999999999998 と表示されてしまいます。
「私の入力ミスかな?」と思って、何度か試したのですが、
やはり同じ結果が表示されてしまい、原因が分かりません。
もし電卓機能の不具合でしたら修正して頂けないでしょうか?
宜しくお願いいたします。
2017.10.06 00:21
管理人
(No.2)
過去問道場の電卓はJavascriptで実装されております。JavascriptはIEEE754規格に従って浮動小数点数を実装している関係で、乗算および減算において計算誤差が生じることがございます。電卓機能は簡便につくられているため、この影響を排除しきれていない状況です。
例えば、
2-1.8は0.2 となるべきですが、0.19999999999999…96と表示されたり、
9.8×100=980 となるべきところが、980.0000000000…01と表示されたりしてしまいます。
計算誤差については解消する方法もあるようなので、今後、電卓機能を更新するときの検討課題とさせていただきます。
例えば、
2-1.8は0.2 となるべきですが、0.19999999999999…96と表示されたり、
9.8×100=980 となるべきところが、980.0000000000…01と表示されたりしてしまいます。
計算誤差については解消する方法もあるようなので、今後、電卓機能を更新するときの検討課題とさせていただきます。
2017.10.06 10:08
管理人
(No.3)
とりあえず、小数点以下13桁目を四捨五入することで計算誤差が結果に現れないように改善いたしました。
2017.10.06 11:02
Nasuさん
(No.4)
ご対応ありがとうございます。
ただ、試しに 0.4×0.7×0.8 を計算してみたのですが、
やはり結果は 0.22399999999999998 と表示されてしまい、
どこが改善されたのか実感出来ませんでした・・・。
PC環境によっても結果が変わってくるのでしょうか??
ただ、試しに 0.4×0.7×0.8 を計算してみたのですが、
やはり結果は 0.22399999999999998 と表示されてしまい、
どこが改善されたのか実感出来ませんでした・・・。
PC環境によっても結果が変わってくるのでしょうか??
2017.10.06 12:03
管理人
(No.5)
おそらくブラウザにキャッシュが残っていて、そのキャッシュが読み込まれているために反映されていないのだと思います。こちらの環境においてIE11、Chrome、Firefox、Safari(いずれもPC版)で試しましたが、0.224と表示されているようです。
一度ブラウザを強制読み込み(Ctrl+更新ボタン又はCtrl+F5)していただければキャッシュが削除され、更新後の電卓が使用できるようになると思います。
一度ブラウザを強制読み込み(Ctrl+更新ボタン又はCtrl+F5)していただければキャッシュが削除され、更新後の電卓が使用できるようになると思います。
2017.10.06 12:16
Nasuさん
(No.6)
教えて頂いた「ブラウザの強制読み込み」を行った結果、
電卓の計算結果が正しく表示されるようになりました!
ありがとうございました!
電卓の計算結果が正しく表示されるようになりました!
ありがとうございました!
2017.10.06 13:23
返信投稿用フォーム
スパム防止のためにスレッド作成日から30日経過したスレッドへの書込みはできません。