浮動小数点の計算方法
広告
かりんとうさん
(No.1)
<https://www.ap-siken.com/kakomon/20_haru/q2.html>
浮動小数点の二進数の計算ですが自分の考えだと、
0.10111111 × 2^5 → 45BF0000 ①
指数部を大きい方に合わせて同様に「41300000」を求めると
0.000000011 × 2~5 → 41300000 ②
①と②を足し合わせると
0.110000001 × 2~5 という答えになるのではないでしょうか?
浮動小数点の二進数の計算ですが自分の考えだと、
0.10111111 × 2^5 → 45BF0000 ①
指数部を大きい方に合わせて同様に「41300000」を求めると
0.000000011 × 2~5 → 41300000 ②
①と②を足し合わせると
0.110000001 × 2~5 という答えになるのではないでしょうか?
2019.05.19 16:54
かりんとうさん
(No.2)
すいません、訂正です
0.000000011 × 2~5 ではなく 0.000000011 × 2^5 です。
0.000000011 × 2~5 ではなく 0.000000011 × 2^5 です。
2019.05.19 16:56
yuさん
(No.3)
②は0が一つ多いようですけど。
0.00000011×2^5
足し合わせると、0.1100001×2^5で解答と一致しますよね。
0.00000011×2^5
足し合わせると、0.1100001×2^5で解答と一致しますよね。
2019.05.19 19:30
返信投稿用フォーム
スパム防止のためにスレッド作成日から30日経過したスレッドへの書込みはできません。