浮動小数点の計算方法

かりんとうさん  
(No.1)
https://www.ap-siken.com/kakomon/20_haru/q2.html

浮動小数点の二進数の計算ですが自分の考えだと、
0.10111111 × 2^5  →  45BF0000  ①
指数部を大きい方に合わせて同様に「41300000」を求めると

0.000000011 × 2~5 →  41300000  ②

①と②を足し合わせると

0.110000001 × 2~5  という答えになるのではないでしょうか?








2019.05.19 16:54
かりんとうさん  
(No.2)
すいません、訂正です


0.000000011 × 2~5    ではなく  0.000000011 ×  2^5 です。
2019.05.19 16:56
yuさん 
(No.3)
②は0が一つ多いようですけど。
0.00000011×2^5
足し合わせると、0.1100001×2^5で解答と一致しますよね。
2019.05.19 19:30

返信投稿用フォーム

スパム防止のためにスレッド作成日から30日経過したスレッドへの書込みはできません。

その他のスレッド


Pagetop