HOME»応用情報技術者試験掲示板»浮動小数点の計算方法
投稿する

浮動小数点の計算方法 [1626]

 かりんとうさん(No.1) 
https://www.ap-siken.com/kakomon/20_haru/q2.html

浮動小数点の二進数の計算ですが自分の考えだと、
0.10111111 × 2^5  →  45BF0000  ①
指数部を大きい方に合わせて同様に「41300000」を求めると

0.000000011 × 2~5 →  41300000  ②

①と②を足し合わせると

0.110000001 × 2~5  という答えになるのではないでしょうか?








2019.05.19 16:54
 かりんとうさん(No.2) 
すいません、訂正です


0.000000011 × 2~5    ではなく  0.000000011 ×  2^5 です。
2019.05.19 16:56
yuさん(No.3) 
②は0が一つ多いようですけど。
0.00000011×2^5
足し合わせると、0.1100001×2^5で解答と一致しますよね。
2019.05.19 19:30

返信投稿用フォーム

スパム防止のためにスレッド作成日から30日経過したスレッドへの書込みはできません。
© 2010-2024 応用情報技術者試験ドットコム All Rights Reserved.

Pagetop