HOME»応用情報技術者試験掲示板»【平成26年秋期 問2】固定小数点表示
投稿する
【平成26年秋期 問2】固定小数点表示 [4823]
RRmyさん(No.1)
平成26年秋期 問2
解説の
一方、符号なし固定小数点表示法で表現できる最大値(a)は、
4×1ビット … 15
4×2ビット … 255≒28
4×3ビット … 4095≒212
4×4ビット … 65535≒216
4×nビット … 24n
というように 24n で近似することができます。
15,255,4095となっている部分がどういう計算でこうなっているのか理解できません。
ご説明いただける方、教えてください。
解説の
一方、符号なし固定小数点表示法で表現できる最大値(a)は、
4×1ビット … 15
4×2ビット … 255≒28
4×3ビット … 4095≒212
4×4ビット … 65535≒216
4×nビット … 24n
というように 24n で近似することができます。
15,255,4095となっている部分がどういう計算でこうなっているのか理解できません。
ご説明いただける方、教えてください。
2024.02.08 15:25
jjon-comさん(No.2)
★AP プラチナマイスター
符号なし固定小数点形式の2進数の場合,
4ビットで表現できる最大値は (1111)2 = (2の 4乗)-1 = 15
8ビットで表現できる最大値は (11111111)2 = (2の 8乗)-1 = 255
12ビットで表現できる最大値は (111111111111)2 = (2の12乗)-1 = 4,095
4ビットで表現できる最大値は (1111)2 = (2の 4乗)-1 = 15
8ビットで表現できる最大値は (11111111)2 = (2の 8乗)-1 = 255
12ビットで表現できる最大値は (111111111111)2 = (2の12乗)-1 = 4,095
2024.02.08 16:22
jjon-comさん(No.3)
★AP プラチナマイスター