HOME»ソフトウェア開発技術者平成15年春期»午前問3
ソフトウェア開発技術者平成15年春期 午前問3
問3
32ビットの符号なし固定小数点形式(整数部16ビット，小数部16ビット)で，非負の数値を表現するコンピュータがある。このコンピュータで，無限級数
の値を求めたい。この無限級数を有限和
で近似するとき，誤差が10-3以下になるNの中で最小のものはどれか。
の値を求めたい。この無限級数を有限和で近似するとき，誤差が10-3以下になるNの中で最小のものはどれか。- 9
- 10
- 11
- 16
分類
テクノロジ系 » 基礎理論 » 離散数学
正解
イ
解説
この問題に対する解説は、まだ作成されていません。