next up previous
Next: 単位とテキストについて Up: 2 進法, 打ちきり誤差, 浮動小数点について Previous: 打ちきり誤差

浮動小数点表示

これは, 高校の時に物理学や化学で現れたと思います. アドガボロ数を 表示するのに, $6.02 \times 10^{23}$ と書いたと思いますが, このように 有効数字の桁を小数点以上を1桁にして, 残りを10の冪をかけて表示する 表示方法です. このとき, 6.02 の部分を仮数部 $10^{23}$ の部分を 指数部といいます. C 言語を用いた通常の計算では, 整数値はそのまま 2進数に変換されますが,そうでない場合は, 全て浮動小数点型の2進数(即ち, 指数部仮数部ともに2進数が用いられる)に変換されて計算されます.



Next: 単位とテキストについて Up: 2 進法, 打ちきり誤差, 浮動小数点について Previous: 打ちきり誤差