Next: 単位とテキストについて
Up: 2 進法, 打ちきり誤差, 浮動小数点について
Previous: 打ちきり誤差
これは, 高校の時に物理学や化学で現れたと思います. アドガボロ数を
表示するのに,
と書いたと思いますが, このように
有効数字の桁を小数点以上を1桁にして, 残りを10の冪をかけて表示する
表示方法です. このとき, 6.02 の部分を仮数部
の部分を
指数部といいます. C 言語を用いた通常の計算では, 整数値はそのまま
2進数に変換されますが,そうでない場合は, 全て浮動小数点型の2進数(即ち,
指数部仮数部ともに2進数が用いられる)に変換されて計算されます.
Next: 単位とテキストについて
Up: 2 進法, 打ちきり誤差, 浮動小数点について
Previous: 打ちきり誤差