next up previous
Next: 2進法 Up: 補遺 Previous: 参考文献について

2 進法, 打ちきり誤差, 浮動小数点について

上で述べたように, コンピュータでは, 全ての数が2進法で処理されます. これからはじめる, C 言語のプログラミングでも, その事情は同じです. そこで, 2進法に関する復習と, 数値計算で起こる打ちきり誤差, および数の浮動小数点表示について, ここで書いておきます.



Subsections

Next: 2進法 Up: 補遺 Previous: 参考文献について