真の値5#5の近似値6#6に対して, 近似値と真の値の差
例えば,
11#11の小数第6位を四捨五入した値
12#12 を 13#13 の近似値にとると
2つの地点 18#18 間の距離の測定値は 19#19, 別の2地点 20#20 間の距離の 測定値は 21#21 で, これらの誤差の限界はともに 22#22 であったとします. このとき, 誤差の限界は同じでも, 18#18 間の距離と, 20#20 間の距離の 大きさが違いすぎるため, 測定値の近似の程度はかなり異なると考えます.
このようなとき, 真の値 5#5 の近似値 6#6 に対して,
近似の程度をみるには, 次の相対誤差を考えます.