1.次の各値は四捨五入によって得られた近似値である。 真の値をそれぞれakgとするとき、aの範囲を不等号で表わせ。 また、誤差の絶対値はそれぞれ何kg以下になるか求めよ。
④ 2.8×103
有効数字をはっきりさせたい場合
(整数部分が1けたの数)×(10の累乗) で表す。
④ 2.8×103
有効数字が2と8なので、四捨五入したのは上のけたから3番目の数字(十の位)である。
十の位を四捨五入して2800となるのは最小の数が2750、最大の数が2849,99・・・
よって2750≦a<2850である。
この範囲のaで、近似値2800と最も遠い数は2750なので誤差が最大のときは2800-2750=50
よって誤差の絶対値は50kg以下となる。