測定精度の読み方理解できていますか?
温湿度計やノギス、クランプメーター、厚さ計、膜厚計などの計測機器の仕様表には、
測定精度が明記されています。
測定精度の表記は測定器の種類によってさまざまです。
本記事では、測定精度の読み方・計算方法についてご紹介します。
測定精度例:±1.0 ℃
測定値(読み取り値):20 ℃
の場合、測定誤差は±1.0 ℃で、誤差範囲は19~21 ℃です。
測定精度例:±(3 % + 5) μm
測定値(読み取り値):50 μm
の場合、測定誤差は±(50×0.03 + 5)μm = ±6.5 μmで、誤差範囲は43.5~56.5 μmです。
測定精度例:±0.1 mm±0.5 %
測定値(読み取り値):10 mm
の場合、測定誤差は±0.1 mm±10×0.005 = ±0.15 mmで、誤差範囲は9.85~10.15 mmです。
測定精度例:±2 %または±2 ℃のいずれか大きい値
1⃣ 測定値(読み取り値):50 ℃の場合、測定誤差は±2℃になります。
測定誤差は±2 ℃で、誤差範囲は48~52 ℃です。
※±2%の場合、測定誤差は±(50×0.02) ℃ = ±1 ℃になるので、±2℃(>±1℃)になります。
2⃣ 測定値(読み取り値):200 ℃の場合、測定誤差は±2%になります。
測定誤差は±4 ℃で、誤差範囲は196~204 ℃です。
※±2%の場合、±(200×0.02) ℃ = ±4℃になるので、±4℃(>±2℃)になります。
測定精度例:±(2.0 %rdg + 5 dgts)
測定値(読み取り値):250 A(分解能:1 A)
の場合、測定誤差は±(250×0.02 + 1×5) = ±10 Aで、誤差範囲は240~260 Aです。
※ rdg:『reading』の略で、表示値のこと。
※ dgt:『digit』の略で、表示値の桁(分解能)のこと、dやdgtsと表記されることもあります。
以上、代表的な測定精度の読み方をご紹介いたしました。