같은 물체를 같은 측정기기로 재더라도 측정값이 항상 일치하는 것은 아닙니다. 디지털 저울에 같은 물건을 반복해서 올렸을 때 표시값이 조금씩 달라지거나, 캘리퍼스로 동일한 부품을 측정했는데 서로 다른 숫자가 나오는 경우가 대표적입니다.
이처럼 측정 결과가 달라지는 현상에는 다양한 원인이 있습니다. 측정기기 자체의 특성뿐 아니라 온도와 습도, 측정하는 사람의 습관, 측정 방법, 측정 대상의 상태까지 결과에 영향을 줄 수 있습니다.
이번 글에서는 측정 오차가 발생하는 대표적인 5가지 원인을 살펴보고, 일상에서 측정값의 신뢰성을 높이기 위한 실천 방법을 알아보겠습니다.
1. 측정 오차란 무엇일까?
측정 오차(measurement error)는 측정값에서 기준값을 뺀 차이를 의미합니다.
측정 오차 = 측정값 − 기준값
예를 들어 기준값이 100.00 mm인 길이를 측정했는데 100.15 mm가 나왔다면, 기준값에 대한 측정 오차는 +0.15 mm입니다.
반대로 99.90 mm가 나왔다면 측정 오차는 −0.10 mm입니다.
여기서 중요한 점은 기준값을 반드시 알고 있어야 오차를 계산할 수 있다는 것입니다.
일상적인 측정에서는 대상의 참값을 정확히 알기 어려우므로, 신뢰할 수 있는 표준이나 교정된 기준값을 이용해 측정 결과를 평가합니다.
또한 측정 오차와 측정 불확도는 서로 다른 개념입니다. 측정 오차는 기준값과의 차이를 나타내지만, 측정 불확도는 측정 결과에 연결된 값의 분산을 나타내는 지표입니다.
2. 측정 오차가 발생하는 5가지 주요 원인
측정 오차의 원인은 크게 측정기기, 측정 환경, 측정 방법, 측정자, 측정 대상의 다섯 가지로 나누어 살펴볼 수 있습니다.
이는 이해를 돕기 위한 실무적 분류이며, 국제 표준에서 모든 오차 원인을 반드시 이 다섯 가지로만 구분하는 것은 아닙니다.
원인 ① 측정기기 자체의 문제
모든 측정기기에는 성능상의 한계가 존재합니다.
측정기기의 영점이 맞지 않거나 센서의 특성이 변하면 측정값이 한쪽 방향으로 치우칠 수 있습니다.
대표적인 사례는 다음과 같습니다.
- 디지털 저울의 영점이 맞지 않는 경우
- 캘리퍼스 측정면에 이물질이 있는 경우
- 온도 센서의 특성이 시간에 따라 변하는 경우
- 측정기기의 분해능이 충분하지 않은 경우
다만 분해능이 낮다는 사실 자체가 곧 측정 오차를 의미하지는 않습니다. 분해능은 구분할 수 있는 값의 간격에 관한 특성이며, 정확도와는 별도로 평가해야 합니다.
줄이는 방법
측정 전 영점을 확인하고 측정면을 청결하게 유지합니다. 필요한 경우 적절한 기준기를 사용해 측정기기의 상태를 확인하고, 사용 목적에 맞는 교정 주기를 설정합니다.
원인 ② 온도·습도·진동 등 측정 환경
측정 환경은 생각보다 큰 영향을 미칠 수 있습니다.
특히 길이를 정밀하게 측정할 때는 온도 변화에 주의해야 합니다. 금속은 온도에 따라 팽창하거나 수축하기 때문입니다.
예를 들어 길이 100 mm인 강철 부품의 온도가 10℃ 상승하면, 선팽창계수를 약 12 × 10⁻⁶/K로 가정할 때 길이는 약 0.012 mm 증가합니다.
이 값은 재질과 온도 조건에 따라 달라지는 예시 계산입니다.
또한 정밀 저울은 주변 공기의 흐름이나 진동 때문에 표시값이 불안정해질 수 있습니다.
줄이는 방법
측정기기와 측정 대상을 가능한 한 안정된 환경에 두고, 필요하면 온도가 충분히 평형에 도달한 후 측정합니다. 정밀 저울은 수평이고 진동이 적은 장소에 설치하며, 기기의 사용 조건에 맞춰 측정합니다.
원인 ③ 잘못된 측정 방법
같은 측정기기를 사용하더라도 측정 방법이 달라지면 결과가 달라질 수 있습니다.
캘리퍼스로 원통형 부품의 지름을 측정할 때 측정면이 기울어지면 올바른 지름을 측정하지 못할 수 있습니다.
줄자를 사용할 때도 시작점이 정확하지 않거나 줄자가 휘어 있으면 측정 결과가 달라집니다.
대표적인 사례는 다음과 같습니다.
- 캘리퍼스의 측정면이 기울어진 경우
- 줄자의 시작점을 잘못 맞춘 경우
- 측정할 때 과도한 힘을 가한 경우
- 정해진 측정 위치를 지키지 않은 경우
줄이는 방법
측정 목적에 맞는 절차를 정하고, 측정 위치와 방향, 접촉 조건을 일정하게 유지합니다. 정밀 측정에서는 제조사가 권장하는 측정력과 사용 방법을 따르는 것이 중요합니다.
원인 ④ 측정자의 판단과 조작
사람이 직접 측정기기를 조작하거나 눈금을 읽는 과정에서도 차이가 발생합니다.
아날로그 눈금은 바라보는 각도에 따라 읽는 값이 달라질 수 있습니다. 이를 시차에 의한 읽기 오차라고 합니다.
또한 측정자가 캘리퍼스를 누르는 힘이나 측정 위치를 선택하는 방식이 서로 다르면 결과가 달라질 수 있습니다.
디지털 측정기기라고 해서 이러한 영향이 완전히 사라지는 것은 아닙니다.
줄이는 방법
눈금을 정면에서 읽고, 측정 위치와 측정력을 일정하게 유지합니다. 여러 사람이 같은 대상을 측정하는 작업이라면 공통 절차를 마련하고 측정 방법을 통일하는 것이 좋습니다.
원인 ⑤ 측정 대상의 상태
측정 대상 자체가 일정하지 않은 경우도 있습니다.
표면이 거칠거나 부품이 변형되어 있다면 측정 위치에 따라 값이 달라질 수 있습니다.
예를 들어 원형 부품이 완전한 원이 아니라면 서로 다른 방향에서 측정한 지름이 다를 수 있습니다.
이 경우 모든 차이를 측정기기의 오류로 볼 수는 없습니다. 실제 측정 대상의 형상 차이가 반영된 결과일 수 있기 때문입니다.
대표적인 사례는 다음과 같습니다.
- 표면에 먼지나 이물질이 있는 경우
- 측정 대상이 온도에 따라 팽창한 경우
- 부품의 형상이 균일하지 않은 경우
- 부드러운 재질이 측정 압력에 의해 변형되는 경우
줄이는 방법
측정 대상을 청결하게 유지하고, 측정 위치와 방향을 명확히 정합니다. 필요한 경우 여러 위치에서 측정해 대상 자체의 변동을 확인합니다.
3. 측정 오차의 원인과 개선 방법 비교
| 원인 | 대표적인 사례 | 개선 방법 |
|---|---|---|
| 측정기기 | 영점 불일치, 센서 특성 변화 | 영점 확인, 상태 점검, 교정 |
| 측정 환경 | 온도 변화, 진동, 공기 흐름 | 환경 안정화 |
| 측정 방법 | 기울어진 측정, 과도한 측정력 | 측정 절차 표준화 |
| 측정자 | 눈금 읽기 차이, 조작 습관 | 교육, 반복 확인 |
| 측정 대상 | 표면 상태, 형상 차이, 변형 | 대상 상태 확인, 위치 통일 |
측정 오차를 줄이려면 측정기기만 점검하는 것으로는 충분하지 않습니다.
측정 과정 전체를 함께 살펴보는 것이 중요합니다.
4. 계통오차와 랜덤오차는 어떻게 다를까?
측정 오차를 이해할 때는 계통오차와 랜덤오차의 차이도 알아둘 필요가 있습니다.
계통오차
계통오차(systematic measurement error)는 반복 측정에서 일정하게 유지되거나 예측 가능한 방식으로 변하는 오차의 성분입니다.
예를 들어 기준값이 100.00 mm인 대상을 반복 측정했을 때 다음과 같은 결과가 나왔다고 가정하겠습니다.
- 100.20 mm
- 100.21 mm
- 100.19 mm
측정값은 서로 가깝지만 기준값보다 약 0.20 mm 크게 나타납니다.
이런 결과는 계통적인 영향이 존재할 가능성을 보여줍니다. 다만 이 세 값만으로 원인을 확정할 수는 없습니다.
랜덤오차
랜덤오차(random measurement error)는 반복 측정에서 예측하기 어려운 방식으로 변하는 오차의 성분입니다.
예를 들어 다음과 같은 측정값이 나왔다고 가정하겠습니다.
- 99.92 mm
- 100.08 mm
- 100.01 mm
측정값이 서로 다르게 나타나고 있습니다.
이러한 변동에는 측정 환경의 작은 변화, 측정 위치의 차이, 측정기기의 표시 변동 등 여러 요인이 관여할 수 있습니다.
두 오차의 차이
| 구분 | 계통오차 | 랜덤오차 |
|---|---|---|
| 특징 | 일정하거나 예측 가능한 경향 | 예측하기 어려운 변동 |
| 반복 측정 | 반복만으로 제거하기 어려움 | 평균을 통해 일부 영향 감소 가능 |
| 대응 방법 | 기준값 비교, 교정, 적절한 보정 | 반복 측정, 환경과 절차 안정화 |
반복 측정을 많이 한다고 계통오차가 자동으로 사라지는 것은 아닙니다.
반대로 교정을 실시했다고 해서 랜덤한 변동이 모두 없어지는 것도 아닙니다.
두 종류의 영향을 구분해 관리해야 측정 결과의 신뢰성을 높일 수 있습니다.
5. 반복 측정하면 오차가 줄어들까?
반복 측정은 측정 결과의 변동을 파악하는 데 도움이 됩니다.
예를 들어 같은 대상을 다섯 번 측정해 다음과 같은 값을 얻었다고 가정하겠습니다.
| 측정 횟수 | 측정값 |
|---|---|
| 1회 | 50.02 mm |
| 2회 | 50.00 mm |
| 3회 | 49.99 mm |
| 4회 | 50.01 mm |
| 5회 | 49.98 mm |
이 다섯 값의 평균은 50.00 mm입니다.
그러나 평균이 50.00 mm라고 해서 실제 기준값과 정확히 일치한다고 단정할 수는 없습니다.
측정기기의 영점이 틀어져 있거나 측정 방법에 일정한 편향이 존재한다면 평균값에도 그 영향이 남을 수 있기 때문입니다.
반복 측정의 중요한 목적은 측정값의 변동을 확인하고, 적절한 조건에서 평균을 이용해 랜덤한 영향의 일부를 줄이는 것입니다.
측정 결과의 정확성을 평가하려면 신뢰할 수 있는 기준과의 비교도 필요합니다.
6. 측정 오차를 줄이는 실전 점검 순서
일상에서 측정기기를 사용할 때는 다음 순서로 확인하면 좋습니다.
첫째, 측정기기의 상태를 확인합니다.
영점, 측정면, 배터리 상태, 표시값의 안정성 등을 점검합니다.
둘째, 측정 환경을 안정시킵니다.
온도 변화나 진동이 큰 환경을 피하고, 측정기기의 사용 조건을 확인합니다.
셋째, 측정 위치와 방법을 통일합니다.
측정할 위치, 방향, 접촉 조건을 일정하게 유지합니다.
넷째, 필요에 따라 반복 측정합니다.
반복 측정값의 차이를 살펴보고, 값이 크게 달라진다면 원인을 확인합니다.
다섯째, 기준값과 비교합니다.
정확성이 중요한 측정이라면 적절한 표준이나 교정된 기준기를 사용해 결과를 평가합니다.
이러한 점검을 통해 측정값이 달라지는 원인을 더 체계적으로 파악할 수 있습니다.
7. 자주 묻는 질문 FAQ
Q1. 디지털 측정기기는 아날로그보다 항상 정확한가요?
그렇지 않습니다. 디지털 방식은 표시값을 읽기 편리하지만, 표시 방식만으로 정확도가 결정되지는 않습니다. 정확도는 측정기기의 성능, 교정 상태, 사용 환경 등 다양한 요소에 영향을 받습니다.
Q2. 같은 값을 여러 번 측정하면 정확한 측정인가요?
반드시 그렇지는 않습니다. 반복 측정값이 서로 비슷하다는 것은 정밀도와 관련이 있지만, 기준값에 가깝다는 의미는 아닙니다.
Q3. 측정기기를 교정하면 오차가 완전히 사라지나요?
아닙니다. 교정은 지정된 조건에서 기준값과 측정기기 표시값의 관계를 확인하는 과정입니다. 교정 자체가 측정기기를 자동으로 조정하거나 모든 오차를 제거하는 것은 아닙니다.
Q4. 측정 오차를 완전히 없앨 수 있나요?
실제 측정에서는 여러 영향 요인이 존재하므로 모든 오차를 완전히 제거했다고 보장하기 어렵습니다. 중요한 것은 주요 원인을 관리하고 측정 결과의 불확도를 적절히 평가하는 것입니다.
Q5. 측정값이 달라지면 측정기기가 고장 난 것인가요?
반드시 그렇지는 않습니다. 환경 변화, 측정 방법, 측정 대상의 상태 등으로도 결과가 달라질 수 있습니다. 측정기기의 이상 여부를 판단하기 전에 측정 조건을 함께 확인해야 합니다.
마무리: 정확한 측정은 숫자보다 조건 관리가 중요합니다
측정 오차가 발생하는 원인은 단순히 측정기기의 성능 문제에만 있지 않습니다.
측정 환경, 측정 방법, 측정자의 조작, 측정 대상의 상태가 모두 결과에 영향을 줄 수 있습니다.
따라서 측정값을 신뢰하려면 숫자만 확인하는 것이 아니라 그 숫자가 어떤 조건에서 얻어졌는지 살펴보아야 합니다.
측정 오차를 완전히 없애는 것보다 중요한 것은 오차의 원인을 이해하고 관리하는 일입니다.
이러한 원리를 익혀두면 일상에서 사용하는 줄자와 저울부터 정밀 측정기기까지 더욱 올바르게 활용할 수 있습니다.
함께 읽으면 좋은 글
[03편] 측정 정확도와 정밀도의 차이, 같은 숫자라도 결과가 다른 이유
측정 오차를 이해하기 전에 정확도와 정밀도의 차이를 알아두면 도움이 됩니다. 기준값에 가까운 측정과 반복 측정값이 일정한 측정은 어떻게 다른지 살펴보세요.
다음 글 예고
[05편] 교정과 보정의 차이, 측정기기의 신뢰성을 확인하는 원리
측정 오차를 줄이기 위해 자주 등장하는 개념이 교정과 보정입니다. 두 용어의 의미와 실제 측정기기 관리에서 어떤 차이가 있는지 다음 글에서 알아보겠습니다.
참고 자료
- BIPM · 국제측정학용어집(VIM) — 측정 오차, 계통오차, 랜덤오차 등 측정학의 기본 용어 정의
https://www.bipm.org/en/committees/jc/jcgm/publications - BIPM · 측정 불확도 표현 지침(GUM) — 측정 결과의 불확도 평가와 관련된 국제 지침
https://www.bipm.org/en/committees/jc/jcgm/publications - NIST · Engineering Metrology Toolbox — 길이 측정과 환경 영향 등 정밀 측정에 관한 기술 자료
https://emtoolbox.nist.gov/