측량오차

왜 배우는가: 측량오차를 정확히 분류해야 측량 성과의 신뢰도를 판단하고 적절한 보정을 적용할 수 있다. 여러 교시에서 반복해서 묻는 개념이므로 오차의 정의와 분류, 표준편차 계산을 함께 익혀야 한다.

출제 이력: 제122회 3교시 6번, 제120회 1교시 7번, 제114회 2교시 4번

1. 한 줄 정의와 핵심 키워드

측량오차는 측정값이 참값과 어긋나는 차이이며, 원인에 따라 착오·정오차·부정오차로 나뉜다.

이 정의는 답안지 첫 줄에 그대로 옮겨 쓸 수 있는 문장이다. 측량은 어떤 장비와 방법을 쓰더라도 결과가 참값과 완전히 일치하지 않으므로, 오차의 성질을 구분해야 보정과 정밀도 관리를 제대로 할 수 있다.

핵심 키워드는 다음과 같다.

• 측량오차
• 착오
• 정오차
• 부정오차
• 정확도
• 정밀도
• 표준편차
• 최소제곱법

2. 개념 풀이

정식 정의로 측량오차는 측정으로 얻은 값과 그 양의 참값 사이의 차이이다. 참값은 실제로 알 수 없으므로 측량에서는 여러 관측값으로 구한 최확값(most probable value)을 기준으로 오차를 평가한다. 측량은 완전할 수 없다는 전제에서 출발하므로 오차는 어떤 측량에서도 남는다. 목표는 오차를 없애는 것이 아니라 그 원인과 크기를 파악하여 허용 범위 안에 두는 것이다.

원리 풀이로 오차는 원인에 따라 성질이 달라진다. 원인이 측량자의 실수이면 착오이고, 기계와 자연 조건에 의해 방향과 크기가 일정하게 생기면 정오차이며, 원인을 특정할 수 없이 흩어져 나타나면 부정오차이다. 이 세 가지를 구분하지 않으면 보정할 오차를 통계로만 처리하거나, 우연한 흩어짐을 보정식으로 없애려는 잘못이 생긴다.

착오는 측량자의 실수로 생기는 오차로, 기계를 잘못 조작하거나 목표를 잘못 조준하거나 측정값을 잘못 기록하는 것이 대표적이다. 크기가 커서 결과의 정확도를 허용 수준 밖으로 떨어뜨리므로 통계 처리의 대상이 아니라 찾아서 제거해야 할 대상이다. 그래서 같은 양을 중복 관측하거나 독립된 방법으로 검측하여 착오를 조기에 발견한다.

정오차는 원인이 분명하고 방향과 크기가 일정하여 수식으로 보정할 수 있는 오차이며, 계통오차라고도 한다. 줄자로 거리를 잴 때 온도나 장력에 따라 줄자의 길이가 변하여 생기는 오차가 대표적이다. 정오차는 기계오차(기계 조정 불량), 자연오차(온도·기압·대기 굴절 같은 조건), 개인오차(관측자의 습관적 판단 차이)로 세분한다. 원인을 알면 보정식으로 제거할 수 있으므로 관측 전에 기계를 조정하고 보정을 적용하여 줄인다.

부정오차는 원인이 명확하지 않고 방향과 크기가 불규칙하여 보정식을 세울 수 없는 오차이며, 우연오차라고도 한다. 같은 조건에서 반복 관측해도 값이 조금씩 흩어지는 것이 부정오차의 모습이다. 부정오차는 보정식으로 제거하지 못하므로 확률 법칙에 따라 표준편차로 다룬다.

정확도는 측정값이 실제값에 얼마나 가까운지를 나타내고, 정밀도는 여러 번 측정한 값들이 서로 얼마나 가까운지를 나타낸다. 정밀도는 관측 장비와 방법의 영향을 크게 받으며 부정오차의 크기를 보여준다. 착오와 정오차가 제거된 경우에는 정밀도를 정확도의 척도로 쓸 수 있다. 다만 정확도가 높아도 정밀도가 낮을 수 있고, 그 반대도 가능하다.

부정오차의 크기는 표준편차로 나타낸다. 관측값 L_i의 최확값(산술평균) L̄에 대한 잔차를 v_i = L_i − L̄로 두면, 1회 관측값의 표준편차는 다음 식으로 구한다.

$m = ±√(Σv_i² / (n−1))$

m은 1회 관측값의 표준편차, v_i는 잔차, n은 관측 횟수이다. 잔차 제곱합이 작을수록 값의 흩어짐이 작으므로 정밀도가 높다. 평균값의 표준편차 M은 다음과 같이 구한다.

$M = m / √n$

표준편차는 관측 횟수의 제곱근에 반비례하여 줄어들므로, 관측 횟수를 늘리는 것은 평균값의 정밀도를 높이는 방법이 된다.

최소제곱법은 잔차의 제곱합이 최소가 되도록 값을 정하는 방법이다. 등정도 관측에서 이 방법으로 구한 최확값은 산술평균과 같다. 그러므로 부정오차가 섞인 관측값에서 최확값과 정밀도를 구하는 기본 원리가 된다.

3. 등장 배경과 필요성

측량은 토지의 경계, 구조물의 위치, 노선의 길이와 높이를 수치로 정하는 작업이므로 결과의 오차가 곧 경계 분쟁이나 설계 오류로 이어진다. 측정 장비의 정밀도가 높아졌지만 측정 환경과 관측자 조건에서 생기는 오차는 완전히 사라지지 않았다. 그래서 오차를 무조건 없애려 하지 않고, 종류별로 구분하여 각기 다른 방법으로 다루는 체계가 필요해졌다.

오차를 분류해야 하는 이유는 대책이 종류마다 다르기 때문이다. 착오는 검측과 중복 관측으로 찾아내고, 정오차는 원인을 알고 있으므로 보정식으로 제거하며, 부정오차는 원인을 알 수 없으므로 최소제곱법과 확률 이론으로 최확값과 정밀도를 추정한다. 분류가 없으면 보정할 수 있는 오차가 통계 처리 속에 남아 결과에 편의가 생기고, 반대로 우연한 흩어짐을 보정식으로 없애려다 잘못된 값을 얻게 된다.