측정시스템분석(MSA)과 '10%의 비밀'

제조업 현장에서 우리는 매일 수많은 데이터를 마주합니다. "이 제품은 합격인가, 불량인가?"를 판가름하는 데이터 말이죠. 하지만 혹시 이런 의문을 품어보신 적 없나요? "우리가 측정한 이 값, 정말 믿을 수 있는 걸까?"

 

만약 불량품을 합격품으로 오인하여 고객에게 인도한다면 기업의 신뢰는 추락할 것입니다. 반대로 멀쩡한 합격품을 불량으로 판정한다면 막대한 재작업 및 폐기 비용이 발생합니다. 데이터의 홍수 속에서 '진짜 변동'과 '측정 에러'를 구분해내는 지혜, 그것이 바로 MSA(Measurement System Analysis, 측정시스템분석)입니다. 이 포스팅에서는 MSA의 핵심 개념과 글로벌 품질 표준에서 요구하는 '10%'라는 판정 기준의 과학적 근거를 명확히 파헤쳐 드립니다.

 

1. 측정 데이터의 신뢰성, 두 가지 축으로 평가하라: 정확성과 정밀성

우리가 수집한 측정 데이터가 얼마나 가치 있는지를 판단하려면, 마치 양궁 선수가 과녁을 맞히는 것처럼 두 가지 관점으로 접근해야 합니다.

 

 

정확성 (Accuracy, 위 이미지 왼쪽)

정확성은 "측정 데이터의 평균이 실제 참값(기준값)에 얼마나 가까운가"를 나타냅니다. 과녁의 한가운데를 얼마나 잘 맞추느냐의 문제입니다.

• 편의 (Bias): 관측된 측정값의 평균과 참값 사이의 차이입니다. (예: 100g 표준 추가 평균 102g으로 측정된다면 편의는 +2g) → Cg, Cgk 지표로 관리
• 안정성 (Stability): 시간이 지남에 따라 측정 정확도가 변하지 않고 일정하게 유지되는지를 평가합니다. → 관리도 모니터링
• 선형성 (Linearity): 측정 장비의 전체 작동 범위 내에서 편의가 일정한지를 확인합니다. (예: 작은 부품과 큰 부품을 잴 때의 편의가 동일한지) → 회귀분석을 통한 결정계수 확인

 

정밀성 (Precision, 위 이미지 오른쪽): Gage R&R

정밀성은 "동일한 부품을 반복 측정했을 때 측정값들이 서로 얼마나 일관되게 뭉쳐 있는가"를 의미합니다. 화살이 과녁 중심에서 벗어났더라도 한곳에 조밀하게 모여 있다면 정밀성은 높은 것입니다. MSA의 대부분은 이 정밀성을 분석하는 Gage R&R에 집중됩니다.

• 반복성 (Repeatability): 한 명의 측정자가 동일한 장비로 동일한 부품을 여러 번 측정했을 때 발생하는 변동입니다. 장비 자체의 변동(Equipment Variation)을 뜻합니다.
• 재현성 (Reproducibility): 서로 다른 측정자들이 동일한 장비로 동일한 부품을 측정했을 때 발생하는 변동입니다. 사람에 의한 변동(Appraiser Variation)을 뜻합니다.

 

2. 변동의 정체 파악하기: PV, TV, GRR, %GRR

우리가 눈으로 보는 모든 데이터의 산포(Total Variation, TV)는 두 가지 핵심 요소의 합으로 구성됩니다. 진짜 제품의 변동과, 측정 과정에서 생긴 가짜 변동을 분리해내는 작업이 필요합니다.

 

 

 

 

• PV (Part Variation, 부품 간 변동, 진짜 변동): 제품 생산 공정 자체에서 발생하는 실제 제품 간의 산포입니다. 품질 개선을 위해 우리가 궁극적으로 줄여야 하는 '진짜 산포'입니다.
• GRR (Gage Repeatability & Reproducibility): 측정시스템 전체의 변동으로, 위에서 언급한 반복성(장비 변동)과 재현성(사람 변동)을 통계적으로 합성한 값입니다. 우리가 줄여야 할 '가짜 변동'입니다.
• TV (Total Variation, 총 변동): 공정에서 관측된 전체 산포를 뜻합니다. PV와 GRR의 합입니다.
• %GRR: 총 변동(TV) 또는 제품의 공차(Tolerance) 범위 중에서 측정 변동(GRR)이 차지하는 백분율 비율입니다. 이 값이 낮을수록 측정 시스템이 우수하여 데이터를 신뢰할 수 있다는 뜻입니다.

 

3. 왜 하필 '10% 이하'가 합격인가? 10%의 과학적 근거

AIAG(자동차 산업 행동 그룹) 지침서에 따른 일반적인 Gage R&R의 판정 기준은 다음과 같습니다.

• 10% 미만: 합격 (Acceptable) - 측정시스템이 양호하므로 그대로 사용 가능
• 10% 이상 ~ 30% 이하: 조건부 합격 (Marginal) - 중요도, 장비 비용 등을 고려하여 선별적 개선 필요
• 30% 초과: 불합격 (Unacceptable) - 데이터 신뢰 불가. 즉시 측정 원인 분석 및 개선

 

 

통계적 왜곡을 최소화하는 경제적 마지노선

이 기준에는 통계학적인 신뢰성 법칙과 비용 효율성이 숨어 있습니다. 만약 측정시스템의 변동(%GRR)이 10%를 차지하게 되면, 실제 공정 능력을 평가하는 지표인 Cp나 Cpk 같은 통계적 지표가 약 1~2% 가량 왜곡(과소평가)되는 현상이 발생합니다. 이 정도는 현업에서 충분히 수용할 수 있는 오차 범위이며, 측정 시스템을 개선하는 데 드는 비용 대비 효율성이 가장 좋은 지점입니다.

 

하지만 %GRR이 30%를 넘어가게 되면 위 이미지의 오른쪽 Case B처럼 공정 능력 지표가 15% 이상 왜곡되어 버립니다. 즉, 공정이 실제로 아주 안정적인데도 측정기가 흔들리는 바람에 "우리 공정에 문제가 있다"라고 잘못된 결론을 내리고 엄뚱한 곳에 설비 투자를 하는 대형 실수를 범하게 됩니다. 반대로 측정 데이터의 변동 때문에 진짜 불량을 정상 제품으로 잘못 판단하여 고객사에 유출될 위험도 기하급수적으로 커집니다.

 

결론적으로 10%라는 기준은 "제품의 진짜 변동과 불량을 잡아내고 통계적 왜곡을 최소화하면서도, 과도한 장비 투자 비용을 들이지 않는 가장 경제적이고 과학적인 마지노선"으로 정립되어 전 세계 제조업의 표준으로 자리 잡았습니다. 신뢰할 수 없는 데이터로 내린 결정은 사상누각과 같습니다. MSA를 통해 데이터의 투명성을 확보하는 것이 곧 완벽한 품질로 가는 첫걸음입니다.