과검출과 미검출, 어느 쪽이 더 비싼가

불량 검사 알고리즘을 튜닝하다 보면 결국 두 종류의 실수 중 하나를 선택해야 하는 순간이 온다. 양품을 불량으로 거르거나(과검출), 불량을 놓치거나(미검출). 이 트레이드오프를 명시적으로 다루지 않으면 튜닝이 끝없이 표류한다.

혼동행렬로 본 두 종류의 실수

임계값을 낮추면 미검출은 줄지만 과검출이 늘고, 반대로 임계값을 높이면 과검출은 줄지만 미검출이 늘어난다. 둘 다 0으로 만들 수는 없다 — 어느 쪽 실수의 비용이 더 큰지가 임계값을 정하는 기준이 된다.

비용 비대칭을 고려한 임계값 설정

안전·품질에 직결되는 결함은 미검출 비용이 훨씬 크므로 임계값을 보수적으로(과검출 감수) 잡는다. 반대로 외관상 경미한 결함은 과검출로 인한 재검사 비용이 더 클 수 있어 임계값을 완화하기도 한다. “정확도 몇 %”라는 단일 지표만으로는 이 비대칭을 담을 수 없다.

요약

검사 알고리즘 튜닝은 정확도 극대화가 아니라, 두 실수의 비용을 먼저 정의하고 그에 맞는 지점을 찾는 문제다.