인공지능 학습용 데이터 품질관리

무엇인가

인공지능 학습용 데이터 품질관리는 학습과 검증에 쓰이는 데이터의 품질을 확보하고 측정하는 활동이다.

AI 성능은 데이터 품질이 정한 상한을 넘지 못한다. 그래서 품질관리는 AI 프로젝트 실패를 막는 핵심 활동이다.

생애주기와 단계별 활동

데이터는 계획, 수집, 전처리, 어노테이션, 검증, 운영, 폐기의 생애주기 7단계를 거친다.

품질관리는 각 단계에서 품질 기준을 정하고 측정하며 피드백하는 반복 절차다.

계획 단계에서는 품질 요구사항을 정하고, 폐기 단계에서는 개인정보를 파기한다.

품질 요소

품질 요소는 정확성, 완전성, 일관성, 대표성으로 나눠 본다.

정확성은 값이 실제 대상을 올바르게 나타내는지, 완전성은 빠짐없이 있는지를 본다.

일관성은 같은 방식으로 기록했는지, 대표성은 실제 환경의 분포를 반영하는지를 본다.

어노테이션과 편향

어노테이션은 원천 데이터에 정답 라벨을 붙이는 작업이다.

라벨이 부정확하면 모델은 잘못된 정답을 학습한다.

편향은 데이터 구성이 실제 사용 환경을 반영하지 못할 때 생긴다. 라벨 품질은 IAA로 재고 재작업한다.

성숙도 5단계

앞 문제의 정답은 IAA다. 라벨러 간 일치도로 어노테이션 품질을 잰다.

조직의 품질관리 수준은 도입, 정형화, 통합화, 정량화, 최적화 5단계로 진단한다.

정량화 단계부터 측정 지표로 품질을 관리하므로 지표 체계와 연결해 설명한다.

시험 포인트 정리

시험에서 자주 빠지는 네 가지를 정리한다.

첫째, 품질관리는 계획부터 폐기까지 생애주기 전 단계에 걸친 활동이다.

둘째, 정확성 같은 지표는 정의만 쓰지 말고 측정식이나 검사 방법을 함께 쓴다.

셋째, 개인정보는 익명화와 유사식별 방지를 수집과 전처리 단계에 넣는다.

넷째, 버전과 추적성을 생략하면 재학습 시 원인 분석이 어렵다.