기계 학습

정의

기계 학습은 명시적 프로그래밍 없이 데이터와 경험으로 과제 수행 능력을 높이는 분야다.

정의의 핵심은 데이터, 학습 알고리즘, 성능 향상의 세 가지다.

사람이 규칙을 일일이 쓰는 대신 사례에서 모형을 찾는 것이 전통적 프로그래밍과 가장 큰 차이다.

학습 방식 3분류

학습 데이터가 어떤 형태로 주어지는지에 따라 학습 방식이 나뉜다.

지도 학습은 입력과 정답 쌍으로, 비지도 학습은 정답 없이 구조를 찾는다.

강화 학습은 행동의 결과로 얻는 보상을 최대화하도록 정책을 학습한다.

지도 학습은 회귀와 분류가, 비지도 학습은 군집화와 이상 탐지가 대표 과제다.

학습 원리

학습은 예측값을 만들고, 손실을 계산한 뒤, 기울기로 변수를 갱신한다.

갱신식에서 θ는 모형 변수, η는 학습률이며 보통 0보다 큰 작은 값이다.

훈련 자료만 잘 맞추는 모형은 새 자료에서 오류를 낼 수 있다.

방식 비교

세 방식은 데이터 형태와 목표가 달라서 표로 구별해야 한다.

지도 학습은 정답이 있어 평가가 명확하지만 레이블 확보 비용이 크다.

강화 학습은 보상 설계와 탐색 비용이 핵심 과제다.

계산 예제

가상의 예로, 카메라 영상 10,000장으로 장애물 분류기를 학습한다고 하자.

전체의 80%인 8,000장은 학습에, 나머지 2,000장은 검증에 쓴다.

5-fold 교차검증이면 한 폴드의 검증 데이터는 전체의 1/5, 즉 2,000장이다.

검증 정확도는 평균과 표준편차를 함께 보고해야 일반화 성능을 판단할 수 있다.

헷갈리는 점

헷갈리는 점은 과적합과 일반화다. 학습 자료만 외운 모형은 새 자료에서 실패한다.

그래서 학습 자료와 평가 자료를 나눠 일반화 성능을 확인한다.

강화 학습은 보상이 지연되어 주어져, 어떤 행동이 결과에 기여했는지 가리기 어렵다.

정리

정리하면 기계 학습은 데이터와 경험으로 과제 수행 능력을 높이는 연구 분야다.

학습 방식은 지도, 비지도, 강화 학습으로 나뉘며 데이터 제공방식이 기준이다.

시험에서는 일반화를 한 문장으로 설명하고 학습·평가 자료 분리를 함께 쓴다.