인공신경망

왜 배우는가: 인공신경망은 딥러닝, 이미지 인식, 자연어 처리 등 현대 AI의 기반 모델이며, 정보관리기술사 시험에서 구조·학습 원리·활성화 함수가 반복해서 출제된다. 개념의 구성요소와 정의를 정확히 알아야 역전파나 피드포워드 같은 세부 절차 문항에 연결해 답할 수 있다.

출제 이력: 제133회 3교시 6번, 제102회 3교시 2번, 제93회 2교시 5번

1. 한 줄 정의와 핵심 키워드

인공신경망은 생물학적 뉴런을 모방한 단순 연산 처리기(인공 뉴런)를 가중치 채널로 연결한 계산 모형으로, 데이터로부터 입력과 출력의 관계를 학습하는 머신러닝 모델이다.

핵심 키워드: 인공 뉴런, 가중치, 편향, 활성화 함수, 순방향 전파, 역전파, 손실 함수, 경사하강법

2. 개념 풀이

쉽게 말하면 인공신경망은 아주 단순한 계산기들이 수없이 연결된 네트워크다. 컴퓨터가 한 개 또는 몇 개의 복잡한 프로세스로 연산을 처리하는 것과 달리, 인공신경망은 단순한 연산을 하는 많은 뉴런이 서로 신호를 주고받아 정보를 저장하고 처리한다.

정식으로는 인지과학자와 계산 모형 연구자들이 신경해부학적 사실을 토대로 고안한 인공 뉴런(처리기)을 가중치(weight)를 갖는 채널로 연결한 망 형태의 계산 모형을 말한다. 기본 연산은 입력에 가중치를 곱해 더한 뒤 편향을 더하고 활성화 함수에 넣는 것이다.

$y=\sigma\left(\sum_{i=1}^{n} w_i x_i + b\right)$

• x_i: 입력값, w_i: 가중치, b: 편향, \sigma: 활성화 함수, y: 출력값

각 기호의 역할을 나누면 다음과 같다. 가중치는 입력 신호가 다음 뉴런에 얼마나 강하게 전달되는지를 정하는 연결 강도다. 편향은 뉴런이 활성화되는 임계값을 조정하는 상수다. 편향이 없으면 입력이 모두 0일 때 출력이 항상 0에 고정되어 표현력이 떨어진다. 활성화 함수는 가중합의 결과를 비선형으로 바꾸어 출력하는 함수다. 활성화 함수가 없으면 여러 층을 쌓아도 결국 하나의 선형 변환과 같아지므로, 비선형성은 다층 구조의 존재 이유가 된다.

학습의 관점에서 보면 신경망은 손실 함수(loss function)로 예측과 정답의 차이를 측정하고, 그 차이가 줄어들도록 가중치와 편향을 반복 조정하는 시스템이다. 이 조정 원리는 4절과 5절에서 다룬다.

3. 등장 배경과 필요성

데이터에서 패턴을 찾는 일은 오래전부터 수작업으로 이루어졌다. 초기 방법으로는 베이즈 정리(1700년대)와 회귀 분석(1800년대)이 있었다. 컴퓨터 기술이 확산되면서 데이터의 수집·저장·조작 능력이 크게 늘었고, 데이터 집합의 크기와 복잡성이 커지자 직접적인 분석은 자동화된 처리로 대체되었다.

이 흐름 속에서 기계 학습 분야의 인공 신경망, 클러스터 분석, 유전 알고리즘(1950년대), 의사결정 트리(1960년대), 서포트 벡터 머신(1990년대) 등이 발전했다. 선형 모형으로는 설명하기 어려운 비선형 관계를 다루기 위해 인공신경망이 필요해졌다. 뉴런을 여러 층으로 쌓으면 복잡한 함수를 근사할 수 있다는 점이 핵심 동기다.

인공신경망이 실용 단계에 들어선 이유는 두 가지다. 첫째, 역전파처럼 기울기를 효율적으로 계산하는 방법이 있어 다층 구조를 학습시킬 수 있게 되었다. 둘째, 대량의 데이터와 연산 장치가 갖춰지면서 깊은 구조를 실제로 훈련할 수 있게 되었다. 이 두 조건이 맞물려 딥러닝의 발전으로 이어졌다.