AIaaS

왜 배우는가: AIaaS는 클라우드 사업자가 AI 인프라와 모델을 API로 제공하는 방식으로, 기업이 AI를 직접 구축하지 않고 도입하는 현실적 경로이다. 클라우드 서비스 모델을 AI 영역으로 확장한 개념이어서 기술사 시험에서 클라우드 서비스 분류와 함께 반복해 출제된다.

출제 이력: 제137회 4교시 2번, 제128회 3교시 4번

1. 한 줄 정의와 핵심 키워드

AIaaS는 클라우드 사업자가 인공지능 인프라·모델·개발 도구를 API나 웹 콘솔로 사용량만큼 빌려주는 서비스 모델이다.

핵심 키워드

• AIaaS(AI as a Service)
• 사전 학습 모델
• API 기반 제공
• 온디맨드 과금
• MLOps
• 파운데이션 모델
• 도메인 특화 모델

2. 개념 풀이

쉬운 말로 하면, AI를 직접 만들지 않고 클라우드에서 빌려 쓰는 것이다. 기업은 GPU 서버와 데이터 과학자를 갖추지 않고도 음성인식, 번역, 문서 요약 같은 기능을 호출만 하면 쓸 수 있다.

정식 정의는 다음과 같다. AIaaS는 클라우드 컴퓨팅의 서비스 모델을 인공지능 영역에 적용한 것으로, 인프라(GPU 클러스터), 플랫폼(모델 학습·배포 도구), 소프트웨어(사전 학습 API)를 사용량 기반으로 제공하는 형태를 말한다.

클라우드 서비스 모델과 연결하면 이해가 빠르다. IaaS 계층에는 GPU 인스턴스가, PaaS 계층에는 MLOps 파이프라인이, SaaS 계층에는 완성된 AI API가 해당한다. AIaaS는 이 세 계층을 AI 기능 단위로 묶어 제공한다.

사전 학습 모델은 대규모 데이터로 미리 학습된 모델이다. 사용자는 이를 그대로 쓰거나 자체 데이터로 추가 학습(미세조정)해 쓴다. 파운데이션 모델은 여러 업무에 공통으로 응용되는 대규모 기반 모델이며, 대규모 언어모델(LLM)이 대표적이다.

온디맨드 과금은 사용한 만큼만 비용을 내는 방식이다. AI 추론은 호출 횟수나 처리 토큰 수 기준으로 과금되는 경우가 많다.

온디맨드 과금은 사용량 기준이며, 고정 계약과 구분해 답안에 쓴다.

3. 등장 배경과 필요성

AI 도입 초기에는 데이터 수집, 모델 설계, 고성능 GPU 확보에 막대한 비용이 들었다. 이 장벽 때문에 대기업을 제외한 대부분의 조직은 AI를 시도하기 어려웠다. 클라우드가 컴퓨팅 자원을 공유하고 탄력적으로 확장하는 구조를 갖추면서, 같은 인프라를 여러 고객이 나눠 쓰는 방식이 AI에도 적용되었다.

생성형 AI와 LLM의 확산이 이 흐름을 가속했다. 대형 모델은 학습 비용이 커서 소수 사업자만 만들 수 있지만, 완성된 모델은 API로 여러 기업이 공유할 수 있다. 그 결과 AI 기능을 필요한 만큼 빌려 쓰는 AIaaS 수요가 커졌다.

기업 입장에서 필요성은 세 가지다. 첫째, 초기 투자 비용을 낮춘다. 둘째, AI 인력 부족 문제를 완화한다. 셋째, 도입 기간을 단축한다. 반면 데이터 보안과 벤더 종속 같은 새로운 위험도 함께 생긴다는 점을 답안에 밝혀야 한다.

4. 구성요소·원리·절차

AIaaS는 인프라 계층, 모델 계층, 플랫폼 계층, API 계층의 네 계층으로 나눠 이해한다. 아래 표는 각 계층이 맡는 일이다.

각 계층은 아래 계층에 기대어 동작한다. 사용자는 인프라를 직접 관리하지 않고 API 호출만으로 결과를 얻는다. 이 점이 IaaS·PaaS·SaaS와 구분되는 실무상 포인트다.

원리는 '데이터 입력, 모델 추론, 결과 반환'의 세 단계다. 자체 데이터로 성능을 높이려면 데이터를 올려 모델을 미세조정(Fine-tuning)한다. 과금은 호출 수나 사용량을 기준으로 한다. 비용은 다음과 같이 근사한다.

$비용 = \sum(사용량_i × 단가_i)$

여기서 사용량_i는 호출 수, 저장량, 학습 시간 등 항목 i의 양이고, 단가_i는 그 항목의 단위 가격이다. 사용량이 많은 항목의 단가를 먼저 낮추는 것이 비용 절감의 출발점이다.

챗봇형 AIaaS의 예로 AWS Lex를 보면 구성요소가 분명하게 드러난다. 의도(Intent)는 사용자가 이루려는 목표이고, 발화(Utterance)는 그 의도를 부르는 문장이다. 슬롯(Slot)은 의도를 수행하는 데 필요한 값이며, 프롬프트(Prompt)는 부족한 값을 묻는 응답이다. 이행(Fulfillment)은 최종 업무 로직이다.

절차는 다음 순서로 진행한다.

• 서비스 모델을 고른다. 사전 학습 API를 쓸지 자체 모델을 학습할지 정한다.
• 데이터를 업로드하고 전처리한다.
• 모델을 학습하거나 미세조정한다.
• 엔드포인트로 배포한다.
• 응용이 API를 호출하고 응답을 처리한다.
• 성능과 비용을 모니터링하고 필요하면 재학습한다.

5. 관련 법령·기준·표준

국내에서 AIaaS를 도입하면 클라우드 관련 법과 개인정보 관련 법이 함께 적용된다. 아래 표는 답안에 자주 쓰는 근거다. 세부 조항 번호는 확인되지 않아 쓰지 않았다.

표의 법률은 개인정보와 이용자 보호를 함께 본다. 해외 리전을 쓰면 데이터 거주지(Data Residency) 요건을 별도로 확인해야 한다. 보안인증은 공공 수요에서 실질적인 진입 조건이 된다.

SLA 가용성은 계약으로 정한다는 원칙이 기준이 된다. 법정 최소 수치는 없으므로 답안에서는 계약 조건으로 쓴다. 이 점을 쓰면 감점을 줄일 수 있다.

인공지능 기본법은 고영향 인공지능에 대한 고지와 안전 확보 의무를 둔다. 답안에서는 법 이름과 의무 취지만 쓰고 세부 조항은 확인 후 쓴다.

국제 기준으로는 인공지능 경영시스템 표준이 자주 언급된다. 번호가 확실한 경우에만 쓰고, 그 외에는 이름만 쓴다.

6. 유형과 비교(비교표 2개 이상)

AIaaS는 제공 계층과 소비 방식에 따라 나뉜다. 클라우드 서비스 분류의 IaaS·PaaS·SaaS 계층에 대응하여 AI 인프라, AI 플랫폼, AI API(서비스형 AI 기능) 로 구분하는 것이 답안 작성에 가장 실용적이다. 사용자가 관리해야 할 범위가 계층이 올라갈수록 줄어든다.

위 표는 계층별 관리 책임의 차이를 보여준다. 계층이 높을수록 초기 개발 기간은 짧아지지만 모델과 플랫폼에 대한 통제권은 줄어든다.

사전 학습형, 사용자 정의형, 도메인 특화형으로 나누는 방법도 있다. 사전 학습형은 범용 모델을 API로 호출하고, 사용자 정의형은 자체 데이터로 미세조정한다. 도메인 특화형은 의료·금융 등 특정 업무에 맞춘 모델이다. 이 구분은 데이터 보안 요구와 비용을 함께 판단하는 기준이 된다.