인공 지능(artificial intelligence, AI) 용어를 외우기 전에 서로 다른 분류 기준을 구분해 보자. 이 장은 데이터와 학습 방식에서 출발해 서비스의 입력·출력, 오류 비용과 평가 지표를 연결한다. 기초 흐름은 AIF 학습 개요에서 확인할 수 있다.
1.1 용어를 서로 다른 축으로 구분하기
인공 지능(artificial intelligence, AI)은 인식, 예측, 언어 처리, 계획 같은 지능적 작업을 수행하는 넓은 분야다. 기계 학습(machine learning, ML)은 사람이 모든 규칙을 직접 작성하는 대신 데이터에서 예측에 필요한 관계를 학습하는 방법이다. 알고리즘(algorithm)은 학습 또는 계산 절차이고, 모델(model)은 그 절차와 데이터로 얻은 구조·파라미터를 사용해 새 입력을 처리하는 결과물이다. 훈련(training)은 모델의 파라미터를 조정하는 과정이며, 추론(inference)은 학습된 모델에 입력을 주어 결과를 얻는 과정이다. 프롬프트(prompt)를 고쳤다고 모델의 가중치(weights)를 재훈련한 것은 아니다.
딥 러닝(deep learning)은 ML의 하위 범주이며 여러 층의 신경망으로 특징 표현을 학습한다. 입력 → 중간 표현 → 출력으로 계산하고, 훈련 시 예측과 목표의 차이를 이용해 가중치를 조정한다. 전통적인 ML에서는 사람이 거래 금액·시간·횟수 같은 특징을 설계하는 비중이 클 수 있다. 딥 러닝은 이미지·음성·언어의 복잡한 표현 학습에 강하지만 데이터·계산·해석 비용이 늘 수 있다.
딥 러닝이면 항상 더 정확하다거나 레이블이 필요 없다는 뜻은 아니다. 지도·자기지도 등 학습 목적과 모델 구조는 별개의 축이다. 전통 ML과 딥 러닝의 구분
생성형 AI(generative AI, GenAI)는 새 텍스트·이미지 등의 출력을 생성하는 용도·능력이다. 대규모 언어 모델(large language model, LLM)은 언어를 처리하는 대규모 모델이고 파운데이션 모델(foundation model, FM)은 광범위하게 사전 훈련하여 여러 다운스트림 과업에 적응하는 모델이다. 모든 FM을 대화형 LLM이라고 보면 임베딩(embedding)·이미지 모델을 놓친다. 에이전틱 AI는 모델 출력을 도구 사용·계획·피드백 루프에 연결해 과업을 수행하는 시스템 관점이다. 따라서 ‘AI → ML → 딥 러닝’ 같은 포함관계와 ‘생성·분류·행동’이라는 기능 구분을 한 줄 계보로 섞지 않는다. AIF-C01 영역 1 시험 가이드, FM과 과업별 ML 선택, 에이전트와 도구
컴퓨터 비전(computer vision)은 이미지나 영상의 객체·장면 같은 시각 정보를 처리하는 분야다. 자연어 처리(natural language processing, NLP)는 언어의 의미와 구조를 다룬다. 음성 인식(speech recognition)은 소리를 텍스트로 바꾸는 작업으로, 텍스트의 감정을 분석하는 감정 분석(sentiment analysis)이나 다른 언어로 번역하는 작업과는 다르다. 같은 고객 센터 시스템에서도 필요한 기능과 평가 대상이 다르므로 단계마다 적합한 서비스를 선택한다.
데이터와 학습 방식
| 축 | 의미 | 자체 예시와 판단 |
|---|---|---|
| 레이블 있음(labeled data) | 입력에 정답이나 목표값이 연결되어 있다. | 거래마다 사기 여부가 표시되어 있으면 지도 학습으로 분류하는 방법을 검토한다. |
| 레이블 없음(unlabeled data) | 정답이 주어져 있지 않다. | 구매 패턴으로 고객을 묶을 수 있지만, 발견한 군집이 무엇을 뜻하는지는 별도로 해석한다. |
| 정형 데이터(structured data) | 열·타입·스키마에 따라 구조화되어 있다. | 금액·계약 기간·연체 횟수를 일정한 열에 저장한 데이터가 예다. |
| 비정형 데이터(unstructured data) | 텍스트·이미지·음성처럼 고정된 표 구조로 의미를 표현하기 어렵다. | 상담 녹음과 자유 서술 리뷰를 모델에 넣으려면 적절한 전처리와 표현 변환이 필요하다. |
| 시계열 데이터(time-series data) | 시간 순서가 분석에서 중요한 의미를 갖는다. | 일별 수요를 예측할 때 미래 정보가 훈련 데이터에 섞이지 않도록 나눈다. |
| 지도 학습(supervised learning) | 정답과 예측의 차이를 줄이도록 학습한다. | 수요량 예측에는 회귀(regression), 취소 여부 예측에는 분류(classification)를 사용한다. |
| 비지도 학습(unsupervised learning) | 정답 레이블 없이 데이터의 구조를 찾는다. | 고객군이나 주제별 그룹을 찾되, 업무상 의미는 별도로 해석한다. |
| 강화 학습(reinforcement learning) | 행동의 결과로 받은 보상(reward)을 학습에 사용한다. | 장기 누적 보상을 높이는 정책(policy)을 학습한다. 정답표를 이용하는 분류와 다르다. |
| 자기지도 학습(self-supervised learning) | 데이터 자체에서 학습 목표를 만든다. | 문맥에서 가려진 토큰이나 다음 토큰(token)을 예측한다. 사람이 모든 정답을 붙일 필요는 없다. |
표는 가이드의 개념을 자체 재구성했다. FM의 자기지도 사전 훈련과 과업별 지도 미세 조정(supervised fine-tuning, SFT)은 함께 사용할 수 있다. 모델 구조만 보고 어떤 학습법을 썼는지 확정하지 않는다. AIF-C01 영역 1 시험 가이드, FM과 과업별 ML 선택 ·전통 ML과 딥 러닝의 구분
1.2 서비스 이름보다 입력·출력 계약을 먼저 보기
| 요구 | 선택 후보 | 원리·출력 | 선택 조건·혼동 방지 |
|---|---|---|---|
| 오디오의 발화를 텍스트로 | Amazon Transcribe | 자동 음성 인식, 배치 또는 스트리밍 | 파일은 S3 기반 배치, 실시간 자막은 스트리밍. 화자 분리·언어·기능 지원을 따로 확인 |
| 텍스트의 언어 변환 | Amazon Translate | 원문 의미를 대상 언어 텍스트로 | 음성 전사 아님. 다국어 문서·채팅; 고유명사·번역 품질 확인 |
| 리뷰 감정·개체·핵심문구 추출 | Amazon Comprehend | NLP 분석 결과를 구조화 | 사전 훈련 기능은 자체 훈련 자료 없이 사용 가능; 도메인 분류·개체는 사용자 지정 모델 후보 |
| 사용자 의도에 따른 대화 진행 | Amazon Lex V2 | 의도(intent)·필요 정보(slot)·대화 흐름·이행 | 단순 녹취보다 예약·조회 대화에 적합. 업무 함수 권한과 확인 절차는 앱에서 관리 |
| 문장을 음성으로 읽기 | Amazon Polly | 음성 합성(text-to-speech, TTS) 오디오 생성 | 음성 입력을 글로 바꾸는 Transcribe와 반대. 음성·엔진·언어 지원 확인 |
| 직접 모델 훈련·배포·운영 | Amazon SageMaker AI | 데이터·훈련·엔드포인트·평가 도구 | 사용자 지정 제어 필요 시. 완성형 AI API 보다 운영 선택이 많음 |
| FM API로 생성형 앱 개발 | Amazon Bedrock | 관리형 모델 호출 및 관련 기능 | 모델별 모달리티·리전·문맥·비용·정책 확인; 인가(authorization)와 답변 검증을 대체하지 않음 |
근거: Transcribe 입력·출력과 운영 방식 ·Translate의 역할 ·Comprehend 분석과 사용자 지정 ·Lex V2 대화와 업무 이행 ·Polly와 음성 합성, 기존 Bedrock 역할과 최신 기능 경계 및 ML 수명 주기 ·추론 방식 선택 ·배치 변환. 개별 API 파라미터를 모두 외우는 것이 아니라 문제의 입력·출력·지연·제어 요구를 읽는다.
자체 사례: 다국어 상담 시스템
녹음 파일 → Transcribe 전사 → Translate로 상담원 언어 통일 → Comprehend로 감정·개체 분석이라는 흐름은 단계별 오류를 구분하기 쉽다. 음성 안내를 내보내려면 Polly를 추가한다. 환불 접수에 필요한 주문번호와 사유를 순서대로 묻고 업무 함수를 호출하는 대화라면 Lex의 의도·슬롯 관리가 유용하다. 사용자가 ‘화났다’는 감정과 ‘환불해 달라’는 업무 의도는 같지 않다.
LLM 하나로 여러 과업을 처리할 수도 있지만, 이미 과업별 API가 충족하는 요구에 더 큰 모델을 넣을 때는 정확성·형식 안정성·언어 지원·가격·감사 가능성을 비교한다. 관리형 서비스라고 개인정보 처리가 자동 허가되는 것은 아니다. Comprehend의 콘텐츠 사용 정책과 Bedrock의 데이터 보호 조건은 서비스마다 다르므로 한 서비스의 정책을 전체 AWS AI 서비스에 일반화하지 않는다. Comprehend 분석과 사용자 지정, Bedrock 데이터 보호
기존 ML과 FM 선택
기존 ML 우선 검토: 입력이 안정된 정형 데이터, 결과가 고정 클래스·수치, 모델 크기·예측 지연·설명 요구가 엄격하고 해당 과업의 레이블이 충분한 경우. 예컨대 계약 기간·연체 횟수로 이탈 확률을 구하는 문제는 자유 문장 생성이 필요 없다. 단순한 기준선과 규칙으로도 요구를 충족하는지 먼저 확인한다.
FM 우선 검토: 다양한 자연어 질의, 요약·작성·문서 이해, 과업 변경이 잦고 대규모 사전 훈련을 재사용하는 이점이 큰 경우. 다만 일반 지식 사전 훈련은 사내 최신 정책·접근권한을 보장하지 않으므로 검색/검색 증강 생성(Retrieval Augmented Generation, RAG)나 앱 통제가 추가된다. FM과 과업별 ML 선택
규제 때문에 FM은 무조건 금지, 전통 ML은 무조건 설명 가능이라는 이분법도 잘못이다. 모델별 설명 수단·데이터 경로·검증 가능성·계약·운영 위치를 평가해야 한다. 결과가 법정 산식처럼 정확히 결정되어야 한다면 산식·규칙 엔진을 실행하고 모델은 입력 이해나 설명만 맡기는 설계가 더 적합할 수 있다. 이 단락은 가이드 선택 기준에 대한 자체 설계 해설이다.
1.3 성능 지표: 무엇을 놓치면 손해인가
정답이 양성인 대상을 양성으로 맞히면 참양성(true positive, TP), 실제 음성을 음성으로 맞히면 참음성(true negative, TN)이다. 거짓양성(false positive, FP)는 정상 대상을 잘못 경보한 경우, 거짓음성(false negative, FN)은 실제 문제를 놓친 경우다. 양성의 의미를 ‘사기’ 등으로 먼저 정의해야 지표와 업무 비용을 연결할 수 있다. 혼동 행렬과 임계값 ·평가 지표와 교차 검증
| 지표 | 정의 | 적합한 질문 |
|---|---|---|
| 정확도(Accuracy) | (TP+TN)/(TP+TN+FP+FN) | 전체 예측 중 맞힌 비율이다. 클래스가 불균형하면 단순한 기준선(baseline)과도 비교한다. |
| 정밀도(Precision) | TP/(TP+FP) | 경보 중 진짜 문제가 얼마나 되나? 오탐 처리 비용이 큰가? |
| 재현율(Recall) | TP/(TP+FN) | 실제 문제를 얼마나 찾아냈나? 누락 비용이 큰가? |
| F1 점수(F1 score) | 2×정밀도×재현율/(정밀도+재현율) | 양성 검출의 두 축을 함께 보고 싶은가? TN은 직접 반영하지 않음 |
| ROC-AUC | 여러 임계값에서 TPR/FPR 관계의 면적 | 점수의 순위 구분 능력; 특정 임계값의 업무 성과와 별개 |
| 평균 절대 오차(mean absolute error, MAE) | 절대 오차의 평균 | 수치 예측에서 평균 오차를 원래 단위로 해석 |
| 평균 제곱근 오차(root mean squared error, RMSE) | 제곱 오차 평균의 제곱근 | 큰 오차에 더 민감한 회귀 평가 |
자체 계산 예제
1,000건 중 사기 10건인 데이터에서 모두 정상으로 답하면 정확도는 99%지만 사기 재현율은 0이다. 다른 모델이 TP=8, FN=2, FP=12, TN=978이면 정확도 98.6%, 정밀도 40%, 재현율 80%, F1 약 53.3%다. 정확도가 조금 낮아져도 실제 사기를 찾아내는 능력은 개선됐다. 반대로 경보 20건 중 12건이 오탐이므로 검토 인력 비용을 고려해야 한다.
이 숫자는 학습용 자체 예시이지 AWS 실측 성능이 아니다.
양성 판정 임계값을 낮추면 일반적으로 더 많은 양성을 잡는 대신 오탐도 늘 수 있다. 임계값은 ‘0.5가 정답’이 아니라 오탐·누락의 비용, 검토 용량, 규제상 요구를 기준으로 정한다. 분모가 0 인 지표는 계산 도구의 처리 규칙을 확인한다. AUC가 좋다고 운영 임계값·확률 보정·소수집단 공정성까지 자동으로 검증된 것은 아니다.
학습·검증·업무 성과를 분리하기
훈련 데이터에서는 성능이 높지만 새로운 데이터에서는 낮다면 과적합(overfitting)을 의심한다. 검증 세트(validation set)로 모델과 하이퍼파라미터(hyperparameter)를 비교하고, 최종 평가에는 별도의 데이터를 사용한다. 교차 검증(cross-validation)은 데이터를 여러 부분으로 나눈 뒤, 한 부분을 검증에 사용하고 나머지로 훈련하는 과정을 검증 부분을 바꿔 가며 반복하는 방법이다. 데이터가 적을 때 특정 분할의 우연한 결과에 의존하는 문제를 줄일 수 있지만, 데이터 누수(data leakage)나 미래 정보의 사용을 자동으로 막아 주지는 않는다. 자세한 설명은 평가 지표와 교차 검증을 참고하자.
모델 지표는 투자 수익률(return on investment, ROI)가 아니다. 예컨대 사기 적발액 증가에서 검토 인력·API·운영·재훈련 비용을 빼야 경제성을 비교할 수 있다. 고객 만족도, 답변 지연, 사용자당 비용도 따로 본다. 모델 교체 시 같은 평가 데이터와 같은 업무 조건을 사용해야 원인이 분명해진다. 배포 뒤 입력 분포·성능 변화와 정답 지연을 관찰하고 재훈련 필요를 판단한다. AIF-C01 영역 1 시험 가이드, ML 수명 주기, 자체 업무 해설
복습: 상황에서 판단하기
- ‘고객 목소리를 다른 언어 음성으로 읽어주기’는 한 서비스인가? → Transcribe(인식)·Translate(번역)·Polly(합성)처럼 기능을 나눠 생각한다.
- ‘정상 거래 차단 민원이 너무 많다’면? → FP·정밀도, 임계값, 고객군별 분포, 검토 프로세스를 확인한다. 재현율만 높이는 것은 반대 방향일 수 있다.
- ‘정형 데이터에 근거한 고정 가격 산식’이면? → 결정적 계산을 먼저 검토한다. 생성형 모델로 숫자를 추측하게 할 이유가 없다.
- ‘사내 규정이 매주 바뀌는데 대답이 과거 기준’이면? → 모델 크기만 키우지 말고 정보의 최신성·검색 경로를 확인한다. 훈련과 추론 시 컨텍스트 제공은 다르다.
공식 문서를 해석할 때의 주의
공식 페이지에도 과거 모델의 수치나 단순화된 설명, 번역상 혼동이 남아 있을 수 있다. Autopilot 문서의 FP/FN 표기는 함께 제시된 수식과 대조해서 읽는다. Amazon ML 문서는 개념을 이해하는 근거로 활용하되, 현재 신규 도입을 추천하는 근거로 보지는 않는다. Quick과 Kiro의 역할은 서비스 계층 비교에서 설명한다. 서비스별 언어, 리전(Region), 할당량(quota)은 도입 시 별도로 확인해야 한다.