파운데이션 모델(foundation model, FM)은 광범위한 데이터로 사전 훈련(pre-training)한 표현을 여러 과업에 재사용하는 모델이다. 특정 과업에 맞춘 기계 학습(machine learning, ML) 모델과 비교하면, 다양한 지시를 받거나 후속 과업(downstream task)에 적응시켜 활용할 수 있다는 장점이 있다. 대규모 사전 훈련을 직접 수행할 부담은 줄지만, 학습 데이터의 편향(bias), 잘못된 응답, 애플리케이션 통합과 추론(inference) 비용은 여전히 고려해야 한다. 특히 사내의 최신 정보가 필요하면 별도 검색(retrieval)으로 자료를 찾아 문맥(context)에 넣어야 할 수 있다.
자체 선택 예시: 고정된 정형 입력에서 연체 여부를 예측하면 전통 분류 기준선을 비교하고, 다양한 문서 요약이면 FM 활용을 검토한다. FM은 무조건 고품질, 전통 ML은 무조건 설명 가능이라는 단정은 하지 않는다.
사전 훈련 모델을 쓰면 대규모 훈련의 부담을 줄일 수 있지만 추론 비용과 편향, 잘못된 응답, 앱 통합 책임은 남는다. 과거 모델의 파라미터 수나 출시 시점을 현재 사양으로 외우지 않는다. 프롬프트에서 예시를 제공하는 적응은 모델 가중치를 계속 훈련하는 과정과 다르다.
적용 범위: 개요의 과거 모델 규모·출시 시점은 현재 사양으로 사용하지 않는다. 프롬프트 적응을 가중치의 지속 학습과 혼동하지 않는다.
공식 출처와 이어 읽기
용어 확인: 추론(inference) · 기계 학습(machine learning, ML).