기능을 질문에 연결하기
| 통제할 대상 | 기능 | 혼동 금지 |
|---|---|---|
| 유해 표현과 프롬프트 공격(prompt attack) | 콘텐츠 필터(content filter)로 위험한 입력이나 출력을 검사한다. | 호출자 인증(authentication)이나 작업 인가(authorization)를 대신하지는 않는다. |
| 업무상 다루지 않을 영역 | 거부된 주제(denied topics)를 지정해 해당 주제의 응답을 제한한다. | 특정 단어가 있는지만 검사하는 기능과 다르다. |
| 특정 단어와 문구 | 단어 필터(word filter)로 지정한 표현을 검사한다. | 문맥 전체의 안전성을 판단하는 것과 다르다. |
| 개인 식별 정보(personally identifiable information, PII) 등 민감 정보 | 탐지한 정보를 차단하거나 마스킹(masking)하며 정규 표현식(regular expression)도 활용한다. | 확률적 탐지는 모든 민감 정보를 빠짐없이 찾는다고 보장하지 않는다. |
| 근거에 없거나 질문과 무관한 응답 | 컨텍스트 근거 검사(contextual grounding check)로 응답이 제공한 자료에 근거하고 질문과 관련되는지 확인한다. | 세상의 모든 사실에 대해 참과 거짓을 판정하는 기능은 아니다. |
| 정의한 논리 규칙과 응답의 일치 | 자동 추론 검사(Automated Reasoning checks)로 정해진 규칙과의 일치를 검증한다. | 규칙에 포함되지 않은 사실까지 보증하지는 않는다. |
가드레일(guardrail)을 초안에서 테스트한 뒤 사용할 버전을 정한다. 모델 추론(inference)을 호출할 때 가드레일의 ID와 버전을 지정하거나, 파운데이션 모델(foundation model, FM)을 호출하지 않고 ApplyGuardrail로 콘텐츠를 검사할 수 있다. 다만 모든 입력 블록을 항상 같은 방식으로 검사하는 것은 아니다. 추론 콘텐츠 블록의 제외 여부와 일부 프롬프트만 선택해 평가하는 기능은 SDK와 콘솔의 지원 차이를 확인해야 한다.
출력 검사는 도구 실행 뒤가 아니라 위험한 동작을 승인하기 전에도 필요하다(설계상 해설). 필터 통과는 자격 증명 및 액세스 관리(AWS Identity and Access Management, IAM) 권한 부여 근거가 아니다.
적용 범위: 티어·언어·권한과 선택적 입력 평가의 SDK·콘솔 차이는 구현 전에 확인한다.
공식 출처와 이어 읽기
용어 확인: 인가(authorization) · 파운데이션 모델(foundation model, FM) · 추론(inference).