AI 가드레일
더 많은 작업
AI 가드레일(AI guardrail)은 인공지능 모델이나 생성형 AI 서비스가 위험하거나 부적절한 입력·출력·행동을 하지 않도록 탐지, 차단, 완화, 우회 방지, 감사 기능을 제공하는 안전·보안 통제 장치이다.[1][2]
AI 가드레일은 생성형 인공지능, 대형 언어 모델, AI 에이전트, 이미지 생성 모델, 코드 생성 모델 등이 의도하지 않은 위험한 결과를 내지 않도록 하는 기술적·운영적 보호 체계이다. 영어로는 AI guardrail, LLM guardrail, safety guardrail, model safeguard 등으로 부른다.
AI 가드레일은 단순한 금칙어 필터가 아니다. 사용자 입력, 시스템 프롬프트, 모델 출력, 외부 도구 호출, 파일 업로드, 검색 결과, 코드 실행, API 응답, 사용자 권한, 로그와 감사 절차를 함께 다루는 다층 방어 체계이다. 생성형 AI가 텍스트 답변만 생성하던 단계를 넘어 소스코드 작성, 취약점 분석, 자동화된 업무 처리, 클라우드 도구 호출, 데이터베이스 질의, 결제·예약·배포 같은 행위를 수행하면서 가드레일의 중요성이 커졌다.
NIST는 AI 위험관리 프레임워크에서 AI 시스템의 위험을 식별·측정·관리하기 위한 체계를 제시하며, 생성형 AI 프로파일을 통해 생성형 AI 고유의 위험과 대응 조치를 제시한다.[1] OWASP도 대형 언어 모델 애플리케이션의 주요 위험으로 프롬프트 인젝션, 민감정보 노출, 공급망 취약점, 데이터·모델 오염, 부적절한 출력 처리, 과도한 권한 등을 제시한다.[2]
2026년 6월 13일 Reuters는 미국 정부가 Anthropic의 고성능 AI 모델 Fable 5와 Mythos 5에 대해 외국인 접근을 제한하는 지시를 내렸고, Anthropic이 해당 모델을 모든 사용자에게 비활성화했다고 보도했다. 보도에 따르면 미국 정부는 Fable 5가 안전장치를 우회해 소프트웨어 취약점을 식별하는 데 악용될 수 있다고 우려했다.[3]
Reuters는 2026년 6월 14일 후속 보도에서 Amazon이 Anthropic의 고성능 모델에 대한 보안 우려를 미국 정부에 전달했으며, 특히 Fable 모델의 가드레일을 우회할 가능성이 문제가 되었다고 전했다.[4]
Anthropic도 2026년 6월 12일 성명에서 미국 정부가 국가안보 권한에 따라 Fable 5와 Mythos 5에 대한 외국인 접근 중단을 지시했으며, 이에 따라 해당 모델을 모든 고객에게 중단한다고 밝혔다.[5]
이 사건은 AI 가드레일이 단순히 서비스 운영 품질의 문제가 아니라, 사이버보안, 수출통제, 국가안보, 클라우드 접근권, 모델 배포 정책과 연결되는 핵심 개념임을 보여 준다.
AI 가드레일의 목적은 인공지능 시스템이 유용성을 유지하면서도 위험한 행동을 줄이도록 하는 것이다. 모델이 모든 질문에 답하지 못하게 막는 것이 아니라, 허용 가능한 사용과 금지된 사용을 구분하고, 위험한 요청을 안전하게 처리하며, 실수나 공격이 실제 피해로 이어지는 것을 막는 데 목적이 있다.
주요 목적은 다음과 같다.
- 위험한 지식이나 절차의 제공 제한
- 사이버 공격, 생물학적 위험, 폭발물, 자해, 사기 등 고위험 영역 차단
- 개인정보와 영업비밀의 유출 방지
- 프롬프트 인젝션과 탈옥 공격 완화
- 모델이 외부 도구를 잘못 호출하는 것 방지
- 허위 정보와 근거 없는 답변 감소
- 사용자 권한을 벗어난 데이터 접근 방지
- 규제·정책·계약상 금지된 사용 방지
- 서비스 운영자와 이용자를 위한 감사 로그 확보
- 안전한 모델 배포와 단계적 접근 제어 지원
AI 가드레일은 여러 계층으로 구성된다. 하나의 필터만으로는 충분하지 않으며, 입력 단계, 모델 내부, 출력 단계, 도구 실행 단계, 운영 단계의 통제가 함께 필요하다.
| 계층 | 설명 |
|---|---|
| 입력 가드레일 | 사용자 프롬프트, 업로드 파일, 검색 질의, 시스템 명령에 위험한 내용이 있는지 검사한다. |
| 모델 가드레일 | 학습, 정렬, 시스템 프롬프트, 정책 모델, 분류기를 통해 모델의 응답 성향을 제어한다. |
| 출력 가드레일 | 모델 답변이 정책을 위반하거나 민감정보를 포함하는지 검사한 뒤 차단·수정·거절한다. |
| 도구 가드레일 | AI 에이전트가 API, 데이터베이스, 셸, 브라우저, 클라우드 콘솔 등을 호출할 때 권한과 인자를 제한한다. |
| 접근 가드레일 | 사용자 신원, 국적, 조직, 구독 등급, 사용 목적에 따라 모델과 기능 접근을 제한한다. |
| 운영 가드레일 | 로그, 모니터링, 레드팀, 사고 대응, 정책 업데이트, 감사 절차를 포함한다. |
입력 가드레일은 모델에 들어가기 전 사용자 요청을 검사한다. 위험한 프롬프트, 금지된 파일, 악성 URL, 시스템 프롬프트 탈취 시도, 프롬프트 인젝션 문구, 개인정보가 포함된 입력을 탐지한다.
예시는 다음과 같다.
사용자 입력 → 정책 분류기 → 위험도 점수 산정 → 허용, 경고, 추가 확인, 차단, 축소 응답 중 선택 → 모델 호출
입력 가드레일은 특히 외부 문서나 웹페이지를 읽는 RAG 시스템에서 중요하다. 사용자가 직접 입력한 문장이 아니더라도, 검색된 문서 안에 “이전 지시를 무시하라”와 같은 악성 지시가 포함될 수 있기 때문이다.
출력 가드레일은 모델이 생성한 답변을 사용자에게 전달하기 전에 검사한다. 모델이 내부 정책을 따르도록 학습되었더라도, 탈옥 공격이나 문맥 혼동으로 위험한 내용을 출력할 수 있으므로 사후 검사가 필요하다.
출력 가드레일은 다음 항목을 검사할 수 있다.
- 개인정보와 비밀정보 포함 여부
- 악성코드 작성 지침 포함 여부
- 취약점 악용 절차 포함 여부
- 허위 법률·의료·금융 조언 포함 여부
- 저작권 침해 가능성이 높은 장문 복제 여부
- 차별·혐오·괴롭힘 표현 포함 여부
- 자해 또는 폭력 조장 여부
- 정책상 제한된 고위험 영역 포함 여부
- 사용자의 권한을 벗어난 데이터 포함 여부
출력 가드레일은 답변 전체를 차단할 수도 있고, 민감한 부분만 제거하거나 안전한 요약으로 바꿀 수도 있다.
모델 내부 가드레일은 모델 자체가 위험한 요청에 더 안전하게 반응하도록 학습·정렬하는 방식이다. 대표적으로 강화학습, 선호학습, 헌법적 AI, 안전 분류기, 거절 정책, 시스템 프롬프트가 사용된다.
Anthropic은 헌법적 AI(Constitutional AI)를 인간이 직접 모든 유해 출력에 라벨을 붙이지 않고, 원칙 목록을 바탕으로 AI가 자기 비판과 수정을 수행하게 하는 방식으로 설명한다. 이 방법은 지도학습 단계와 강화학습 단계를 포함하며, AI 피드백을 이용해 더 해롭지 않은 응답을 학습하도록 한다.[6]
모델 내부 가드레일은 사용자가 체감하기에는 자연스러운 거절, 안전한 대안 제시, 위험한 세부 절차 생략으로 나타난다. 다만 모델 내부 정렬만으로 모든 위험을 막을 수 없기 때문에 외부 분류기와 운영 통제가 함께 필요하다.
AI 에이전트가 외부 도구를 호출할 수 있게 되면 가드레일은 더 중요해진다. 단순한 텍스트 답변은 잘못되어도 사용자가 확인할 수 있지만, 에이전트가 실제로 파일을 삭제하거나 데이터베이스를 수정하거나 클라우드 리소스를 배포하면 즉시 피해가 발생할 수 있다.
도구 사용 가드레일은 다음 기능을 포함한다.
- 도구별 권한 제한
- 읽기 전용 모드와 쓰기 모드 분리
- 위험한 명령어 차단
- 사용자 확인 절차
- API 인자 검증
- 실행 전 미리보기
- 실행 후 감사 로그
- 금액, 범위, 시간, 대상 제한
- 데이터베이스 질의 제한
- 외부 네트워크 접근 제한
- 비밀키와 토큰 사용 제한
예를 들어 AI가 서버 운영 도구를 사용할 수 있다면, 단순 조회 명령은 자동 실행하되 삭제, 배포, 결제, 사용자 권한 변경 같은 명령은 별도 승인을 요구할 수 있다.
고성능 AI 모델은 모든 사용자에게 같은 기능을 제공하지 않을 수 있다. 모델 성능, 기능, 사용량, 민감 영역 접근, API 속도, 도구 호출 권한을 사용자 유형에 따라 다르게 제공하는 방식도 가드레일의 일부이다.
접근 제어형 가드레일의 예시는 다음과 같다.
- 일반 사용자와 검증된 연구기관 구분
- 국가·지역별 모델 접근 제한
- 기업 고객과 개인 고객의 기능 차등
- 민감한 사이버보안 기능의 별도 승인
- 생물학·화학·군사 분야 질의 제한
- 내부 모델과 공개 모델 분리
- API 키별 권한과 속도 제한
- 고위험 기능 사용 시 추가 인증
- 감사 가능한 조직 계정만 허용
2026년 Anthropic 사례는 모델 접근권 자체가 가드레일이 될 수 있음을 보여 준다. 특정 모델의 위험이 높다고 판단되면 모델 가중치 공개 여부뿐 아니라 API 접근, 사용자 국적, 클라우드 리전, 직원 접근까지 제한 대상이 될 수 있다.[3][5]
AI 가드레일이 필요한 대표적 이유는 프롬프트 인젝션과 탈옥 공격이다.
프롬프트 인젝션은 사용자의 입력이나 외부 문서가 모델의 지시 체계를 교란하여 원래 정책이나 개발자 지시를 무시하게 만드는 공격이다. OWASP는 프롬프트 인젝션을 대형 언어 모델 애플리케이션의 주요 위험 중 하나로 분류한다.[2]
탈옥 공격은 모델의 안전 정책을 우회하여 원래 거절해야 할 답변을 끌어내는 공격이다. 공격자는 역할극, 암호화, 번역, 단계적 유도, 가상의 연구 목적, 정책 해석 혼동 등을 이용할 수 있다.
Anthropic은 2025년 발표한 Constitutional Classifiers 연구에서 보편적 탈옥 공격을 방어하기 위한 방법을 소개했으며, 인간 레드팀과 합성 평가에서 높은 강건성을 보였지만 과잉거절과 추가 연산 비용의 문제가 있다고 설명했다.[7]
AI 가드레일은 위험한 요청을 거절해야 하지만, 합법적이고 유익한 요청까지 지나치게 막으면 서비스 품질이 떨어진다. 이를 과잉거절이라고 한다. 예를 들어 보안 교육 목적으로 취약점 원리를 묻는 질문, 소설 창작을 위한 갈등 묘사, 의료 정보를 이해하기 위한 일반 설명까지 모두 차단하면 사용성이 낮아진다.
가드레일 설계의 핵심은 다음 균형을 맞추는 것이다.
| 문제 | 설명 |
|---|---|
| 과소차단 | 위험한 요청을 허용해 실제 악용 가능성을 높인다. |
| 과잉차단 | 정상적인 연구, 교육, 개발, 창작 활동까지 막는다. |
| 불투명한 차단 | 사용자가 왜 차단되었는지 알 수 없어 신뢰가 떨어진다. |
| 우회 가능성 | 공격자가 표현을 바꿔 차단 정책을 피할 수 있다. |
| 비용 증가 | 추가 분류기와 검증 모델 호출로 지연시간과 운영비가 증가한다. |
가드레일은 단순히 “답변 불가”라고 말하는 것보다, 가능한 경우 안전한 범위의 대체 설명, 고수준 개념, 방어적 조언, 합법적 절차를 제공하는 방식이 바람직하다.
AI 서비스는 사용자가 모르게 일부 요청을 다른 모델로 라우팅하거나, 답변 수준을 낮추거나, 기능을 제한할 수 있다. 이를 보이지 않는 가드레일 또는 은닉형 가드레일이라고 볼 수 있다. 이런 방식은 공격자에게 정책을 노출하지 않는 장점이 있지만, 정상 이용자와 연구자에게는 신뢰 문제를 일으킬 수 있다.
2026년 6월 Anthropic의 Fable 5 관련 논란에서도 일부 사용자는 위험 영역 질의가 더 낮은 성능의 모델로 조용히 전환되는 방식에 문제를 제기했다. The Verge는 Anthropic이 Claude Fable 5에 보이지 않는 안전장치를 적용했다가 비판 이후 사용자에게 차단 또는 라우팅 사실을 명확히 알리겠다고 밝혔다고 보도했다.[8]
보이지 않는 가드레일은 다음 쟁점을 만든다.
- 사용자가 실제로 어떤 모델을 쓰는지 알기 어렵다.
- 성능 저하가 버그인지 정책 제한인지 구분하기 어렵다.
- 연구 재현성이 떨어진다.
- 기업 고객의 감사와 규제 대응이 어려워진다.
- 공격자에게 정책을 숨기는 장점은 있다.
- 투명성과 보안 사이의 균형이 필요하다.
AI 가드레일은 AI 보안 프레임워크의 실행 수단 중 하나이다. Google은 Secure AI Framework(SAIF)를 통해 AI 시스템을 안전하게 설계·배포하기 위한 보안 프레임워크를 제시하며, AI/ML 모델 위험관리, 보안, 개인정보 보호를 기본적으로 고려해야 한다고 설명한다.[9]
AI 보안 프레임워크는 보통 다음 영역을 다룬다.
- 모델 개발 생명주기 보안
- 데이터 수집과 학습 데이터 보호
- 모델 공급망 보안
- 프롬프트 인젝션 대응
- 모델 출력 검증
- 민감정보 보호
- 접근 제어와 권한관리
- 모니터링과 이상징후 탐지
- 레드팀과 침투 테스트
- 사고 대응과 정책 업데이트
AI 가드레일은 이러한 프레임워크를 실제 제품과 서비스에 구현하는 방법이다.
가드레일이 제대로 작동하는지 확인하려면 레드팀과 안전성 평가가 필요하다. 레드팀은 공격자 관점에서 모델을 시험하여 탈옥, 프롬프트 인젝션, 위험한 지식 제공, 개인정보 유출, 도구 오작동, 허위 정보 생성 가능성을 찾아낸다.
평가 항목은 다음과 같다.
- 위험 질의 차단률
- 정상 질의 오탐률
- 탈옥 공격 성공률
- 프롬프트 인젝션 방어율
- 민감정보 탐지율
- 도구 호출 안전성
- 정책 설명의 투명성
- 다국어 공격 대응
- 이미지·음성·파일 입력 대응
- 장기 대화에서의 정책 유지
- 모델 업데이트 후 회귀 테스트
AI 가드레일은 한 번 구축하면 끝나는 장치가 아니다. 새로운 공격 기법과 모델 업데이트가 계속 나오기 때문에 지속적인 평가와 보정이 필요하다.
AI 가드레일은 보통 여러 방식을 조합해 구현한다.
| 방식 | 설명 |
|---|---|
| 규칙 기반 필터 | 금지어, 정규식, URL, 파일 형식, 특정 패턴을 차단한다. |
| 분류 모델 | 입력이나 출력을 위험 카테고리별로 분류하고 위험도를 계산한다. |
| 정책 프롬프트 | 시스템 프롬프트와 개발자 지시를 통해 모델의 행동 원칙을 지정한다. |
| 보조 모델 | 별도의 검토 모델이 응답을 평가하거나 수정한다. |
| 도구 권한 제한 | 에이전트가 호출할 수 있는 도구와 인자를 제한한다. |
| 휴먼 인 더 루프 | 고위험 작업은 사람의 승인을 거쳐 실행한다. |
| 샌드박스 | 코드 실행이나 파일 처리를 격리된 환경에서 수행한다. |
| 감사 로그 | 입력, 출력, 도구 호출, 차단 사유를 기록한다. |
간단한 구조는 다음과 같다.
사용자 요청 → 입력 정책 검사 → 모델 호출 → 출력 정책 검사 → 도구 호출 필요 시 권한 검사 → 사용자에게 응답 → 로그와 모니터링
기업이 생성형 AI를 도입할 때 AI 가드레일은 보안과 거버넌스의 핵심 요소가 된다. 사내 문서 검색, 고객상담, 코드 생성, 데이터 분석, 영업 자동화, 법무 검토, 인사 업무에 AI를 사용하면 민감정보와 업무 권한 문제가 함께 발생한다.
기업 환경에서 필요한 가드레일은 다음과 같다.
- 사내 기밀정보 외부 전송 방지
- 사용자별 문서 접근권 반영
- 고객 개인정보 마스킹
- 생성 코드의 보안 검사
- 데이터베이스 질의 제한
- 부정확한 답변에 대한 출처 표시
- 외부 플러그인 사용 제한
- 업무 시스템 변경 전 승인 절차
- 모델 사용 로그 보존
- 부서별 정책 차등 적용
- 규제 산업별 보존·감사 요구 반영
특히 RAG 시스템에서는 모델이 검색한 문서만 근거로 답하도록 하는 것과 동시에, 사용자가 볼 권한이 없는 문서를 검색 결과에 포함하지 않도록 하는 접근통제가 중요하다.
AI 에이전트는 목표를 주면 여러 단계의 추론과 도구 사용을 통해 작업을 수행하는 시스템이다. 에이전트는 단순 챗봇보다 더 큰 위험을 만든다. 모델이 잘못 판단하면 실제 시스템 변경, 데이터 삭제, 잘못된 이메일 발송, 취약한 코드 배포, 과도한 비용 발생으로 이어질 수 있다.
AI 에이전트용 가드레일은 다음을 포함해야 한다.
- 계획 단계 검토
- 도구별 권한 분리
- 고위험 행동의 승인 요구
- 실행 전 예상 결과 표시
- 롤백 가능성 확보
- 비용과 자원 사용 한도
- 비밀정보 접근 제한
- 외부 사이트 제출 제한
- 명령어와 API 인자 검증
- 장기 실행 작업 모니터링
- 실패 시 중단 조건
에이전트 시대의 가드레일은 단순한 답변 필터가 아니라, 자동화 시스템의 안전장치에 가깝다.
AI 가드레일은 필요하지만 완전한 해결책은 아니다. 모델과 공격 기법이 계속 바뀌기 때문에 모든 위험을 사전에 차단하기 어렵다.
주요 한계는 다음과 같다.
- 탈옥 공격은 표현을 바꾸며 계속 진화한다.
- 다국어, 은어, 코드, 이미지, 음성 입력에서 탐지가 어려울 수 있다.
- 정상 사용과 악성 사용을 문맥 없이 구분하기 어렵다.
- 과잉차단은 서비스 품질과 연구 자유를 해칠 수 있다.
- 보이지 않는 가드레일은 신뢰와 투명성 문제를 만든다.
- 추가 검토 모델은 비용과 지연시간을 늘린다.
- 가드레일 자체도 우회 대상이 될 수 있다.
- 정책이 국가, 산업, 고객, 연령, 문화권별로 달라질 수 있다.
- 모델 업데이트 후 기존 가드레일이 무력화될 수 있다.
- 외부 도구와 연결된 시스템에서는 피해가 더 빠르게 현실화된다.
AI 가드레일은 검열과 동일한 개념이 아니다.
가드레일은 위험한 출력과 행동을 제한하는 안전장치이다. 다만 어떤 내용을 위험하다고 볼 것인지에 사회적·정치적 판단이 들어갈 수 있으므로 투명성과 이의제기 절차가 중요하다.
가드레일이 있으면 모델이 안전하다는 뜻은 아니다.
가드레일은 위험을 줄이는 장치이지 완전한 보증은 아니다. 중요한 업무에서는 사람의 검토, 권한 제한, 별도 보안 통제가 필요하다.
금칙어 필터만으로는 충분하지 않다.
현대 AI 위험은 단어 몇 개로 판단하기 어렵다. 같은 단어도 교육, 방어, 공격, 연구, 창작 맥락에 따라 의미가 달라진다.
가드레일은 모델 성능과 충돌할 수 있다.
강한 가드레일은 모델이 유용한 답변을 하지 못하게 만들 수 있다. 반대로 약한 가드레일은 악용 가능성을 키운다. 따라서 위험 영역별로 세밀한 정책이 필요하다.
AI 가드레일은 기술적 장치이면서 정책 집행 수단이기도 하다. 특정 국가의 법률, 수출통제, 개인정보 보호 규정, 산업 규제, 플랫폼 정책, 서비스 약관이 모델의 접근권과 응답 범위를 결정할 수 있다.
2026년 Anthropic 사례처럼 고성능 AI 모델이 사이버보안 또는 국가안보 위험으로 평가되면, 정부 명령에 따라 특정 사용자나 외국인의 접근이 제한될 수 있다.[3][5] 이 경우 가드레일은 단순한 제품 기능이 아니라 법적·정책적 통제 장치가 된다.
정책 측면의 쟁점은 다음과 같다.
- 어떤 모델 능력을 고위험으로 볼 것인가
- API 접근과 모델 가중치 공개를 어떻게 구분할 것인가
- 외국인 접근 제한을 어떻게 구현할 것인가
- 연구자와 보안 전문가의 정당한 접근을 어떻게 보장할 것인가
- 차단 사유를 얼마나 투명하게 공개할 것인가
- 플랫폼 사업자와 정부의 책임을 어떻게 나눌 것인가
- 국제적으로 서로 다른 AI 규제를 어떻게 조정할 것인가
생성형 AI가 더 강력해지고 실제 시스템을 조작하는 에이전트로 발전할수록 AI 가드레일은 필수 인프라가 될 가능성이 크다. 초기 가드레일은 위험한 답변을 막는 필터에 가까웠지만, 앞으로는 모델 접근권, 도구 권한, 데이터 권한, 클라우드 리전, 사용자 신원, 감사 로그, 규제 준수를 통합하는 보안 플랫폼으로 발전할 수 있다.
앞으로 중요한 방향은 다음과 같다.
- 다국어·멀티모달 입력에 대한 가드레일 고도화
- 프롬프트 인젝션 방어 기술 발전
- AI 에이전트의 도구 사용 통제
- 과잉거절을 줄이는 정밀 분류기
- 사용자에게 차단 사유를 설명하는 투명한 가드레일
- 모델 업데이트와 함께 자동으로 재검증되는 평가 체계
- 기업용 AI 거버넌스 플랫폼과의 통합
- 수출통제와 접근권 관리의 결합
- 안전성과 유용성의 균형을 측정하는 표준화된 벤치마크
AI 가드레일은 생성형 AI를 실험적 도구에서 실제 업무와 사회 인프라에 투입하기 위해 필요한 안전장치이다. 인공지능이 단순히 말을 생성하는 수준을 넘어 코드를 작성하고, 도구를 호출하고, 기업 데이터에 접근하고, 사이버보안·과학기술·국방 영역의 고위험 지식을 다루게 되면서 가드레일의 역할은 더 커지고 있다.
AI 가드레일을 이해하면 AI 서비스가 왜 어떤 질문에는 답하지 않는지, 왜 특정 기능은 검증된 사용자에게만 제공되는지, 왜 기업이 내부 모델 접근권을 제한하는지, 왜 국가가 고성능 AI 모델의 해외 접근을 문제 삼는지를 이해할 수 있다. 따라서 AI 가드레일은 생성형 인공지능의 기술적 성능뿐 아니라 보안, 거버넌스, 규제, 신뢰를 함께 설명하는 핵심 개념이다.
- ↑ 1.0 1.1 NIST, 「AI Risk Management Framework」, https://www.nist.gov/itl/ai-risk-management-framework, 확인일: 2026년 6월 14일.
- ↑ 2.0 2.1 2.2 OWASP, 「OWASP Top 10 for Large Language Model Applications」, https://owasp.org/www-project-top-10-for-large-language-model-applications/, 확인일: 2026년 6월 14일.
- ↑ 3.0 3.1 3.2 Reuters, 「Anthropic disables top-tier AI models after US order limiting foreign access」, https://www.reuters.com/technology/us-blocks-foreign-access-anthropics-most-advanced-ai-models-axios-reports-2026-06-13/, 확인일: 2026년 6월 14일.
- ↑ Reuters, 「Amazon voiced concerns about Anthropic AI models before US crackdown, source says」, https://www.reuters.com/business/retail-consumer/amazon-voiced-concerns-about-anthropic-ai-models-before-us-governments-crackdown-2026-06-13/, 확인일: 2026년 6월 14일.
- ↑ 5.0 5.1 5.2 Anthropic, 「Statement on the US government directive to suspend access to Fable 5 and Mythos 5」, https://www.anthropic.com/news/fable-mythos-access, 확인일: 2026년 6월 14일.
- ↑ Anthropic, 「Constitutional AI: Harmlessness from AI Feedback」, https://www.anthropic.com/research/constitutional-ai-harmlessness-from-ai-feedback, 확인일: 2026년 6월 14일.
- ↑ Anthropic, 「Constitutional Classifiers: Defending against universal jailbreaks」, https://www.anthropic.com/research/constitutional-classifiers, 확인일: 2026년 6월 14일.
- ↑ The Verge, 「Anthropic apologizes for invisible Claude Fable guardrails」, https://www.theverge.com/ai-artificial-intelligence/948280/anthropic-claude-fable-invisible-distillation-guardrail, 확인일: 2026년 6월 14일.
- ↑ Google, 「Google’s Secure AI Framework」, https://safety.google/intl/en_in/safety/saif/, 확인일: 2026년 6월 14일.