Fable 5 재배포 — 안전장치 강화 후 전 세계 서비스 재개

Anthropic의 Claude Fable 5와 Mythos 5 모델이 6월 12일 미국 정부의 수출 규제로 일시 중단됐다가, 7월 1일부터 전 세계 사용자에게 복구됐다. 약 3주간의 중단 기간 동안 Anthropic은 두 가지 문제를 동시에 해결해야 했다.

기술적 과제는 Amazon 연구진이 발견한 안전장치 우회 기법(jailbreak)이었다. Anthropic에 따르면 이 기법을 통해 모델이 소프트웨어 취약점을 식별하도록 유도될 수 있었다. Anthropic은 개선된 안전 분류기(safety classifier)를 배포해 "보고된 특정 기법을 99% 이상 차단"하도록 했다. 다만, 더 넓은 보안 여유를 적용하면서 일부 양성 요청도 함께 차단되는 트레이드오프가 있음을 인정했다.

정부 규제 측면에서는 미국 수출 당국과 협력해 규제 해제를 이끌어냈다. Anthropic은 미국 정부와의 협력을 강화해 선제 평가, 신속한 정보 공유, 공동 연구 지원을 약속했다.

장기 대책으로는 Amazon, Microsoft, Google과 함께 AI 모델 보안 우회의 심각도를 평가하는 합의 기반 산업 프레임워크 개발을 추진한다. 네 가지 평가 기준으로 능력 향상도, 광범위성, 무기화 용이성, 발견 가능성을 제시했다.