Anthropic, AI 지수 증가 시대 맞는 규제 정책 프레임워크 공식 제안

AI 안전 연구 기업 Anthropic이 급속도로 발전하는 AI 시대에 맞는 새로운 정책 프레임워크를 공개적으로 제안했다. 이 문서에서 Anthropic은 "AI가 지수적 속도로 발전하고 있으나 정책 수립 과정은 훨씬 느린 세계를 위해 만들어졌다"고 진단하며, 두 가지 정책 축을 제시했다.

첫 번째는 '첨단 AI 프레임워크(Advanced AI Framework)'다. 이 프레임워크는 정부에게 위험한 AI 배포를 차단할 수 있는 실질적 규제 권한을 부여하는 것을 핵심으로 한다. 적용 대상은 10²⁵ FLOP 이상의 연산량으로 학습된 모델을 개발하는, 상당한 AI 수익 또는 연구개발 지출을 보유한 기업으로 설정됐다. 이들은 안전성 테스트 의무화, 투명성 보고서 공개, 독립 평가 수감, 강력한 보안 조치 시행 등의 요건을 이행해야 한다.

두 번째는 '경제 정책 프레임워크(Economic Policy Framework)'다. AI가 노동 시장에 미치는 영향에 대응하고, AI로 창출된 경제적 혜택이 사회 전반에 공정하게 분배될 수 있는 방안을 다룬다.

Anthropic이 특히 강조한 위험 범주는 네 가지다. 생물무기 개발 지원, AI를 통한 사이버 취약점 악용, AI 시스템에 대한 통제 상실, 그리고 AI 기반 자동화 연구개발의 위험한 증폭이 여기에 해당한다. 이 네 가지는 예방적 조치와 사회 회복탄력성 강화 전략 양 측면에서 각각 대응 방안이 제시됐다.

이 정책 제안서는 Anthropic이 단순한 AI 제품 기업을 넘어 AI 거버넌스 설계에 적극 참여하겠다는 의지를 공식화한 문서로, 특히 미국 정부와의 협력 방향성을 사전에 정립하는 성격도 있다.