Google DeepMind, 멀티 에이전트 AI 안전 연구에 1,000만 달러 펀딩 출범

Google DeepMind가 Schmidt Sciences, Cooperative AI Foundation, ARIA(첨단연구발명기구), Google.org와 공동으로 멀티 에이전트 AI 안전 연구에 최대 1,000만 달러의 자금을 지원하는 이니셔티브를 발표했다. 서로 다른 기관이 개발한 수백만 개의 AI 에이전트가 디지털 환경에서 상호작용하는 시대가 다가오면서, 기존 단일 에이전트 중심의 안전 평가 방식으로는 예측하기 어려운 새로운 위험이 부상하고 있다는 문제의식에서 비롯됐다.

이번 펀딩은 네 가지 핵심 연구 영역을 지원한다. 첫째, 가상 시장이나 시뮬레이션 생태계를 활용한 멀티 에이전트 안전 평가 샌드박스·테스트베드 구축이다. 둘째, 에이전트 집단이 어떻게 역량을 집합적으로 발현하는지, 어떤 상황에서 네트워크가 위험하게 실패하는지를 연구하는 에이전트 네트워크 과학 분야다. 셋째, 크로스 플랫폼 상호작용에서의 신원·평판·보안 프로토콜을 강화하는 에이전트 인프라 연구다. 넷째, 배포된 에이전트 집단에 대한 모니터링과 위험 완화 전략을 개발하는 감독·통제 방법론이다.

Google DeepMind는 "이 시스템들이 상호작용할 때 안전하고 예측 가능하게 작동해야 한다. 이 전환점은 AI 생태계 전체의 안전·안정성을 처음부터 강화할 수 있는 중요한 기회를 만들어준다"고 밝혔다. 연구비 신청 마감은 2026년 8월 8일이며, 최종 수혜 기관은 같은 해 가을에 발표될 예정이다.

이번 이니셔티브는 글로벌 학계 및 독립 연구자에게 열려 있다. 한국 AI 연구자 및 기관도 지원할 수 있으며, 국내에서도 생성 AI 에이전트 서비스가 빠르게 확산되는 시점에 멀티 에이전트 시스템의 안전성 연구는 학계·산업계 모두에 실질적인 의미를 가진다.