이규환 태재미래전략연구원 연구원 (glee@fcinst.org)

채텀하우스는 글로벌 AI 거버넌스가 작동하지 않는 이유를 세 가지 구조적 장벽으로 정리했다.

첫째는 지정학적 분절이다. 미·중 전략 경쟁 구도에서 양국 모두 구속력 있는 AI 협력에 나설 인센티브가 없다. 미국은 세계 최대 AI 기업들을 자국에 두고 있어 필요하면 국내 규제로 다룰 수 있는 만큼 국제 협정으로 자국 산업을 묶을 이유가 없고, 중국은 기밀에 해당하는 모델 가중치와 훈련 과정에 대한 제3자 검증을 받아들이기 어렵다. 이런 구조에서 두 나라가 집행 가능한 합의에 이를 가능성은 현재로선 낮다. 또 EU·영국·일본은 미국과의 동맹 틀에서 움직이고, 글로벌 사우스는 발언권이 약해 거버넌스의 정치적 토대에서 배제되어 있다.

둘째는 민간 투자가 공공의 규제 역량을 훨씬 초과한다는 점이다. 첨단 AI 기술 개발은 민간 기업에 집중되어 있다. 2026년 글로벌 기업들의 AI 자본 지출은 5,270억 달러로 추정되는 반면, EU 인공지능법의 시행·집행 예산은 단 10억 유로에 불과하다.² 영국 AI 안전연구소(AI Safety Institute)의 2년 예산이 1억 파운드인 데 비해 대형 민간 AI 연구소는 일주일에 그 이상을 지출한다. 규제 역량이 산업 속도를 따라가지 못해 무엇을 규제할지 정하기도 전에 기술이 바뀌어 버리는 일이 분기마다 반복된다.

셋째는 국제기구의 무력화다. UN, OECD, G7 모두 AI 거버넌스 논의의 무대가 되고 있지만 어느 곳도 집행 권한을 갖추지 못했고 기술 역량 또한 부족하다. 의사결정은 느린데 그 사이 AI 산업은 분기 단위로 진화하면서 거버넌스 기능의 공백이 발생하고 있다.

보고서는 이러한 교착이 통찰의 부족 때문이 아니라, 현재의 AI 정치경제 구조가 조정을 사실상 불가능하게 만들기 때문이라고 진단한다. 무엇을 해야 하는지 몰라서가 아니라 그것을 실행할 정치적 조건이 부재한 상황에서 더 많은 보고서나 선언으로 이 교착을 풀 수는 없다.

보고서는 이 외에 국제관계가 점점 이익 중심의 거래관계로 전환되고 있다는 점, 최근 20여 년 동안 정부·언론·과학기관에 대한 대중의 신뢰가 현저히 낮아지고 있다는 점도 글로벌 협력 거버넌스의 구축을 저해하고 있다고 지적했다.

보고서는 이 교착의 출구를 역사에서 찾는다. 인류는 평시에는 글로벌 거버넌스를 만들지 못했으며 큰 위기가 닥치고 나서야 방법을 찾았다는 것이다.

2007년 시작된 글로벌 금융위기는 G20 정상회의 확대와 금융안정위원회(FSB) 출범을 낳았다. 이전에는 정치적으로 어려웠던 국제 금융 규제 강화가 위기 이후 불과 1년 만에 G20에서 합의됐다. 2017년 워너크라이(WannaCry) 사이버 공격으로 영국 국가보건서비스(NHS)가 마비되자, 미뤄지던 국가 간 사이버 규범과 정보 공유 메커니즘이 빠르게 정비됐다. 2020년 코로나19 역시 백신 공동 개발과 WHO 권한 강화, 팬데믹 협정 논의 같은 글로벌 보건 협력을 만들어냈다.

세 사례에서 공통적으로 드러나는 것은 위기가 협력의 정치적 비용 구조를 뒤집는다는 점이다. 평시에는 협력의 비용이 높고 행동하지 않는 비용이 낮지만, 위기 이후에는 그 비용 구조가 정반대로 뒤집히면서 거버넌스가 형성되는 흐름을 확인할 수 있다.

그러나 모든 위기가 거버넌스로 이어지는 것은 아니다. 위기 이전에 꺼내 쓸 수 있는 무언가가 준비되어 있어야만 위기가 거버넌스로 전환되기 때문이다. 앞서 언급한 금융 위기 직후의 신속한 합의도 갑자기 등장한 것이 아니다. 1980년대부터 BIS(국제결제은행) 차원에서 누적된 은행 자본 규제 논의가 있었기 때문에 위기 직후 빠른 합의가 가능했다. 준비된 프레임워크 없이 위기를 맞으면 위기는 거버넌스로 발전하지 못한 채 혼란으로 끝난다. 결국 거버넌스를 만드는 것은 위기 자체가 아니라 위기에 평시 준비가 더해질 때다.

보고서는 정부·기업·국제기구를 향해 다섯 가지 권고를 제시한다. 모두 위기가 닥치기 전 평시에 미리 준비해 두어야 할 것들이다.

① 위기 시 즉시 가용한 조약·합의 프레임워크의 사전 준비

위기 시 즉시 협상 출발점으로 삼을 수 있는 협정 초안을 미리 마련해 두어야 한다. 군축·기후·금융 분야에서 사전 협상된 초안들이 정부 사무실에 보관되어 있다가 위기 시 즉각 배치되는 관행이 모델이다. 여기에는 수용 불가능한 AI 위험의 경계선인 ‘레드 라인(red lines)’도 함께 포함되어야 한다.

② 정당한 기술 권한의 집중

각국의 AI 안전·보안 기관이 위기 시 즉각 행동할 수 있는 법적 권한을 평시에 갖춰야 한다. 현재 대부분의 AI 안전 기관은 자문과 위험 모니터링에 머물러 있지만, 공식적 위기 대응 권한을 가진 공공 기관으로 사전에 자리매김할 필요가 있다.

③ 안전 기반 기술 개입 수단 확보

위기 대응에는 실시간 기술 도구가 필요하다. 모델 셧다운 프로토콜, 서킷 브레이커(circuit breaker), 패치 배포 메커니즘 같은 기술적 개입 수단을 평시에 마련해 두어야 하며, 평가 인프라와 감독 모니터링을 포함한 하드웨어 거버넌스 투자도 확대되어야 한다.

④ 정부 간 백채널과 외교 조정 채널의 구축

냉전기 미·소 ‘빨간 전화’처럼 AI 위기 시 즉각 소통할 수 있는 정부 간 비공식 채널이 사전에 설치되어야 한다. AI 사고는 분 단위로 확산될 수 있어 정식 외교 절차를 거치는 동안 위기가 이미 끝나 있을 수 있기 때문이다.

⑤ 민간 부문과의 정보 공유 메커니즘 개선

AI 능력과 실패에 대한 데이터는 대부분 민간 기업이 보유하고 있다. 첨단 AI 연구소와 개발 기업이 정부 및 국제기구와 위기 시 정보를 공유할 수 있도록 시스템을 만들어 놓아야 한다.

보고서는 이러한 권고들을 실제로 작동시키기 위한 핵심 도구로 시나리오 훈련과 워게임을 제시한다. 앞서 정의한 AI 위기 상황들을 사전에 시뮬레이션하고 거버넌스 옵션을 시험해 보는 것이 위기 대응 역량을 가장 실질적으로 강화하는 방법이다.

AI 거버넌스는 평시 협력만으로는 만들어지지 않고, 위기가 발생할 때 비로소 가능해진다. 그러나 위기 그 자체만으로도 충분하지 않다. 평시에 축적된 준비가 함께 있어야 한다. 그렇다면 다음 위기가 닥치기 전, 우리는 무엇을 준비해 둘 것인가.