인공지능(AI) 기술이 급속도로 발전하면서 인류는 새로운 시대의 문턱에 들어섰다. AI는 우리 삶을 근원적으로 바꿀 가능성을 지니고 있지만, 동시에 전례 없는 도전과 위험도 안고 있다. 이 가능성과 위험은 인류가 이전에 겪어보지 못한 수준일 가능성이 크다. 한편에서는 미래를 선점하기 위한 기술 개발 경쟁이 치열하게 진행되는 한편, 다른 쪽에서는 규제와 규율이 시급히 마련되지 않으면 전혀 새로운 성격의 위기에 봉착하게 될 것이라는 경고의 목소리가 크다.

지난 9월 UN에서 이 문제를 본격적으로 다룬 종합 보고서가 나왔다. UN은 2023년 10월 사무총장 산하에 ‘인공지능 고위자문기구(HLAB-AI)’¹를 구성했다. 2020년 첫 제안이 나온 지 3년 만이었다. 이 기구는 33개국 출신의 AI 기술, 법률 및 데이터 보안 분야 전문가 39명으로 구성되었으며 UN 사무총장이 직접 임명했다. 이들은 지난 11개월 동안 500명 이상의 전문가들과 함께 18개 영역에 대한 심층분석을 진행했으며, 150개 이상의 조직으로부터 250개 이상의 보고서를 받았다. 40개국 이상 회원국과 공식 협의를 거쳤고, 뉴욕 제네바 싱가포르에서 3차례에 걸쳐 중간 회의를 열었다. 이번에 나온 보고서 ‘인류를 위한 AI 관리(Governing AI for Humanity)’²는 그 결정판이라 할 수 있다.

• AI로 인해 전 세계적으로 권력과 부의 집중이 전례없이 진행되고 있다. AI 학습 원재료는 전 세계에서 공급된다. 그러나 혜택이 소수의 국가와 기업 개인에게 초집중될 가능성이 크다.
• 거대언어모델(LLM)의 혼란(환각), 허위 정보의 생성과 유포의 문제가 점점 커질 것이다.
• AI는 기존의 규율(법과 제도)에 도전하게 될 것이다. AI는 빠르고 불투명하고 자율적이다. 더욱 강력해질 시스템은 심각한 법적 인도주의적 문제를 낳을 것이다.
• 인권과 시민의 자유가 침해될 것이다. 예를 들어 모임 및 이동의 자유가 침해될 가능성이 있다.
• 어린이, 노인, 장애인 등 취약계층을 차별하는 수단으로 활용될 가능성이 있다.
• 민주주의와 법치주의의 기반이 취약해질 수 있다. 예를 들어 사법부에 대한 신뢰가 세계적으로 흔들릴 수 있다.
• 가까운 미래의 AI 시스템은 개인 취향에 맞춘 고품질 동영상 콘텐츠를 끝없이 생산하게 될 것이다. 사람들은 사회적으로 고립되고 개인화될 위험성이 크다. 소외감과 중독을 조장하게 될 것이다. 인류의 변곡점이다. 스마트 기기가 가져오는 사회적 부정 효과는 충분히 탐구가 되었지만 AI는 전혀 아니다. 소수의 AI 개발자 및 배포자, 다국적 기업들 사이에서 의사결정이 이뤄지고 있다. 이대로 둬서는 안 된다.

• 새로운 형태의 정부 간 군비경쟁 문턱이 낮아질 것이다. 전쟁과 평화 사이의 경계도 모호해질 것이다.
• AI가 살상 목표물을 자율 설정하도록 놓아두어도 괜찮은가. 교전 여부가 AI를 통해 자동화되어서는 안 된다.
• 세계적으로 군사 AI 앱이 크게 늘고 있다. 이것들은 폐기되어야 한다.
• 비국가 행위자가 AI 시스템을 획득하도록 방치해서는 안 된다.

• 최근 AI 관련 표준이 급격히 늘고 있다. 국제표준화기구(ISO), 국제전기기술위원회(IEC), 전기전자기술자협의회(IEEE) 등 관련 단체도 여럿 있다. 그러나 공통된 언어가 없다. 용어에 대한 합의된 정의도 존재하지 않는다. 관련 기관 대표들을 모아 표준거래소를 설립할 필요가 있다.
• 자칫하면 세계를 호환되지 않는 AI 거버넌스 체제로 분열시킬 위험이 있다.

“어느 한 국가가 통제할 수 없다”

글로벌 AI 거버넌스를 위한 7가지 제언

1. 국제 AI 과학 패널 설립 : AI 기술의 발전이 큰 변화를 불러오고 있지만, 이를 책임 있게 활용하려면 객관적이고 독립적인 분석이 필요하다. 이 패널은 AI의 기회와 위험을 과학적으로 평가하여 각국 정부와 정책 입안자들에게 신뢰할 수 있는 정보를 제공한다. 특히 AI 기술이 공공보건 에너지 기후변화 대응 등에서 어떻게 기여할 수 있는지를 중점으로 연구해야 한다.
2. 글로벌 AI 정책 대화 플랫폼 구축 : AI 기술은 초국가적이다. 이 플랫폼은 모든 국가가 참여해 AI 기술의 기회와 위험을 논의하고, 모범 사례를 공유하며 글로벌 규범을 마련하는데 기여할 수 있다.
3. AI 표준 교환 시스템 구축 : 현재 각국의 AI 기술 규제가 일관되지 않아 안전성과 투명성이 보장되지 않을 수 있다. 공통된 기준을 마련하여 글로벌 차원에서 일관되게 적용함으로써 AI 기술을 공정하고 안전하게 관리할 수 있다.
4. AI 역량 개발 네트워크 구축 : 개발도상국과 자원이 부족한 국가들에게 AI 교육과 기술 지원을 제공해 글로벌 격차를 줄여야 한다.
5. 글로벌 AI 기금 설립 : 자원이 부족한 국가들이 AI 기술을 활용할 수 있도록 재정적 지원을 제공하는 제도가 필요하다.
6. 글로벌 AI 데이터 프레임워크 구축 : 대규모 데이터를 안전하게 공유하고 보호하기 위해 일관된 규정이 필요하며, 이를 통해 데이터 사용의 투명성과 공정성을 확보할 수 있을 것이다.
7. UN 사무국 내 AI 사무소 설치 : 이 사무소는 AI 거버넌스를 조율하고 각국 간 협력을 강화하는 역할을 하며, 글로벌 차원의 AI 정책을 효과적으로 관리할 것이다.