초지능은 더 이상 워싱턴, 브뤼셀, 베이징에서 변두리 문서가 아니다. 남은 질문은 속도다. 정부가 통제해야 할 시스템보다 더 빠르게 움직일 수 있느냐이다.
2023년 11월, 28개국이 블레츨리 선언에 서명했습니다. 선진 AI가 "잠재적으로 재앙적"인 위험을 초래한다는 점을 인정한 최초의 국제 합의였습니다. 서명국에는 미국, 중국, 영국, 유럽연합, 그리고 아시아·아프리카·남미 국가들이 포함되었습니다. 이 합의는 결코 주변부 문서가 아니었습니다. 국가원수와 고위 장관이 서명했습니다.
UK은 블레츨리 파크에서 첫 AI 안전 정상회의를 주최했습니다. 두 번째는 서울에서 열렸습니다. 세 번째는 파리에서 이어졌습니다. AI 안전 연구소로 출범해 UK(AI 보안 연구소)과 US(AI 표준 및 혁신 센터)로 개명된 정부 AI 연구소 국제 네트워크가 현재 존재하며, 미국·영국·유럽연합의 기구들이 연구를 공유하고 위험 틀을 조율하고 있습니다. 이 중 어떤 것도 4년 전에는 존재하지 않았습니다.
미국 상원에서 인공지능 위험은 진정으로 초당적인 문제 중 하나가 되었습니다. 척 슈머는 2023년 인공지능 통찰 포럼을 소집했습니다. 조시 홀리는 초지능을 "인류 역사상 가장 위험한 기술"이라고 불렀습니다. 마르코 루비오는 인공지능 위험을 겨냥한 법안을 발의했습니다. 위협이 이념을 존중하지 않기 때문에 우려는 당파를 초월합니다.
유럽연합은 2024년에 AI 법을 통과시켰으며, 이는 위험 수준에 따라 인공지능 시스템을 규제하는 세계 최초의 포괄적 법적 틀입니다. 가장 능력이 뛰어난 최전선 모델은 가장 엄격한 요건을 적용받습니다. 불완전한 입법입니다. 동시에 규제 당국이 상당한 벌금을 부과할 권한을 가진 구속력 있는 법률이기도 합니다.
중국은 알고리즘 투명성과 콘텐츠 라벨링 의무를 포함한 자체 ASI 거버넌스 규정을 발표했습니다. 중국은 블레츨리 정상회의와 서울 정상회의에도 참여했습니다. 중국을 ASI 거버넌스에 관여하기를 꺼림 잘못되었다.
2026년 정치 상황은 2020년 정치 상황과 전혀 다릅니다. 그 변화는 사람들이 밀어붙였기 때문에 일어났습니다. 지금 구축 중인 시스템이 거버넌스 문제를 답할 수 없게 만들기 전에, 변화는 계속되어야 하고, 반드시 그래야 합니다.
US, UK, EU, 중국을 포함한 28개국이 선진 AI가 잠재적으로 재앙적인 위험을 초래한다는 점을 인정하는 최초의 국제 협정에 서명했습니다. 블레츨리 파크에서 열린 AI 안전 정상회의는 최전선 AI 위험 평가를 위한 공동 프레임워크를 만들어냈습니다.
유럽연합은 세계 최초의 포괄적인 AI 규제 체계를 통과시켜 가장 유능한 프런티어 모델에 엄격한 요건을 부과했다. 위반 시 전 세계 매출의 최대 3퍼센트에 해당하는 벌금이 부과된다. 이 법은 27개 회원국 전체에 구속력을 가지며 EU 내에서 배포되는 모든 AI 시스템에 적용된다.
US 상원은 인공지능 위험에 관한 초당적 청문회를 열고, OpenAI의 샘 올트먼, 주요 연구자, 정책 전문가의 증언을 듣는다. 이 청문회는 인공지능 실존적 위험이 US 입법 감독 최고위에서 처음으로 실질적으로 논의된 순간이다.
US, UK, EU는 배포 전에 치명적 위험에 대해 최전선 인공지능 시스템을 평가할 권한을 가진 인공지능 안전 연구소를 설립합니다. 이 연구소들은 초지능 위험 평가를 위한 최초의 공식 정부 인프라를 나타냅니다. UK와 US 기구는 2025년에 개명됐으나 평가 인프라는 그대로 남아 있습니다.
OpenAI, Google, Microsoft, Meta, 그리고 Amazon은 2023년과 2024년에 워싱턴에서 수억 달러를 로비에 썼습니다. 기술 산업은 미국에서 가장 큰 기업 로비 세력입니다. 전직 규제 당국자, 전직 입법자, 전직 백악관 관료를 고용하고 있습니다. 이것이 모든 ASI 거버넌스 노력이 극복해야 할 힘입니다.
로비는 무작위가 아니라 표적화되어 있습니다. 초지능 개발을 제한할 수 있는 특정 입법 메커니즘, 즉 컴퓨트 임계값, 의무적 안전 평가, 책임 프레임워크에 집중합니다. 실질적인 책임을 만들 모든 조치는 이를 약화시키거나 저지하려는 자금력 있는 캠페인에 직면합니다.
인공지능 능력은 GPT-2에서 시작해 불과 육 년 만에 대부분의 인지 벤치마크에서 대다수 인간을 능가하는 수준까지 발전했습니다. 주요 입법은 보통 발의부터 통과까지 사 년에서 팔 년이 걸립니다. 기술은 거버넌스가 따라잡기를 기다리지 않습니다.
이 불일치는 입법 긴급성을 일차적 우선순위로 다루고, 일정을 단축하는 정책 활동에 자금을 대고, 더 빠른 행동을 강제하는 대중 압력을 구축해야 한다는 주장을 뒷받침합니다. 속도 불일치는 정치적 문제이지 물리 법칙이 아닙니다.
안전 규제는 보통 재난 뒤에 따라오지, 그 전에 앞서지 않습니다. 안전벨트 법은 수십 년간의 교통사고 사망 이후에 만들어졌습니다. 금융 규제는 위기 이후에 강화되었습니다. 예방적 규제를 위한 정치적 메커니즘은 대부분의 민주주의 국가에서 제대로 발전하지 않았습니다.
초지능의 경우 재앙 우선 모델은 받아들일 수 없습니다. 정렬되지 않은 초지능은 시정 기간을 제공하지 않습니다. 이것이 바로 핵무기 통제에서 본받은 예방적 거버넌스가 필요한 이유입니다 핵 비확산 위기 후 규제가 아니라 사전 예방이 올바른 틀입니다. 과거에 효과가 있었고, 다시 작동하게 하려면 정치적 기반을 구축해야 합니다.
담배 산업은 담배 광고를 제한하는 것이 불가능하다고 말했습니다. 자동차 산업은 안전벨트 의무화가 자동차 판매를 파괴할 것이라고 말했습니다. 화학 산업은 염화불화탄소 금지가 현대 제조업을 끝장낼 것이라고 말했습니다. 각 경우에 불가능하다는 주장은 사실이 아니라 로비 입장이었습니다. 각 경우에 규제는 결국 이루어졌습니다.
AI 위험에 대한 오버턴 창은 역사상 어떤 비교 가능한 기술 이슈보다 빠르게 이동했다. 2020년, 초지능 위험은 주로 학술 논문과 온라인 포럼에서 논의되는 주제였다. 2026년, 그것은 모든 G7 정부의 의제에 올라 있다. 고위 국가 지도자들이 공개 연설에서 "존재적 위협"이라는 표현을 사용한다. 그 변화는 이슈가 무시되도록 두지 않은 연구자, 기자, 시민들의 지속적인 옹호의 결과이다. 그것은 저절로 일어나지 않았다.
AI 안전을 위한 정치 연합이 형성되고 있다. 국가 안보와 소수 기업으로의 권력 집중을 우려하는 보수파, 역사상 가장 중대한 기술 결정에 대한 민주적 감독 부재를 우려하는 진보파, 그리고 종교계·과학자·예술가·부모가 포함된다. 이것이 다수파의 시작이다.
국제적 모멘텀은 실재합니다. 블레츨리 과정, 인공지능 연구소들의 국제 네트워크, 그리고 떠오르는 UN 거버넌스 논의는 어떤 기술 분야에서도 가장 빠른 국제 인공지능 정책 인프라 구축을 나타냅니다. 조각들이 모이고 있습니다. 문제는 그것들이 충분히 빠르게 모일 것인지이며, 그 질문은 충분한 사람들이 밀어붙이느냐에 달려 있습니다.
우리와 함께 동참하여 행동하지 않는 것을 정치적으로 불가능하게 만드는 압력을 구축하세요.