시민 사회가 국제 기술을 어떻게 형성하는가
거버넌스, 그리고 인공지능 안전 옹호에서 빠진 것

무기 통제 역사의 표준 설명은 정부에 초점을 맞춘다: 협상가, 조약에 서명한 국가원수, 비준하거나 거부한 상원의원. 이 설명은 불완전하다. 위험한 기술에 관한 주요 국제 협정 뒤에는 정치적 기반을 마련하고, 위험에 대한 대중 이해를 구축하며, 협상가들이 채택한 거버넌스 제안을 개발하고, 공식 채널이 닫혔을 때 분열을 넘어 대화를 유지하며, 정부가 외면하고 싶어하는 시기에도 이슈를 정치적으로 살아있게 한 지속적인 시민사회 노력이 있었다.

환경 비정부기구들은 정부가 흔들릴 때 몬트리올 의정서를 정치적으로 유지했다. 여기가 기술 거버넌스에서 시민사회가 하는 일이며, 인공지능 안전 옹호가 아직 구축하지 못한 것이다.

군비 통제 거버넌스에서 시민사회가 실제로 한 일을 이해하는 것은 AI 안전 분야 시민사회가 무엇을 구축해야 하는지 평가하기 위한 전제 조건이다.

핵무기 통제를 위해 퍼그워시가 한 일

퍼그워시 과학 및 세계 문제 회의는 1957년에 설립되었으며, 1955년 러셀-아인슈타인 선언에 이어 시작되었습니다. 버트런드 러셀과 앨버트 아인슈타인이 아홉 명의 저명한 과학자와 함께 핵무기가 문명을 위협한다고 정부에 인식시키고 전쟁 대신 평화적 분쟁 해결을 촉구한 선언입니다. 이 선언은 서방과 소련 진영의 과학자들이 서명했으며, 여러 노벨상 수상자가 포함되었습니다.

퍼그워시 모델은 트랙-2 대화였다. 적대국 과학자들이 정부 대표가 아닌 개인 자격으로 모여 군비 통제 제안을 논의하고, 결국 공식 협상에 반영될 개인적 관계와 공유 기술 틀을 구축하는 방식이었다. 1950년대 후반과 1960년대 초기 퍼그워시 회의에서는 핵실험 제한 검증 제안을 검토했으며, 이는 1963년 부분핵실험금지조약에 수정된 형태로 반영되었다. 국가 기술 수단 개념(위성 정찰로 지상 사찰 없이 준수를 감시)은 SALT 협정에 포함되기 전에 퍼그워시 회의에서 개발·논의되었다.

퍼그워시는 조약을 작성하지 않았다. 아이디어를 발전시키고 관계를 구축했으며, 냉전 양측 과학자들이 공식 외교 채널로는 다룰 수 없는 기술적 문제에 대해 소통할 수 있는 공간을 만들었다. 정치적 상황이 바뀌어 공식 협상이 가능해졌을 때, 그 협상이 합의할 수 있는 지적 기반은 이미 퍼그워시가 수년간 쌓아온 덕분에 존재했다. 퍼그워시와 창립자 조지프 로트블랫은 1995년 노벨 평화상을 공동 수상했다.

지뢰 캠페인이 한 일

1992년 NGO 연합이 설립한 국제 지뢰 금지 캠페인은 분쟁 후 국가에서 매년 수천 명의 민간인 사상자, 농경지 광범위 오염, 지뢰가 매설된 분쟁으로부터 수십 년 후에도 다치는 어린이 등 대인지뢰의 인도적 결과가 점진적 제한이 아닌 완전한 금지를 요구한다고 결론지었다. 캠페인의 핵심 전략은 인도적 결과를 구체적이고 시각적이며 명명된 기술에 귀속되는 용어로 문서화하고, 그 문서를 명확한 정치적 요구와 연결하는 것이었다.

피해국에서 활동하는 NGO들이 문서화 작업을 수행했다. Handicap International, Human Rights Watch, Physicians for Human Rights 등이 보고서를 작성하고 피해자 증언을 수집했으며, 기부국에서 정치적으로 중요한 이슈로 만들 지속적인 언론 보도를 이끌어냈다. 이 캠페인은 체계적으로 정부 동맹을 구축하고(캐나다가 가장 중요했다) 군축회의에서 주요 군사 강국이 진전을 막고 있던 상황을 우회할 외교 경로를 찾았다.

캠페인의 성공은 덜 성공적인 옹호 노력과 구별되는 여러 요인의 결합에 기반했습니다. 피해는 현재 시점에서 문서화 가능했습니다. 요구는 비전문가도 이해할 수 있을 만큼 구체적이었습니다. 캠페인은 행동할 수 있는 제도적 챔피언 역할을 할 수 있는 공감하는 정부와 관계를 맺고 있었습니다. 그리고 주요 강대국 참여 없이도 진행할 의지가 있었으며, US, 중국, 러시아 없이도 조약이 시간이 지남에 따라 행동을 형성할 규범을 확립할 수 있음을 받아들였습니다.

몬트리올 의정서에서 환경 비정부기구가 한 일

오존층 파괴 물질을 규제하려는 캠페인은 기술적 발견을 대중의 우려로 번역하는 과학적 소통을 기반으로 구축되었습니다. F. Sherwood Rowland와 Mario Molina가 1974년 염화불화탄소 화학에 대한 연구 결과를 발표해 CFC가 성층권 오존을 촉매적으로 파괴한다는 사실을 입증했을 때, 그 과학적 발견은 정치적 쟁점이 되기 위해 해석과 증폭이 필요했습니다. 환경 NGO, 특히 지구의 벗과 천연자원보호협의회가 1970년대 후반과 1980년대에 걸쳐 이 번역 작업을 수행했습니다.

비정부기구 캠페인은 공공 교육, 미디어 홍보, 직접 정치 옹호를 결합했다. 미국에서 비정부기구는 국제 협정이 존재하기 전에 에어로졸 스프레이의 염화불화탄소 사용을 제한하는 성공적인 캠페인을 지원해, 유럽연합 정부가 국제 협상에서 정치적 타당성의 증거로 삼을 수 있는 국내 규제 선례를 만들었다. 1985년 남극 오존 구멍 발견이 염화불화탄소 피해에 대한 극적인 시각적·과학적 확인을 제공했을 때, 비정부기구의 소통 인프라는 그 중요성을 즉시 증폭시킬 준비가 되어 있었다.

몬트리올 의정서가 체결된 후 NGO들은 이행을 감시하고, 준수 문제를 파악하며, 이후 수십 년 동안 의정서의 적용 범위를 강화한 연속 개정을 위해 활동했습니다. 시민사회의 역할은 조약 서명으로 끝나지 않았습니다. 의정서의 이행 단계까지 이어졌으며, 정부가 약속을 지키도록 지속적인 감시를 제공했습니다.

AI 안전 시민 사회가 구축한 것과 구축하지 못한 것

AI 안전 분야는 최첨단 AI 시스템의 위험에 관한 상당한 기술적·지적 작업을 생산했다. 이 작업은 대학과 주요 AI 연구소 연구자들의 학술 논문, 학회 발표, 공개 소통에 축적되어 있다. 제프리 힌튼과 요슈아 벤지오를 포함한 여러 연구자가 AI 실존적 위험에 관해 공개적으로 발언해 상당한 언론 주목을 받았다. 현재 ASI 거버넌스와 정책을 다루는 자선 지원 조직이 소수 존재한다.

그러나 핵무기 통제와 지뢰 금지를 뒷받침한 시민사회 인프라에 비해, 현재 AI 안전 시민사회 노력은 특정한 면에서 빈약합니다.

퍼그워시와 같은 대안이 없다. US, 중국, EU 및 기타 주요 AI 개발국 출신 AI 연구자들이 공식 정부 채널 밖에서 개인 자격으로 정기적으로 만나 거버넌스를 위한 공통 기술 틀을 개발하는 지속적이고 체계적인 포럼이 없다. 현재 존재하는 양자 및 다자 정부 프로세스는 공식적이며 트랙 2가 아니므로 공식 외교 협상의 모든 제약을 받는다.

국제지뢰금지운동과 같은 대등한 운동이 없다. 명확하고 구체적인 요구와 실제 사람들의 현재 경험을 요구와 연결하는 기록된 피해 사례를 가진 대규모 회원 캠페인이 없다. 인공지능 실존 위험은 경험된 것이 아니라 예상되는 것이므로, 지뢰 캠페인이 달성한 감정적·정치적 동원을 재현하기가 상당히 어렵다. ASI로 인한 피해는 지뢰 희생자들의 경우처럼 아직 현재형이 아니다.

지속적인 감시 기능이 없다. ASI 거버넌스에 대한 정부 약속을 추적하고, 자발적 약속 준수 여부를 측정하며, 결과를 공개해 책임을 만드는 시민사회 조직이 없다. 군비통제 조약 이행을 감시하는 NGO, 국가가 군축 의무를 이행하는지 평가하는 단체, 위반 의혹을 조사하는 단체, 약속과 행동 사이의 격차를 문서화하는 단체는 ASI 거버넌스 영역에 명확한 대응물이 없다.

"모든 주요 군비통제 성과는 수년간의 시민사회 활동이 선행했다. 그 활동은 대중 이해를 쌓고, 거버넌스 제안을 개발하며, 정치적 압력을 유지했다. 그 작업은 지금 AI를 위해 시작되어야 한다."

인공지능 안전 시민사회가 구축한 것은 상당한 지적 수준의 연구·정책 공동체다. 아직 구축하지 못한 것은 다른 기술 분야에서 효과적인 거버넌스 운동을 특징지었던 대중 동원 능력, 국경을 넘는 과학 대화 인프라, 지속적인 감시 기능이다. 이 역량을 구축하는 것은 조약을 협상·비준·유지할 수 있는 정치적·제도적 전제 조건이며, 조약 옹호와 별개의 작업이 아니다.

가장 강력한 반발

가장 공정한 반론은 NGO와 학계가 강대국을 움직일 수 없으므로 시민사회는 논평에 불과하다는 것이다. 운동은 조약에 서명하지 않는다. 그들은 서명하지 않을 비용을 바꾼다. 공공 압력, 전문가 초안, 기부자 지원 옹호가 뒤처진 국가를 그들이 건너뛰고 싶은 방으로 끌어들이는 방식이다.