1958년으로 돌아간다면 나는 주저하지 않았을 것이다. 나는 세상이 끝나는 것을 막기 위해 평생을 바쳤을 것이다. 내 재단은 미국과 소련이 열핵전쟁을 벌이지 않도록 노력했을 것이며, 이는 특별한 용기가 있어서가 아니라 미래를 논할 수 있는지 결정하는 싸움이었기 때문이다. 다른 모든 대의는 그 아래에 있었다.
나는 그 싸움을 겪지 못했다. 폭탄은 만들어졌고, 조준되었으며, 1945년 이후 도시를 향해 다시 사용되지 않았다. 그 "지금까지"를 유지한 사람들, 냉전 동안 실험 금지, 핫라인, 그리고 무서운 대치가 최종 대치가 되지 않도록 한 검증 체제를 구축한 사람들은 지난 세기의 가장 중요한 작업 중 일부를 수행했다. 그들 대부분은 그 일로 유명해지지 않을 것이다. 예방은 본질적으로 조용하다. 그것이 작동할 때 아무 일도 일어나지 않으며, 아무 일도 일어나지 않았다는 것은 기념비에 새기기 어려운 일이다.
같은 형태, 새로운 무기
내가 우리가 새로운 냉전을 겪고 있다고 말할 때, 그것은 같은 형태를 의미한다: 미국과 중국이 서로 먼저 도달하지 못하게 할 수 없는 기술을 향해 경쟁하고 있으며, 그것이 잘못되면 인류의 이야기가 끝날 수 있고, 경쟁하는 누구도 정직하게 통제할 수 있다고 주장할 수 없다. 수소폭탄을 인공 초지능으로 바꾸면 1958년과 2026년이 한 문장으로 된다.
나만이 그 메아리를 듣는 것은 아닙니다. 6월에 중앙정보국 국장은 워싱턴의 청중에게 오늘날 최전선 인공지능의 능력을 그렇게 부르는 것이 잘못되지 않을 것이라고 말했습니다 "디지털 핵무기."
차이점들이 잘못된 방향으로 흐르고 있다
그때와 지금 사이에는 실제 차이가 있으며, 이것이 저를 밤잠을 설치게 하는 부분입니다. 그 차이의 거의 전부가 우리의 상황을 더 쉽게 만드는 것이 아니라 더 어렵게 만듭니다. 핵무기는 인간의 손에 남아 있습니다. 초지능은 하지 않을 것입니다. 핵 물질은 물리적이기 때문에 채굴하고 셀 수 있다. AI의 입력은 칩과 코드로, 보기 어렵고 숨기기 쉽지만 통제 불가능한 것은 아닙니다. 그리고 냉전은 참여자들에게 우리가 얻지 못할 수도 있는 한 가지를 주었습니다. 바로 시간입니다. 세계는 히로시마를 받아들이고, 배 속에서 두려움을 느끼고, 그에 대응해 제도를 구축할 시간을 가졌습니다. AI 능력은 우리가 가진 어떤 제도도 따라잡을 수 없을 만큼 빠르게 복합적으로 증가하고 있습니다.
냉전이 실제로 증명한 것
그러나 같은 시대는 가속론자들이 가장 의지하는 주장을 무너뜨렸습니다. 서로를 신뢰하지 않는 경쟁자들이 결코 후퇴에 동의할 수 없다는 주장입니다. 워싱턴과 모스크바는 전혀 서로를 신뢰하지 않았지만, 여전히 구속력 있고 검증 가능한 군비 통제 협정에 서명했습니다. 둘 다 무한한 경쟁이 그들을 동등하게 구속하는 규칙보다 더 나쁘게 만든다는 것을 알았기 때문입니다. 불신이 조약의 이유였지, 장애물이 아니었습니다. 두 정부가 수만 개의 핵탄두가 서로의 도시를 겨냥한 상황에서 그 논리를 찾을 수 있었다면, 미국과 중국이 AI에서 같은 일을 할 수 없다는 자신만만한 주장은 현실주의로 위장한 지속의 변명입니다.
재단이 존재하는 이유
그 싸움과 같은 것이 내 세대에 찾아왔고, 이번에는 내가 직접 참여한다. 나는 스스로를 겨냥할 수 있는 무기를 만들면서도 내내 선택의 여지가 없었다고 스스로에게 말한 세대의 일원이 되기를 거부한다.
냉전 최악의 사태를 막은 사람들은, 순진하다는 비난을 받으면서도 일부 기술은 경쟁에 맡기기에는 너무 위험하다고 주장한 사람들이었습니다. 그들은 당시 옳았습니다. 지금 중요한 유일한 과제는 다시 옳아지는 것이며, 제때 옳아지는 것입니다.