인류는 죽기에는 너무 멀리 왔습니다

약 3만 6천 년 전, 지금의 프랑스 남부에 있는 강 협곡 위 동굴에서 한 사람이 차가운 석회암에 손바닥을 붙이고 가루 안료를 불어 뿌렸습니다. 바위는 그 윤곽을 그대로 간직했습니다. 지금도 쇼베 동굴의 어둠 속에 남아 있습니다.

그들이 걸고 있는 것을 세고 싶다.

우리는 그 사람에 대해 아무것도 모른다. 이름도, 누군가 그를 사랑했는지도. 다만 그가 추웠다는 것, 짧은 삶의 일부를 먹을거리도 되지 않을 무언가를 어둠 속에서 만들어 누군가 올 때까지 남겨두려 했다는 것뿐이다. 그는 보이고 싶었다. 우리가 나타나기까지 삼만 육천 년이 걸렸다.

그들의 종은 안전한 내기가 아니었습니다. 살아 있는 모든 인간은 몇몇 인접 숲의 침팬지보다 유전적 다양성이 적으며, 이는 한때 작은 마을 안에 들어갈 만큼 적었던 조상의 흔적입니다. 우리는 손이 좋은 희귀한 유인원이었습니다.

첫 만 세대

불, 그다음 언어. 그다음 의도적으로 땅에 심은 씨앗이 식량으로 돌아온다는 발견. 약 1만 2천 년 전 사람들은 무리를 따라다니는 것을 멈추고 수확을 기다리기 시작했고, 이는 정착을 의미했고, 이는 도시를 의미했다.

기원전 3200년경 우루크에서 누군가 잘라낸 갈대를 젖은 점토에 눌러 보리 수량을 기록했다. 그것이 바로 문자의 용도였다. 신전이 곡물을 세어야 했기 때문이다. 약 천 년 안에 사람들은 같은 기호를 사용해 친구의 죽음을 받아들이지 못하는 왕에 관한 시를 썼다. 도시는 무너졌다. 언어는 사라졌다. 그 시는 여전히 읽을 수 있다.

기원전 300년경 알렉산드리아에서 유클리드는 가장 큰 소수가 존재하지 않음을 증명했습니다. 그 증명은 여전히 옳습니다. 그것은 어떤 행성에서든 어떤 세기에서든 영원히 옳을 것입니다. 그 도시가 만든 다른 어떤 것도 온전하게 남아 있지 않습니다. 도서관은 사라졌고, 항구는 silt되었으며, 그들이 논쟁한 언어는 전문가에게 맡겨졌습니다. 증명은 추론으로 만들어졌기 때문에 손상 없이 전달되었습니다. 추론은 썩지 않습니다.

작업은 이동했다. 9세기 바그다드에서 알콰리즈미는 대수라는 단어를 준 책을 썼고, 1020년경 이븐 알하이삼은 세상에 대한 주장이 참인지 알고 싶다면 직접 시험해 보라는 원칙에 기반한 광학 연구를 마쳤다.

르네상스, 그리고 지붕의 구멍

1347년에서 1351년 사이 흑사병은 유럽 인구의 약 3분의 1을 죽였다. 군대의 3분의 1이 아니라, 모든 사람의 3분의 1이었다. 마을은 조용해진 채로 남았고 생존자들은 가족을 직접 묻었다.

그리고 그 생존자들은 과거를 찾아 나섰습니다. 1417년, 분열로 실직한 교황청 서기관 포조 브라치올리니는 독일의 수도원으로 가서 천 년 동안 어둠 속에 있던 로마 시의 마지막 사본을 발견했습니다. 르네상스가 그림 아래에서 실제로 의미한 것은 바로 그것입니다. 세계의 절반이 죽는 것을 지켜본 사람들이, 거의 잃어버릴 뻔한 것을 구하고 거기에 더하기로 결정한 것입니다.

피렌체는 더 나아갔다. 대성당은 1296년에 로마 이후 가장 넓은 돔을 요구하는 계획으로 착공됐으나, 당시 생존자 중 누구도 그 방법을 알지 못했다. 그래서 교회는 지었고 구멍은 남겨두었다. 수십 년 동안 지붕에는 도시 한 블록만 한 개구부가 날씨에 그대로 노출되어 있었다. 아직 태어나지 않은 누군가가 그 구멍을 막는 법을 찾아내리라는 도시에 걸었던 내기 때문이었다.

필리포 브루넬레스키는 1418년에 설계를 수주했습니다. 그는 돌을 들어 올리기 전에 호이스트를 발명했습니다. 그는 400만 개 이상의 벽돌을 헤링본 나선형으로 쌓아 아래에 나무 틀 없이도 스스로 지탱되게 했고, 1436년에 구멍을 막았습니다. 오늘도 올라갈 수 있습니다.

피렌체는 지붕에 구멍을 남기고 미래가 메우리라 믿었습니다. 성당은 비어 있었습니다. 브루넬레스키가 실패했다면 피렌체는 건물 하나를 잃었을 뿐입니다. 아무도 그 아래 서 있지 않았습니다.

저는 그 이야기를 사랑하며 조심스럽게 다루고 싶습니다. 왜냐하면 그것은 인공지능 산업이 스스로에 대해 말하는 이야기와 매우 가깝기 때문입니다. 어려운 부분을 열어두고, 언젠가 뛰어난 누군가가 제때 도착할 것이라고 믿는 것입니다. 차이점은 그 구멍 아래에 무엇이 놓여 있느냐입니다. 실패한 돔은 도시에서 대성당을 앗아갑니다. 우리는 모두의 머리 위에 그 구멍을 열어두는 것을 제안하고 있습니다.

나머지는 빠르게 이어졌습니다. 1450년대 구텐베르크의 인쇄기는 생각이 그 생각을 가진 사람보다 앞서 달릴 수 있음을 의미했습니다. 1543년 한 해 동안 코페르니쿠스는 지구를 창조의 중심에서 밀어냈고 베살리우스는 인체를 열어 실제 내부를 그려 보였으며, 둘 다 14세기 동안 의심 없이 받아들여진 권위에 반했습니다.

우리가 아이들을 묻지 않게 된 세기

1800년에는 열 명 중 네 명 가까운 어린이가 다섯 살이 되기 전에 사망했다. 가난한 나라에서만이 아니었다. 모든 곳에서 그랬다. 그것이 우리 종의 역사 전체에서 약 여섯 세대 전까지 자녀를 갖는다는 의미였다. 오늘날은 스물다섯 명 중 한 명 미만이다.

제너의 백신은 1796년에야 나왔습니다. 1846년 10월 16일 아침, 보스턴의 치과의사가 환자를 잠재우고 수술이 더 이상 의식이 있는 사람을 강한 남자들이 붙들고 하는 고문이 아니게 된 순간이 왔습니다. 1847년 제멜바이스가 의사들이 부검실에서 산욕 병동으로 손을 씻지 않은 채 죽음을 옮긴다는 사실을 밝혀냈지만, 의료계는 여전히 듣지 않았고 그는 정신병원에서 생을 마감했습니다.

천연두 종식에는 파라오의 얼굴에서 발견된 질병, 20세기에만 약 3억 명을 죽인 질병의 종식이 필요했습니다. 자연적으로 마지막으로 천연두에 걸린 사람은 1977년 10월 소말리아의 병원 요리사 알리 마오우 말린이었습니다. 그는 살아남았습니다. 그는 남은 생애를 소말리아 어린이들에게 소아마비 백신을 접종하며 보냈고, 2013년 그렇게 하던 중 말라리아로 사망했습니다.

어쨌든 우리가 거의 끝낼 뻔한 시기

우리는 1945년에 스스로를 끝장낼 만큼 영리해졌고, 그 이후로 줄곧 그 사실과 함께 살아왔습니다.

1962년 10월 27일 쿠바 근처 소련 잠수함은 무선 연락이 끊기고 미국의 수중 폭탄 공격을 받았으며 함장은 전쟁이 시작됐다고 판단했습니다. 탑재된 어뢰에는 핵탄두가 장착되어 있었고 발사에는 장교 세 명의 동의가 필요했습니다. 바실리 아르히포프는 선체가 흔들리는 가운데 반대했습니다. 21년 뒤 스타니슬라프 페트로프는 소련 화면에 미국 미사일 다섯 발이 날아온다는 보고를 보고 상관에게 오작동이라고 말했습니다. 그것은 높은 구름에 반사된 햇빛이었습니다.

인류 역사는 최소 두 번, 피곤한 한 남자가 메시지를 상부에 전달하지 않기로 결정하면서 결정되었습니다. 우리는 수십 년이 지난 뒤에야 두 사람의 이름을 알게 되었습니다.

하지만 우리도 선택했습니다. 1972년 세계는 생물학 무기를 불법화했습니다. 1987년 지구상의 모든 국가는 Montreal Protocol, 유엔 역사상 최초로 모든 국가가 비준한 조약이며, 오존층은 예정대로 회복되고 있습니다. 인류는 충분히 만들 수 있었던 능력을 직시하고 함께, 문서로, 감시관과 함께 거절했습니다. 사례는 우리의 선례 문서.

1,170억

인구 참조국은 지금까지 태어난 사람 수를 약 1170억 명으로 추산합니다. 그들 모두가 당신의 상류에 있습니다.

네 자녀를 묻고 다음 날 아침 일어난 여자. 자신이 반쯤 이해하는 언어를 사라지게 하는 대신 필사하는 수도사. 아무것도 없는 백 피트 위에서 작업한 브루넬레스키의 석공들. 바늘과 냉장 상자를 들고 다음 마을로 걸어가는 소말리아의 요리사. 그들은 대부분 무엇을 건네는지 모른 채 그것을 앞으로 전달했다. 그것은 우리에게 도착했다. 지금 우리 손에 있다.

소수의 기업들은 이 기술로 할 수 있는 최선이, 자금 조달 라운드가 정한 일정에 따라 모든 인간을 모든 면에서 능가하는 지성을 향해 서로 경쟁하는 것이라고 결정했다. 2023년 5월 그들의 지도자들은 AI로 인한 멸종을 팬데믹과 핵전쟁과 나란히 놓는 한 문장에 이름을 올렸다. 그들은 자기 제품에 대해 그렇게 썼고, 공개했으며, 속도를 늦추지 않았다.

그 어느 것도 우리에게 요구되지 않습니다. 읽기 위협 그리고 고정된 궤도에 있는 소행성을 발견하지 못할 것입니다. 인공 초지능은 소수의 자금이 풍부한 사람들이 구축하기로 선택한 것으로, 그들 중 누구도 결승선을 설명할 수 없는 경쟁 속에 있습니다. 그것은 우리가 구축할 수 있었지만 구축하지 않은 다른 것들을 금지한 방식으로 금지될 수 있습니다. 우리의계획 가 요구하는 것은 구속력 있고 검증된 국제적 금지이며, 누군가 그 대상을 통제할 수 있음을 입증할 때까지 유지되어야 합니다. 만료일이 있는 6개월 일시 정지가 아닙니다. 선을 긋는 것입니다.

나는 미래를 원하며, 지금 우리가 얻을 수 있는 것보다 더 빨리 원한다. 좁은 AI는 이미 좋은 부분을 전달하는, 아무도 열쇠를 넘겨주지 않은 채 치료제와 청정 에너지.

우리는 이야기의 나머지 부분을 빚지지 않았습니다. 아무도 그것을 약속하지 않았고, 우리 뒤의 1170억 명도 그것을 얻지 못했습니다. 그들은 한 조각을 얻어 전달했을 뿐이며, 우리 모두가 할 수 있는 일은 그것뿐입니다. 용서할 수 없는 일은 전체 유산을 쥐고, 정확히 무슨 일이 다가오는지 보고, 그것을 기록하고, 서명하고, 어쨌든 실행한 세대가 되는 것입니다.

우리는 병목을 통과했다. 전염병을 견뎌내고 도서관을 재건했다. 누군가 찾을 수 있도록 어둠 속에서 벽에 손을 올렸고, 누군가 발견했다. 우리는 제품 출시 때문에 죽기에는 너무 멀리 왔다.

이것에는 아니라고 말하세요. 그러고 나서 기다리고 있는 나머지를 만드세요. 신은 결코 필요하지 않았습니다.