1970년대 초 생물학자들은 한 유기체의 유전자를 다른 유기체에 접합하는 법을 배웠다. 재조합 DNA는 의학과 생물학을 동시에 열었고, 그것을 발명한 사람들을 두렵게 했다. 그들은 변형된 유기체가 실험실에서 빠져나와 아무도 막을 방법을 모르는 피해를 일으킬 가능성을 배제할 수 없었다. 그래서 그들은 거의 전례 없는 일을 했다. 멈춘 것이다.
1974년 미래 노벨상 수상자들을 포함한 주요 연구자들이 가장 위험한 재조합 DNA 실험에 대한 자발적 모라토리엄을 공개적으로 촉구했습니다. 1975년 2월 약 140명의 과학자와 변호사, 언론인이 캘리포니아 아실로마 회의장에서 만나 작업이 안전하게 재개될 조건을 결정했습니다. 그들은 위험에 맞춘 격리 조치 틀을 내놓았고, 연구는 합의된 안전장치 아래 재개되었습니다. 최전선 AI 일시 정지를 지지하는 사람들에게 이것이 기준점입니다. 스스로의 위험을 인식하고 속도보다 신중함을 선택한 분야입니다.
아실로마가 진정으로 옳게 한 것
그 성과는 실제이며 명확히 언급할 가치가 있습니다.
과학자들은 재앙 이후가 아니라 이전에 행동했으며, 이는 기술 안전의 전체 역사에서 가장 희귀하고 가장 가치 있는 일이다. 그들은 명성과 진보를 약속한 연구를 포함해 자신의 작업에 대한 자제를 받아들였는데, 위험이 그럴 만한 가치가 있었기 때문이다. 그리고 그들은 위험을 무시하거나 분야를 완전히 금지하는 대신 위험 수준에 맞는 실질적인 규칙을 만들었다. 이는 연구 공동체가 자신의 최전선을 보고 너무 위험해서 서두를 수 없다고 판단하고 물러설 수 있다는 증거로 남아 있다. 그 선례는 강력한 기술을 일시 중지하는 것이 순진하거나 불가능하다는 주장에 대한 직접적인 반박이며, 이것이 행동하는 이유에 대한 우리 페이지에서 군비 통제 사례와 나란히 있는 이유다 가능한.
왜 그것이 보이는 것보다 더 어려운 모델인가
선례를 솔직하게 말하려면 AI가 더 어려운 사례인 이유를 밝혀야 합니다. 차이점들이 바로 아실로마가 성공한 이유이기 때문입니다.
- 그것은 작고 통합된 공동체였습니다. 수십 개의 연구소, 하나의 과학 문화, 서로 아는 사람들. 최전선 인공지능은 수조 달러 규모의 기업과 국가 간 글로벌 경쟁으로, 공유된 테이블이 없습니다.
- 1975년에는 상업적 이해관계가 미미했습니다. 생명공학 산업은 아직 거의 존재하지 않았습니다. 인공지능은 지구상 최대 기업들과 국가 안보 기관이 이미 깊이 관여한 상태로 등장합니다. 이는 경쟁 동역학 아실로마가 직면하지 못한.
- 재시작이 목표였다. 아실로마는 무기한 중단이 아니라 안전한 조건으로 계속 진행할 방법을 찾기 위해 설계되었습니다. 그 격리 모델은 위험을 물리적 실험실 안에 가둘 수 있다고 가정했습니다. 유능한 인공지능은 그런 방식으로 분명히 격리할 수 없습니다.
또한 냉정한 후일담이 있다. 아실로마 합의는 이해관계가 일치하는 좁은 순간이었기 때문에 부분적으로 유지되었으며, 그때도 더 상업적이고 경쟁적인 분야가 압박할 자발적 선의에 의존했다. 140명의 동료 과학자들 사이에서 작동했던 것이 치열한 승리 압력 아래 분열된 글로벌 산업으로 straightforward하게 확장되지는 않는다.
아실로마는 일시 중지가 가능함을 증명한다. 또한 일시 중지가 필요로 하는 조건과 현재 인공지능이 그 조건을 얼마나 갖추지 못했는지도 보여 준다.
재단이 얻는 교훈
아실로마의 두 측면 모두 중요하다. 이는 아무것도 할 수 없으며 강력한 기술을 늦출 수 없다는 운명론을 반박한다. 과학자들은 의도적으로 그렇게 했고 하늘은 무너지지 않았다. 그러나 이는 또한 1975년에 효과가 있었던 비공식적이고 자발적이며 동료적인 메커니즘이 인공지능에는 충분하지 않음을 보여준다. 인공지능에는 선의가 충분하게 만든 소규모 커뮤니티, 낮은 이해관계, 억제 가능한 위험이 부족하기 때문이다. 올바른 결론은 인공지능이 필요로 하는 것은 아실로마가 달성할 수 있었던 것, 즉 위험 이전의 실질적인 억제이며, 이는 1조 달러 규모의 글로벌 경쟁이 요구하는 구속력 있고 검증 가능한 국제적 장치를 통해 전달되어야 한다는 것이지, 인공지능이 자체 아실로마를 필요로 한다는 것이 아니다. 참조 우리의 계획.