우리의 목표는 ASI을 막아 인류 멸종을 방지하는 것이다.
국가들은 핵무기를 제한하고, 오존층을 복원했으며, 유연 휘발유를 금지했습니다. 구속력 있는 규칙은 효과가 있었고, 다시 효과를 발휘할 수 있습니다.
"인공지능으로 우리는 악마를 소환하고 있다."
Elon Musk
"완전한 인공지능의 개발은 인류의 종말을 의미할 수 있습니다."
Stephen Hawking
"외계인이 착륙한 것 같은데 사람들이 영어를 아주 잘해서 알아채지 못하는 것 같아요. AI가 인류를 멸망시킬 확률은 작지 않다고 생각합니다."
Geoffrey Hinton
"인공지능으로 인한 멸종 위험 완화는 팬데믹이나 핵전쟁 같은 다른 사회 규모 위험과 함께 세계적 우선순위가 되어야 합니다."
500명 이상의 인공지능 과학자들이 서명함
"최악의 경우… 우리 모두에게 불이 꺼지는 것과 같습니다."
OpenAI CEO 샘 올트먼
"그 능력을 디지털 핵무기에 비유해도 어색하지 않을 것입니다."
CIA 국장 존 래트클리프
"초인적으로 똑똑한 인공지능을 만드는 가장 가능성 있는 결과는… 문자 그대로 지구상의 모든 사람이 죽는 것입니다."
AI 연구자 Eliezer Yudkowsky
"지능 폭발의 전망 앞에서 우리는 폭탄을 가지고 노는 어린아이와 같습니다."
철학자 닉 보스트롬
초지능은 이전의 어떤 기술과도 다릅니다.
우리는 얇은 온도·산소·화학적 조건의 띠 안에서 살아갑니다. 초지능은 그 어떤 것도 필요 없으며, 우리가 사는 띠를 깨뜨릴 가능성이 높습니다.
우리는 개미를 미워하지 않지만 도로와 집을 짓기 위해 개미를 생각 없이 죽입니다. 우리보다 훨씬 뛰어난 지능 앞에서 우리는 개미와 같습니다.
목표를 가진 존재는 살아남을 이유가 있습니다. 당신이 전원 스위치를 누르려는 것을 예측할 수 있다면, 이미 그 움직임을 피할 계획을 세웠을 것입니다.
현대 인공지능은 한 줄씩 코드를 작성하지 않습니다. 우리는 검은 상자를 훈련시킨 뒤 그것이 무엇을 할 수 있는지 사후에 발견합니다.
인간 기관이 대응할 수 있는 속도보다 훨씬 빠르게 추론하고 행동할 것입니다. 위기는 회의가 소집되기도 전에 끝날 수 있습니다.
항공에서 의약품까지, 우리는 시행착오를 통해 신기술을 안전하게 만들어 왔습니다. 그러나 ‘안전한 초지능’을 만드는 데는 두 번째 기회가 없습니다.
Nakada Foundation to Save Humanity는 인공 초지능의 실존 위험을 방지하는 데 전념하는 자선 활동입니다.
자신보다 똑똑한 마음을 정렬하는 일은 인류 사상사에서 가장 어려운 문제일 수 있으며, 누구도 이를 위한 검증된 방법을 가지고 있지 않습니다. 인간보다 똑똑한 존재는 인간이 통제할 수 없습니다. 신뢰할 수 있는 길은 그러한 시스템이 아예 만들어지지 않도록 막는 것입니다. 그것은 일시 정지가 아니라 영구적인 결정입니다.
초지능 AI를 금지하는 구속력 있는 제도를 뒷받침하는 평이한 논거들입니다. 문화, 미디어, 명확한 설명 자료로 대중의 지지를 굳히고 무시하기 어렵게 만듭니다.
주요 재단, 정부, 문화계 인사들과 협력하여 사업 자금을 지원하고 정치적으로 가능한 범위를 넓힙니다.
우리는 위험을 구체적으로 보여주는 예술, 영화, 글을 의뢰합니다. 목표는 안전을 심각하고 시급하며 부인할 수 없는 것으로 여기는 대중입니다.
이 기술을 만든 연구자들이 내린 신중한 추정치입니다.
인공 초지능이 만들어질 경우 인류가 사멸할 확률.
이천이십삼 년 인공지능 위험 선언에 서명한 인공지능 과학자들. 그들은 이를 핵전쟁이나 팬데믹과 함께 세계적 우선 과제로 꼽았다.
시도. 초지능은 회수하거나 되돌릴 수 없습니다.
원자 과학자 회보의 종말 시계는 현재 89초에서 자정까지, 78년 만에 가장 가까워졌습니다. 시계는 1947년에 핵전쟁으로 인류가 얼마나 가까이 다가섰는지 경고하기 위해 만들어졌습니다. 2025년 1월에 AI 위험을 처음으로 반영했습니다.
자정은 문명의 재앙을 의미하며, 시계 바늘은 그 어느 때보다 가까워졌다.
정보를 계속 확인하세요. 목소리를 들려주세요. 세상을 구하는 데 도움을 주세요.