참고 문서 · 2026
과학적 합의
인공지능 위험에 관해
인공지능을 만든 사람들이 우리에게 경고하고 있습니다. 그들이 말한 내용과 그들이 누구인지 여기 있습니다.
"인류가 지능 진화의 한 단계를 지나가는 단계일 뿐이라는 생각은 충분히 가능하다고 본다."Geoffrey Hinton 2024년 노벨 물리학상 · 2018년 튜링상
전 Google 부사장 겸 엔지니어링 펠로 · 2023
"AI를 충분한 안전장치 없이 빠르게 배치하려는 강력한 힘 때문에, 일을 잘되게 하려면 우리가 무엇을 해야 할지 막막합니다."Yoshua Bengio 2024년 노벨 물리학상 · 2018년 튜링상
Mila 과학 디렉터 · 2023
"목표를 정의하고 인공지능이 이를 최적화하도록 하는 인공지능의 표준 모델은 아마도 우리의 종말을 가져올 것입니다."Stuart Russell 컴퓨터 과학 교수, UC 버클리
표준 인공지능 교과서 공동 저자
"나는 점점 이 문제가 AI 안전이 해결 가능한지, 어떤 시간표로 가능한지를 떠나 우리 세기의 가장 중요한 문제일 수 있다고 확신한다."Ilya Sutskever OpenAI 공동 창립자 · 수석 과학자 2015-2024
현대 딥러닝 설계자 중 한 명
"우리는 인류 역사상 가장 변혁적이고 잠재적으로 위험한 기술 중 하나를 만들고 있지만, 일시 정지 버튼을 누르지 못하는 것 같습니다."Yoshua Bengio 노벨상 수상자 · Mila · 2023
"AI 안전은 기후 변화보다 더 중요합니다."Geoffrey Hinton 노벨상 수상자 · 전 Google
글로벌 플랫폼 성명, 2024
고조되는 전문가 경고 연표
2014
Nick Bostrom 발표 초지능, 인공 초지능으로 인한 실존적 위험에 대한 최초의 엄밀한 학술 분석입니다. 옥스퍼드 철학자. 일론 머스크와 빌 게이츠가 필독서로 인용했습니다.
2018
힌튼, 벤지오, 르쿤이 현대 심층 학습의 기초를 세운 공로로 튜링상을 받는다. 세 사람 모두 자신이 만든 기술에 대한 안전 우려를 이후에 제기한다.
2023
Center for AI Safety가 멸종 위험 성명을 발표했습니다. 500명 이상의 과학자가 서명했습니다. 별도로 Future of Life Institute가 개발 중단을 촉구하는 공개 서한을 발표해 튜링상 수상자 등을 포함한 3만 3천 명 이상이 서명했습니다.
2024
힌튼과 벵지오가 노벨 물리학상을 받는다. 둘 다 세계적 연단을 이용해 AI 안전 경고를 증폭시킨다. 힌튼은 안전이 이제 "기후 변화보다 더 중요하다"고 말한다.