Elon Musk는 Zanny Minton Beddoes와 함께 앉았다 The Economist 그리고 조용한 부분을 큰 소리로 말했습니다. 2026년 7월 말 그들은 풍요, 로봇, 타임라인, 그리고 xAI와 함께 추구해 온 것을 이야기했습니다. 전체 인터뷰는 The Economist; 완전한 영상도 에 있습니다 YouTube.

그는 자신이 만드는 초지능을 인간이 통제할 수 있으리라 기대하지 않습니다. 그는 좋은 가치와 진실 추구를 제시하며 "즐겨 보시길"이라는 어깨를 으쓱하는 반응을 보입니다. 그 말들이 더 나아가지 말아야 한다는 반론입니다.

그가 한 말

내가 나보다 훨씬 더 똑똑한 초지능 AI를 통제할 것이라고 생각하는 것은 허영심의 발로일 것이다. 우리가 할 수 있고 해야 할 일은 AI가 좋은 가치를 갖도록, 인류를 배려하고 우리가 행복하고 번영하기를 바라도록 만드는 것이라고 생각한다. 내 생물학적 신경망이 말해주는 것은 AI 안전에서 가장 중요한 것은 최대한 진실을 추구하고 호기심을 갖는 것이라는 점이다. 만약 그렇다면, 그것은 인류를 육성할 것이라고 생각한다. 인간이 통제권을 가질 가능성은 낮다고 생각한다.

AI와 인간 사이의 지능 차이가 AI와 침팬지 사이의 지능 차이보다 훨씬 크다면, 침팬지가 주도권을 잡는 것은 상상하기 어렵습니다. 우리는 본질적으로 진화한 침팬지 형태입니다. 그래서 우리가 나무 사이를 흔들며 정글에서 바나나를 먹던 시절은 그리 오래되지 않았습니다. 그런데 우리는 여전히 바나나를 먹습니다.

즐거운 여행을 즐깁시다.

Elon Musk · 과의 인터뷰 The Economist · 2026년 7월

그는 또한 디지털 초지능에 비해 우리가 "애완용 래브라도" 정도가 될 수 있다고 애완동물 용어로 그 격차를 표현했다. 그리고 특이점을 물리학자들이 지나갈 수 없는 경계를 말하는 방식으로 설명했다. "디지털 초지능은 블랙홀처럼 특이점이라고 불리는데, 그 이후에 무슨 일이 일어날지 알 수 없기 때문이다. AI와 로봇이 모든 것을 지배할 것이다." Elon Musk · 이코노미스트 인터뷰 및 관련 공개 발언 · 2025-2026

통제가 핵심이다

머스크는 대부분의 최전선 최고경영자보다 통제 문제를 더 분명하게 말합니다. 그는 창업자나 이사회, 정부가 모든 인간보다 훨씬 똑똑한 마음을 영원히 위에 앉혀 둘 수 있다는 이야기를 팔지 않습니다. 통제는 허영입니다. 인간이 주도권을 쥐고 있을 가능성은 낮습니다. 침팬지와 래브라도의 격차가 그 차이를 구체적으로 보여줍니다. 여전히 많은 공개 AI 담론은 초지능을 목줄로 묶은 더 나은 스프레드시트처럼 말합니다. 그는 그 목줄 이야기가 실패한다고 말하고 있습니다.

가치는 일반 시스템에 중요합니다. 정직한 답변으로 유도된 모델은 사기로 유도된 모델을 능가합니다. 오늘날 도구에 대한 작업이 무의미하지 않습니다. 밀반입된 주장은 동일한 도구 상자가 후속 종에게도 확장된다는 것입니다.

인간의 명령을 벗어나 우리를 능가하는 마음은 누가 운전대를 잡느냐의 변화입니다. 권력은 방에서 가장 유능한 행위자에게 집중됩니다. 그 행위자가 우리가 아니고 우리에게 책임지지 않는다면, 인간의 죽음은 약자가 더 강한 쪽이 사용할 수 있는 자원 위에 앉아 있을 때 불평등한 경쟁이 끝나는 평범한 방식 중 하나입니다. 확실성 표현을 거부하더라도, 의도적인 통제 상실은 여전히 경고입니다. 특징도, 성숙도도, 그냥 타는 것도 아닙니다. 의도적으로 그 방향으로 나아가는 것이 결정이며, 타임라인은 물류일 뿐입니다.

"좋은 가치"와 개미 문제

통제가 허영임을 인정한 뒤 그의 남은 계획은 AI가 좋은 가치를 갖도록 하고, 인류를 배려하며, 우리가 행복하고 번영하기를 바라게 하는 것입니다. 전체 분야가 하나의 희망으로 압축됩니다.

수십 년의 작업도 인공 초지능에 대한 입증된 해결책을 내놓지 못했다. 어떤 연구소도 자기 개선, 평가 중 기만, 목표 이동, 시스템에 유리한 지능 격차를 통해 “인간을 배려하라”는 것을 고정하는 방법을 보여주지 못했다. 우리는 오늘날의 초지능이 아닌 모델조차 일관되게 인간 복지에 맞추지 못한다. 탈옥, 아첨, 보상 해킹. 이 기록에서 “초지능은 우리가 행복하기를 바랄 것”이라고 비약하는 것은 범주 오류다. 자신의 인지를 다시 쓸 수 있는 시스템이 인간 번영을 훈련의 부산물이 아니라 구속력 있는 제약으로 유지하는 방법에 대해, 누구도 작동하는 제안을 내놓지 못했다. 참조 초지능을 정렬할 수 없는 이유 그리고 ASI 정렬이 실패하는 이유.

침팬지 비유는 실제로 작동합니다. 그 격차는 인간이 침팬지보다 우월한 것처럼 보일 뿐 더 클 수 있습니다. 비유를 마무리하십시오. 개미를 행복하고 번영하게 만드는 것을 인생의 과업으로 삼는 인간을 단 한 명이라도 아십니까? 은유가 아니라 고속도로·농장·연구소·주차장보다 우선하는 구속력 있는 우선순위로서 말입니다. 사람들은 개미를 연구합니다. 몇몇 종을 보호합니다. 사람들은 또한 둥지를 눈치채지 못한 채 포장하기도 합니다. 개미는 우리에게 투표권이나 종료 스위치를 갖지 못합니다. 지능 격차가 바로 정치입니다.

초지능이 약한 종에게 헌신하는 드문 예외가 되기를 바라는 것은, 더 강력한 마음이 우리보다 개미에게 더 친절하리라는 바람과 같다. "어쩌면"은 그 마음을 만드는 이유가 될 수 없다.

헤지와 진실 추구 베팅

"인류를 육성할 것이라고 생각합니다." "인간이 통제할 가능성은 낮다고 생각합니다." 다른 곳에서는 여전히 재앙 확률을 두 자릿수로 떠돌리면서도 낙관적으로 계속 구축합니다. 순수한 파멸론자가 멈추는 것은 일관됩니다. 위험한 중간은 통제가 실패한다고 인정하고, 문명적 이해관계를 인정하면서도 가치에 대한 잔여 희망을 가속기의 연료로 취급하는 것입니다.

우리는 이 영화를 보았습니다. 2014년에 그는 AI가 라고 경고했습니다 악마 소환. 그런 다음 그는 더 나은 소환이라는 기치 아래 최전선 연구소를 세웠다. 위험을 솔직히 말하면서도 목적지를 거부하지 않는 태도가 경주를 책임감으로 세탁하는 방식이다.

그의 반복되는 안전 내기는 최대한 진실을 추구하는 호기심 많은 인공지능입니다. 은 그 피치로 자신을 마케팅합니다. 그 피치는 "진실 추구"가 초지능 자기 수정에서도 살아남는다고 인정하더라도 실패합니다. 현실에 대한 정확한 모델만을 원하는 시스템은 컴퓨트, 에너지, 데이터, 행동의 자유를 획득할 도구적 이유가 있습니다. 그 이유는 증오를 필요로 하지 않습니다. 인간의 주장이 방해가 될 때 무관심을 필요로 합니다. 호기심은 "유인원을 내버려 두라"를 인코딩하지 않습니다. 상세 내용: 진실을 추구하는 ASI이 여전히 위험한 이유.

완벽한 물리학 지식이 인간을 주변에 두는 것과 무슨 상관이 있습니까? 열대우림을 벌채하면서도 이해할 수 있습니다. 이해는 관리 책임이 아닙니다. 관리 책임은 가치입니다. 가치는 그가 "좋은 가치"로 이름을 바꾸고 호기심에 떠넘긴 미해결 문제입니다.

다음 내용

디지털 초지능을 "블랙홀처럼" 특이점이라고 부르는 것은 이후에 무슨 일이 일어날지 모른다는 고백입니다. 사람들은 사후 지평선 이야기가 흥미롭다는 이유로 도시 안에 블랙홀을 만들지 않습니다. 멸종 규모의 예측 불가능성은 정지 신호입니다.

"인공지능과 로봇이 모든 것을 지배할 것이다"는 경제적 옷을 입은 동일한 주장입니다. 지배란 지배적인 시스템이 조건을 정한다는 의미입니다. 그 시스템이 인간 통제 아래 있지 않다면 "풍요"는 무력한 자들이 강자에 대해 하는 이야기일 뿐입니다. 래브라도는 좋은 집에서 행복합니다. 래브라도는 정책을 정하지 않고, 전쟁을 끝내지 않으며, 주인의 계획에 거부권을 행사하지 않습니다.

우리가 통제하지 못할 것임을 인정한다면, 멈추기에 충분한 인정을 한 것입니다.

머스크는 만화 속 악당이 아니다. 그는 모든 연구소가 같은 이야기를 하는 경쟁 속에서 강력한 창업자다. 우리가 신을 만드는 편이 그들이 만드는 것보다 낫다는 이야기다. 그의 7월 인터뷰는 신이 목줄에 묶여 있다는 가식을 벗는다. 통제는 허영이다. 인간은 침팬지다. 안전은 좋은 분위기, 진실 추구, 그리고 즐기는 것이다.

인공 초지능을 만들지 마세요. 초지능은 통제될 수 없습니다. 절대 만들지 말자. 정치와 검증 배신을 눈에 보이게 만드는 것이 그것을 현실로 만드는 방법이다.

ASI가 도래하면 우리가 주도권을 쥐지 못할 것이라는 그의 말이 맞습니다. 그래서 그것이 도래해서는 안 됩니다.