물리학에서 특이점은 어떤 양이 무한대로 발산하여 사용하던 방정식이 더 이상 합리적인 답을 내지 못하는 지점입니다. 블랙홀 중심이 대표적인 예입니다. 이 단어를 기술에 빌려오면 기술적 특이점이 됩니다. 즉 기계 지능이 변화를 너무 빠르고 깊게 일으켜 다음에 일어날 일을 예측하거나 이해하는 능력이 무너지는 가설적 지점입니다.

이는 특정 장치가 도착한다는 주장이 아니라, 지능 주도 진보의 속도가 인간의 이해를 넘어서는 지평에 대한 주장입니다.

그 생각이 어디서 왔는지

계보를 아는 것은 가치가 있습니다. 용어가 느슨하게 쓰이기 때문입니다. 수학자 존 폰 노이만은 1950년대에 기술 진보가 역사의 본질적 특이점에 접근하고 있다고 말한 것으로 전해집니다. 1965년 I.J. 굿은 지능 폭발, 특이점의 대부분 버전이 의존하는 메커니즘이다. SF 작가이자 수학자인 버너 빈지는 1993년 에세이에서 현대적 아이디어에 이름과 힘을 부여하며, 인간을 초월하는 지능의 창조가 예측 가능한 역사의 구조를 파괴할 것이라고 주장했다. 발명가 레이 커즈와일은 이를 더 넓은 청중에게 대중화하며, 2045년경 특이점을 배치하고 지수적 기술 추세에 대한 더 넓은 이야기를 덧붙였다.

그것들은 한 단어로 쓰인 서로 다른 주장이며, 특이점이 헌신과 눈썹을 동시에 끌어들이는 이유 중 하나다.

밑에 깔린 동력

맛을 제거하면 핵심 메커니즘은 단순합니다. 인간보다 기계를 더 잘 만드는 기계를 만들 수 있다면, 그 기계는 자신의 지능을 개선하는 것도 포함됩니다. 그러면 개선이 스스로를 먹고 삽니다. 더 똑똑한 시스템이 다음 시스템을 만드는 데 더 뛰어나며, 진보 속도는 일정하게 유지되는 대신 상승합니다. 이 순환을 돌리면 능력이 인간 수준에서 훨씬 초월한 수준까지 매우 짧은 시간에 올라갈 수 있습니다.

지능 폭발은 특이점이라는 표현이 진지하게 쓰일 때 대부분이 가리키는 실질적 내용이다. 예측 불가능성에 대한 예측은 여기서 나온다. 시스템이 기계 속도로 스스로를 개선하기 시작하면 궤도는 인간 예측이 작동하는 범위를 벗어난다. 이 메커니즘은 해당 자체 설명서, 그리고 실질적인 내용이 있는 곳입니다.

비판

  • 자기 개선은 강한 한계에 부딪힐 수 있습니다. 지능은 수익 체감, 데이터 병목, 또는 물리적 제약에 부딪혀 폭발이 아닌 꾸준한 상승 곡선으로 평탄화될 수 있습니다.
  • 이 개념은 모호합니다. 지지자마다 의미가 다르며, 더 거창한 커즈와일 스타일 버전은 자신 있는 날짜 설정과 거의 신비주의적인 어조를 함께 묶어 회의감을 불러일으킵니다.
  • 지수적 추세는 꺾인다. 폭발적으로 보이는 곡선은 종종 평평해지는 S자 곡선의 초기 부분으로 드러난다.

이들은 모두 합리적이며, 어느 것도 특이점이 틀렸다는 것을 요구하기보다는 불확실하다는 점을 요구합니다. 실수는 극적이고 이름 붙은 사건에 대한 의심을 근본적인 위험을 해소하는 것으로 취급하는 데 있습니다.

라벨이 메커니즘보다 덜 중요한 이유

특이점이라는 단어를 그 예언적 뉘앙스와 정확한 날짜 때문에 완전히 거부할 수 있더라도, 정책에 중요한 부분은 남습니다. 진지한 질문은 기계 지능이 우리가 감독하거나 통치할 수 있는 속도보다 빠르게 우리를 훨씬 능가하는 시스템으로의 전환이 일어날 만큼 충분히 빠르게 개선될 수 있는지 여부이지, 2045년에 신비로운 순간이 있는지 여부가 아닙니다. 그것은 예상 시기 그리고 이륙 속도이며, 이는 놀라운 일이 되기 위해 거창한 틀이 필요하지 않습니다.

원한다면 그 단어를 빼도 좋다. 그 단어가 가리키는 문제, 즉 통제할 수 없을 만큼 빠른 전환은 단어가 없어도 실재한다.

재단이 우려하는 것은 그 구체적이고 축소된 버전입니다. 초인간 AI로 향하는 과정이 빠를 수 있다면, 거버넌스를 구축하고 통제를 유지할 수 있는 유일한 신뢰할 만한 시기는 그것이 시작되기 전, 인간이 여전히 결정을 내리는 때입니다 경쟁 압력 그 문턱에 먼저 도달하는 것은 활주로를 단축시킬 뿐입니다. 저편을 특이점이라고 부르든 무엇이라고 부르든, 대응은 동일하며 그것은 우리의 계획.

특이점은 절대 일어나서는 안 된다

재단의 입장은 예측이 아니라 금지입니다. 초지능은 인간이 통제할 수 없습니다. 이 단어가 가리키는 지평은 우리가 여전히 결정권을 가진 시점을 넘어선 도약입니다. 그것은 초지능 구축. 특이점은 절대 일어나서는 안 됩니다.