명확화 · 2026
인공지능은 유지하되. 초지능은 막으세요.
후속 정신을 멈추는 것은 인공지능을 멈추는 것과 같지 않습니다. 사람들이 원하는 이득의 대부분은 ASI를 필요로 하지 않습니다.
제한된 AI · 일을 수행하는 도구
계속 구축
제한된 작업을 위해 훈련된 시스템. 끝없는 의제 없음. 모든 네트워크에 복사하려는 충동 없음.
- 의료 영상 및 신약 발견
- 날씨, 전력망, 산업 모델
- 코딩 어시스턴트와 생산성 소프트웨어
- 고정되고 감독되는 작업을 위한 로봇공학
초지능 · 우리를 대체하는 마음
구축하지 마십시오
과학, 전략, 설득, 공학 전 분야에서 인간의 능력을 동시에 능가하고, 스스로를 개선하며 우리가 의도하지 않은 목표를 추구할 수 있는 시스템입니다.
- 개방형 자율 에이전시
- 일반성을 향한 재귀적 자기 개선
- 검증된 능력 임계점을 넘는 훈련 실행
- 아무도 신뢰할 수 있게 종료할 수 없는 시스템
사람들이 말하는 이점은 대부분 좁습니다
새로운 의약품, 저렴한 청정 에너지, 더 나은 예측, 더 안전한 공장. 그것들은 도구 문제다. 스스로 하위 목표를 설정하고 감독자를 능가하는 범용 에이전트는 필요하지 않다.
도구로서의 인공지능은 찬성. 우리가 통제할 수 없는 지능을 위한 ASI은 반대.
왜 그 구분이 연합을 이기게 하는가.
nakadafoundation.org/blog/future-without-superintelligence/