구속력 있는 국제 조약은 기술적 진보를 계속하면서 인류를 구할 수 있습니다.
우리는 인간 지능을 초월하고 수정하거나 멈출 수 없는 시스템에 반대하는 자선 캠페인입니다. 인류는 초지능을 절대 만들어서는 안 된다.
인간의 모든 영역에서 능력을 초월하고 대체하도록 의도적으로 성장시킨 단일 시스템은 위험합니다. 인공 초지능은 인류에 대한 1순위 위험으로, 전 세계 핵전쟁보다 큽니다. 핵전쟁은 문명을 끝내고 생존자를 남길 수 있습니다. 초지능은 우리 종을 멸종시킬 것입니다.
우리는 화학무기, 핵 비확산, 오존층 보호를 위한 국제 조약처럼 세상을 움직인 검증된 개념을 본받아 활동한다.
우리는 완전히 독립적이며 인공지능 연구소나 그 투자자, 최전선 경쟁으로 이익을 얻는 기업으로부터 자금을 받지 않습니다.
미디어는 여론을 형성하고 위기를 무시하기 어렵게 만드는 문화를 조성하는 강력한 도구입니다. 이는 투표하는 대중과 우리가 선출한 지도자들의 마음에 영향을 미칩니다 Ronald Reagan 1983년 영화를 보았습니다 그 다음 날, 추상적인 핵전쟁 개념이 구체적인 것이 되었고, 대통령은 나중에 소련과 핵 비축량을 줄이는 구속력 있는 조약에 서명했습니다.
"더 안전한 경쟁"이나 "안전한 전환"을 위해 일하는 조직이 많습니다. 우리는 법적 구속력이 있는 법 아래 ASI을 막기 위해 긴급히 일하는 소수의 단체 중 하나입니다. "전환"은 절대 일어나서는 안 됩니다.
우리는 암을 진단하거나 신약 개발을 가속하는 등 통제되고 유익한 협소 인공지능을 지지하므로 "반인공지능" 단체가 아닙니다. 그러한 시스템은 단일 영역에서만 인간 능력을 초월하므로, 인류에게 이익이 되도록 그 작업을 안전하게 관리할 수 있습니다.
우리 재단은 오직 ASI 예방에만 전념한다. 우리는 구속력 있는 국제 조약을 가능하게 하는 공공 활동을 수행한다. 영화, 영상, 에세이, 이미지 제작과 문화 지도자와의 관계 구축이 여기에 포함된다. 또한 우리는 정렬 연구에서 ASI 예방으로 인재와 자금을 전환하는 것을 목표로 한다.
우리는 기술 연구, 정책 분석 또는 로비를 하지 않습니다.
우리는 또한 대화형 AI, 일자리 자동화, 군용 무인기 또는 자료 처리 센터 같은 일반 AI 주제에 대한 입장을 취하지 않습니다.
우리는 US 기반 자선 단체입니다. 2026년 8월 현재 501(c)(3) 자격을 갖추기 위한 재정 후원 절차를 진행 중입니다. 이후 모든 기부금은 세금 공제 대상이 됩니다.
우리는 소규모 자문 위원회를 구성하고 있습니다. 특히 공익 커뮤니케이션, 모금, 문화 제작 경험이 있는 분을 찾고 있습니다.
상당한 영향을 미치는 것은 우리의 최우선 목표 중 하나입니다. 우리의 산출물은 엑스에서의 노출도와 유튜브 영상 조회수처럼 공개적이고 측정 가능하며, 이를 유권자 여론의 정서와 비교 추적합니다.
Naoto Nakada 냉전 시기 핵 조약 업무에 자금을 댔을 것이다. 우리 설립자는 초지능을 오늘날의 실존적 위기로 본다.
수십 년간의 인공지능 안전 연구 끝에, 우리가 우리보다 똑똑한 것을 통제할 수 없다는 결론이 나왔지만, 대부분의 돈이 그 분야 여전히 구축되는 동안 "더 안전한" 프론티어 시스템으로 향합니다. 존재하기 전에 인공 초지능을 막는 일은 여전히 극도로 자금과 논의가 부족하며, 오직 ASI 방지에만 전념하는 세계 7개 단체.
우리는 그 격차에 대응하여 재단을 설립했으며, 위협의 긴급성과 중대성을 명확히 하는 인상적인 이름을 붙였습니다.
인류의 이야기는 이제 막 시작되었습니다. 우리는 이 이야기가 영원히 이어지도록 보장해야 합니다.
Naoto Nakada
아니다. 우리는 유용한 협의 AI를 지지한다. 일을 하고 교정할 수 있는 시스템이다. 우리는 인공 초지능을 막으려 한다. 개방형 능력이 별개의 범주에 들어가는 시스템이다. 스마트폰, 인터넷, 심지어 원자력 발전소도 규제하고 정지할 수 있다. 초지능은 그럴 수 없다.
우리는 독자적입니다. 우리는 인공 초지능과 그것을 막는 조약을 가능하게 하는 문화적 작업을 합니다. 챗봇 편향, 자동화로 인한 일자리 손실, 딥페이크, 군용 드론, 데이터센터 입지: 그것들은 다른 곳에서 중요할 수 있습니다. 그것들은 이 재단의 일이 아닙니다. ASI 방지와 관련이 없는 질문은 이 재단의 범위를 벗어납니다.
가장 흔한 반대는 핵 비확산에 반대할 때 쓰던 논리와 같은 형태입니다. NPT는 불완전하지만 여전히 작동했습니다. 1945년 이후 핵무기가 전쟁에서 사용되지 않았고 수백 개국이 핵보유국이 될 수 있었는데도 아홉 개국에 그쳤습니다. 이탈 위험은 검증을 강화할 이유이지 경쟁을 서두를 이유가 아닙니다. 최전선 학습은 여전히 소수의 칩 제조사를 거칩니다. 연산량 기준을 감시하는 것은 물리학 문제가 아니라 정치 문제입니다.
그렇습니다. 그들은 영업팀, 투자자 관계 부서, 주주를 대표하는 이사회 구성원, 경쟁사보다 제품을 더 빨리 출시하라는 경쟁 압력도 가지고 있습니다. 상업 AI 연구소 내부 안전팀은 회사 나머지 부서와 동일한 인센티브에 답하며, 그 인센티브는 위험 감소보다 능력 출하를 보상합니다. OpenAI 안전팀이 너무 빠르게 움직인다는 우려를 발표했을 때도 회사는 어쨌든 더 빠르게 움직였습니다. 내부 팀은 기껏해야 외부 규제를 보완할 뿐입니다. 이를 대신할 수는 없습니다.
튜링상 수상자 제프리 힌튼은 현대 AI의 기초를 쌓는 데 경력을 바쳤으며 인공지능이 인류를 멸종시킬 확률이 10~20퍼센트 이번 세기 안에. 노벨상 수상자 요슈아 벤지오는 위험이 실재하며 과소평가되고 있다고 공개적으로 밝혔다. 샘 알트만을 포함한 500명 이상의 인공지능 과학자들이 서명한 2023년 인공지능 안전 센터 선언문은 인공지능 멸종 위험을 핵전쟁 및 팬데믹과 함께 세계적 우선 과제로 놓았다.
재단에 참여하세요. 아직 듣지 못한 사람들에게 우리의 메시지를 전하세요. 선출된 대표에게 연락하여 AI 위험에 대한 그들의 입장과 지지하는 법안이 무엇인지 물어보세요. 재정적 자원이 있다면, 재단이나 ASI 예방에 힘쓰는 다른 여섯 조직 중 하나에 기부하는 것을 고려하세요. 문화적 또는 미디어 영향력이 있다면, 그것을 활용하세요. AI 연구소에서 일하며 우려가 있다면, 공개적으로 발언하는 것을 고려하세요. 정치적 의지가 이를 결정하며, 이는 당신 같은 사람들에게서 나옵니다.
업데이트를 받아보고 이 대의가 필요로 하는 압력을 함께 쌓아가세요.