안전 자금 격차

돈은 우선순위의 지도입니다. 능력은 자본을 얻고, 안전은 나머지를 얻습니다.

능력

2500억 달러 이상

인공지능을 더 강력하게 만드는 데 대한 전 세계 연간 투자 (산업 규모, 2020년대 중반 추정치)

대

안전 분야

약 1억9000만 달러

기술 안전, 평가, 정책, 옹호에 대한 연간 유입을 합친 것

1,000배 이상

이 기술을 만드는 데 쓰이는 돈의 0.1퍼센트도 되지 않는 금액만이 우리가 멸망하지 않도록 하는 데 쓰인다. 안전 예산 안에서도 정치적 의지를 만드는 옹호 활동은 얇은 조각이다.

안전 자금이 가는 곳

대략적인 비중은 다음과 같습니다. 기술 연구가 가장 크고, 평가가 다음이며, 거버넌스와 정책이 그다음, 현장 구축과 옹호 활동이 가장 작습니다. 조약을 만드는 작업은 위험 규모에 비해 자금이 부족합니다.

연극 대신 무엇에 자금을 지원해야 하는가

연구소 벽 밖의 독립 평가. 조약 설계와 외교 역량. 강경한 법에 대한 허용을 만드는 대중 옹호. 컴퓨트 거버넌스 도구. 연구소 내부 팀만으로는 국제 규칙을 작성할 수 없다.

공개 자료(AI 안전 자금 개요, 80,000 Hours, Open Philanthropy 보조금 분석, Inside Philanthropy)에서 수집한 중간값을 반올림한 것입니다. 발표된 총액은 정의에 따라 달라집니다. 작업 내역: nakadafoundation.org/blog/why-is-there-so-little-ai-safety-funding/

정책을 움직이는 격차를 좁혀라.

nakadafoundation.org/donate/