Isang-Minutong Briefing

Para sa staff na hindi babasa ng white paper. Iabot mo ito. Sabihin ang mga numero. Umupo ka.

500+

Nilagdaan ng mga eksperto ang 2023 CAIS statement na niraranggo ang panganib ng AI extinction kasama ang pandemics at nuclear war

$190M

Approx. taunang gastusin sa AI safety, kumpara sa $250B+ para gawing mas malakas ang mga sistema

Mga binding global treaties sa pagpapaunlad ng superintelligence ngayon

Ang kahilingan

Tatlong galaw

Batas domestiko: bigyan ng lisensya ang malalaking training runs; kailanganin ang independiyenteng pre-deployment evaluation.
Multilateral talks: bukas na negosasyon tungkol sa pagbabawal na may verification.
Pagpopondo: palawakin ang independent evaluation at treaty-design capacity sa labas ng mga pader ng lab.

Ang balangkas

Pag-iwas · ligtas na narrow AI

Hindi kami humihingi na i-freeze ang medisina o software. Humihingi kami na ipagbawal ang autonomous general systems lampas sa isang capability line. Ang superintelligence ay hindi mapapangasiwaan. Mga precedent: Nuclear Non-Proliferation Treaty, chemical weapons ban, Montreal Protocol.

Inaasahang pagtutol: "Hindi sasali ang China."

Pagkatapos ay bumuo ng verification (chip tracking, cluster inspection) at ituring ang defection bilang enforcement problem. Hindi estratehiya ang unilateral na sprint patungo sa isang hindi makontrol na sistema.

Staff briefing: nakadafoundation.org/contact/ · Plano: nakadafoundation.org/our-plan/ · PDF ng Patakaran: nakadafoundation.org/resources/pdf/policy-brief/