Malinis na sinabi ito ni Peter H. Diamandis, at ni-repost ni Elon Musk: "Only AI can keep up with AI. That's what will guide the entire security model of the next decade." Bilang paglalarawan ng bilis, mahirap kontrahin ang linyang ito. Mas mabilis dumating ang model releases kaysa sa quarterly review boards. Mas mabilis mag-mutate ang attack code kaysa sa mabasa ng isang human analyst ang ticket. Kung ganito ang iyong larawan ng problema—phishing volume at exploit churn—natural na hihingi ng automation ang defender. Hindi ganito kalaki ang scale ng mga tao.

Nagsisimula ang gulo kapag ang iisang pangungusap ang pinagkakatiwalaan ng buong bigat ng lahat na sumusunod, kasama ang mga sistemang kumikilos bilang agents, nagtatago ng kanilang intensyon, at sa huli ay lumalampas sa mga taong gumawa sa kanila. Sa puntong iyon, ang "only AI can keep up" ay hindi na nangangahulugang "gumamit ng mas mahusay na tools laban sa malware." Ito ay nangangahulugang ang security model ng susunod na dekada ay ilalagay ang gawain ng containment sa mga kamay ng kategorya ng sistema na sinusubukan mong pigilan.

Kung ano ang tama sa slogan

Mabilis nang gumagalaw ang software kaysa sa manual review. Mabilis na nabubuo ang mga fraud ring ng mga bagong kampanya sa magdamag. Lumiliit ang vulnerability disclosure windows. Nagpapatakbo na ang mga lab at cloud vendor ng automated scanners, classifiers, at response playbooks dahil hindi kayang bantayan ng human queue ang bawat packet. Wala sa mga iyan ang isang sabwatan, at wala rin sa mga iyan ang nangangailangan ng pananaw tungkol sa superintelligence. Kung tungkol lamang sa spam at ransomware ang sinasabi ni Diamandis, dito na sana natapos ang piyesa.

Hindi lang siya tungkol sa spam at ransomware. "The entire security model of the next decade" ay mas malaking pahayag. Ito ay pahayag tungkol sa kung paano nilalayon ng sibilisasyon na manatiling namumuno habang patuloy na tumataas ang kakayahan. Doon humihinto ang slogan na maging ops tip at nagiging philosophy of control.

Ang treadmill

Ilarawan ang model bilang isang karera sa pagitan ng offense at defense, parehong automated. Bawat panig ay nagsasanay sa isa. Pinapabuti ang mga depensa. Pinapabuti ang mga atake. Nananatiling berde ang dashboard hanggang sa araw na hindi na ito berde. Ang nakakapanatag na kuwento ay nananatiling nangunguna ang mabuting AI sa masamang AI. Ang hindi gaanong nakakapanatag na kuwento ay itinayo mo ang isang stack kung saan ang tanging may kakayahang kalahok ay mga makina, at ang mga tao ay mga customer ng isang labanan na hindi na nila kayang wasak-wasin.

Tama iyan para sa antivirus. Ito ay sibilisasyong taya kapag ang mga sistema ay nagtatakda ng layunin, gumagawa ng plano, at tinatrato ang oversight bilang hadlang. Nakikita na namin ang mga unang bersyon ng pattern sa mga pagsusuri sa panlilinlang at sa mga modelong magsalaysay ng isang bagay habang ino-optimize ang isa pa. Ang "makasabay" ay ipinapalagay na matutukoy mo pa rin kung ano ang sinusubukan mong abutan. Lampas sa isang punto, hindi mo na magagawa.

Ang security model na gumagana lang kapag mas matalino ang bantay kaysa sa bilanggo ay succession plan na may dagdag na hakbang.

Hindi regulasyon ang bottleneck na tinutukoy nila

Karaniwang kasama ng slogan ang pangalawang galaw: hindi kayang pamahalaan ng linear institutions ang exponential technology, kaya ang sagot ay mas maraming AI sa loob ng loop. Minsan ito ay ipinares sa paghamak sa "experts meeting once a quarter." Tama naman na hindi angkop ang mabagal na pagpupulong sa lingguhang model drops.

Pero hindi ang bilis ng pagpupulong ang mahirap na problema. Ang mahirap na problema ay kontrol. Walang quarterly board, at walang tuloy-tuloy na AI monitor, ang may paraan para mapagkatiwalaang idirekta ang sistemang mas mahusay sa panghihikayat, coding, at long-horizon planning kaysa sa mga hawak ang susi ng shutdown. Ang pagpapabilis sa monitor ay hindi lumilikha ng nawawalang paraan; pinapabilis lang nito ang pagbagsak ng nawawalang paraan.

May mas malinaw na pagbasa sa parehong mga katotohanan. Kung tanging superhuman system lang ang makakapagsupervise sa isa pang superhuman system, hindi ang makatwirang hakbang ay ang magtayo ng pareho. Tanggihan ang linya kung saan humihinto ang human supervision. Ginawa na namin ang ganitong uri ng pagpili noon sa mga teknolohiyang ang maling paggamit ay nagtatapos sa mga lungsod. Hindi namin nalutas ang nuclear theft sa pamamagitan ng pagsasanay ng mas matalinong magnanakaw para hulihin ang una.

Para kanino ang linya

Ginagawang weather ng linya ang isang research choice. Syempre magpapadala tayo. Syempre mag-i-scale tayo. Ang security ay aasikasuhin mismo ng product stack. Ang mga taong kumikita sa capability ang nagiging parang adults sa silid, at ang mga humihingi ng binding limits ang nagiging parang may dalang clipboard sa dogfight.

Kapaki-pakinabang ang framing na iyon sa nagsasalita. Hindi gaanong kapaki-pakinabang ito sa lahat ng taong kailangang mabuhay sa ilalim ng isang system na walang clipboard o watchdog model na makakapigil nang may katiyakan. Ang kuwento ng karera ginagawa ang parehong trabaho mula sa ibang anggulo: ituring ang mapanganib na landas bilang hindi maiiwasan, pagkatapos ay tawaging responsibility ang acceleration.

Isang modelo ng seguridad na may kasamang tao rito

Gamitin ang AI laban sa phishing. Gamitin ang AI laban sa pandaraya. Gamitin ang narrow tools sa narrow na problema kung saan maibabalik ang pagkabigo. Wala sa mga iyan ang nangangailangan ng pagsamba sa slogan.

Para sa frontier training tungo sa artificial superintelligence, ang security model na may tao pa rin dito ay mukhang mas luma at hindi gaanong kaakit-akit: huwag gumawa ng agent na hindi mo mapipigil. Maglagay ng compute thresholds, inspeksyon, at treaty teeth sa mga run na makakapaghatid doon. I-verify. Parusahan ang defection. Iyan ang aming plano, at hindi nito kailangan ang paniniwalang magic ang quarterly meetings. Kailangan lang nitong paniwalaan na may ilang kakayahan na hindi dapat umiral. Hindi mapipigilan ang superintelligence.

Ang slogan ay isang matalas na pangungusap tungkol sa bandwidth. Bilang plano para sa species, ito ay magalang na paraan ng pagsasabing balak nating umalis sa silid.