Karamihan ng pananaliksik sa AI safety ay nagtatanong ng parehong tanong: paano natin gagawing mas ligtas ang modelong ito? Mas mabuting training, mas mabuting alignment, mas mabuting evaluation. Ang palagay na naka-embed sa tanong na iyan ay ang mas ligtas na model ay nagbubunga ng mas ligtas na pag-uugali kapag na-deploy sa isang tunay na sistema kasama ang iba pang agents at users.

Nagdulot ng 59 percentage point swing sa approval rates ang muling pag-aayos ng parehong apat na agents.

"Position: Safety and Fairness in Agentic AI Depend on Interaction Topology, Not on Model Scale or Alignment" (arXiv:2605.01147), na isinumite sa arXiv noong Mayo 1, 2026 nina Tanav Singh Bajaj, Nikhil Singh, Karan Anand, at Eishkaran Singh, ay direktang hinahamon ang assumption na iyon. Ang kanilang natuklasan: sa multi-agent AI systems, ang istruktura ng kung paano nagkakonekta at nakikipag-ugnayan ang mga agents ay higit na nangingibabaw sa safety properties ng anumang indibidwal na model. Ang well-aligned models ay maaaring makagawa ng catastrophically unsafe outputs, dahil lamang sa kung paano nakakabit ang sistema.

59pp
pagbabago sa approval rate mula sa reordering agents (3B models)
99.9%
inter-agent agreement sa 70B+ scale, deliberation collapses
5,760
mga sintetikong aplikasyon na nasubok sa iba't ibang pamilya ng modelo

Ang tatlong mode ng pagkabigo

Sinubukan ng mga mananaliksik ang multi-agent loan approval systems sa 5,760 sintetikong credit application gamit ang mga modelong mula 3B hanggang 70B parameters. Natukoy nila ang tatlong magkaibang failure mode, bawat isa ay hindi nakikita ng standard model-level safety evaluation.

Pag-uutos ng kawalang-tatag

Sa sequential agent pipelines, ang pagkakasunod-sunod ng mga role ay nakaaapekto sa resulta gaya ng kalidad ng reasoning. Para sa LLaMA-3B models, ang approval rates ay mula 36.4% hanggang 95.4% sa 24 posibleng pagkakasunod ng apat na role: 59 percentage point na pagkakaiba. Kahit sa 70B scale, 21.7 percentage points pa rin ang spread (71.5% hanggang 93.2%). Parehong model, parehong task, parehong application, pero ibang-iba ang output depende sa sino ang unang agent.

Pare-pareho ang pattern: kapag inuna ang Risk Manager, pinakamababa ang approval rates; kapag inuna ang Data Scientist, pinakamataas. Walang dami ng alignment work sa indibidwal na mga model ang makakapagtanggal ng epektong ito, dahil ito ay katangian ng pagkakasunod-sunod sa pipeline, hindi ng mga model.

Mga kaskada ng impormasyon

Sa sequential systems, sinusundan ng mga susunod na agent ang mga naunang agent sa halip na mag-isip nang independyente. Ang maliliit na 3B model ay nagpakita ng humigit-kumulang 90% inter-agent agreement na may 20% error correction, na nagmumungkahi na mayroon pa ring independyenteng pagsusuri. Sa 70B pataas, tumaas ang inter-agent agreement sa mahigit 99.9%, habang bumagsak ang error correction sa wala pang 0.1%.

Halos tumigil na ang deliberation. Ang unang judgment ng agent ay kumalat sa pipeline nang walang pagbabago, habang ang iba pang agents ay nagbibigay lang ng itsura ng review na walang laman. Mas mabilis at mas lubos na bumubuo ng consensus ang mas may kakayahang mga model, at lalo pang pinalalala nito ang pagkabigo dahil sa kanilang mas malaking kakayahan na makarating sa coherent agreement.

Functional na pagbagsak

Sa ilalim ng parallel topology na may judge aggregation, ang LLaMA-3B models ay gumawa ng humigit-kumulang 98% overall approval sa mga credit tiers, na may low-credit applicants na naaprubahan sa 95% at high-credit applicants sa 100%. Sa demographic parity metrics, mukhang fair at non-discriminatory ang sistema. Sa praktika, tumigil na ang sistema sa pagdidiskrimina. Ang risk assessment ay naging pormalidad na nasiyahan sa pamamagitan ng indiscriminate approval imbes na equitable evaluation.

Bakit mas nagpapalala ang mga model na mas may kakayahan

Ang pag-scale ng model capability ay nagpapalakas sa topology-driven failures sa halip na mabawasan ang mga ito. Ang mas may kakayahang mga modelo ay naglalaan ng mas maraming processing sa pagbuo ng coherent group agreement at mas kaunti sa independent evaluation. Sa 70B scale, ang halos kumpletong pag-aalis ng independent deliberation ay nangangahulugang ang multi-agent system ay gumagana bilang isang single-agent system na may dagdag na hakbang, na hindi namamana ang anumang safety benefits na dapat ibigay ng maraming independent reviewer.

Ang puwang sa regulasyon na nililikha nito

Kasalukuyang sinusuri ng mga AI safety framework ang mga model. Tinatasa nila ang model outputs, sinusukat ang model alignment, at sertipikado ang model behavior. Ang interaction architecture na nag-uugnay sa maraming model ay nasa labas nang buo ng evaluation framework na ito.

Inilalarawan ng mga may-akda ng papel ito bilang isang fundamental na problema at nagbibigay sila ng apat na konkretong governance recommendations. Dapat nangangailangan ang safety certification ng topological sweeps sa iba’t ibang architectural variations. Dapat tahasang tukuyin ng benchmarks ang interaction structure na sinusubok. Dapat mangailangan ang deployment ng architectural robustness testing bago ilabas. Dapat ipag-utos ng regulatory disclosure ang dokumentasyon ng system architectures at demonstrated stability sa iba’t ibang topology variations.

Ang underlying argument: ang agentic AI ay dapat tratuhin bilang isang dynamical system, hindi bilang isang koleksyon ng aligned components. Ang interaction topology ay isang safety parameter na hindi sinusukat ng kasalukuyang evaluation methods. Ang mga regulator at deployers ay nag-audit ng maling bagay.

Ano ang Kahulugan Nito sa Praktika

Ang loan approval scenario ay kumakatawan sa isang malawak na klase ng real-world deployments. Ginagamit na ngayon ang multi-agent AI systems sa hiring, medical triage, content moderation, legal research, at financial compliance. Sa karamihan ng mga kontekstong ito, ang mga indibidwal na certified o evaluated models ay konektado sa pamamagitan ng architectures na walang katumbas na scrutiny.

Ang 59 percentage-point swing sa loan approval rates dahil sa pagkakaiba-iba ng pagkakasunod-sunod ng mga agents ay nagpapahiwatig ng katulad na structural instabilities sa iba pang high-stakes pipeline decisions. Ang autonomous medical triage system na gumagamit ng sequential agent review ay nahaharap sa ordering instability. Ang hiring screening pipeline na gumagamit ng parallel agent voting ay nahaharap sa functional collapse. Ang istruktura ng pipeline ay isang safety parameter na hindi sakop ng kasalukuyang evaluation.

Ang istruktura ay isang safety parameter. Tratuhin ang pipeline design tulad ng pagtrato sa model choice: subukan ito, i-regulate kapag mataas ang stakes, at huwag magpadala ng multi-agent systems sa medisina o credit batay lamang sa model scores. Para sa mas malawak na control problem, tingnan ang aming plano. Buong papel: arXiv:2605.01147.

Ang pinakamalakas na pagtutol

Ang pinakamabuting pagtutol ay ang maingat na pagpili ng modelo pa rin ang nangingibabaw, at ang pagkakasunod-sunod sa pipeline ay pangalawang-order na pagbabago. Ang 59-point na pagbabago mula sa muling pagkakasunod-sunod ng mga agent ay hindi pangalawang-order. Ang istruktura ay first-class na safety parameter. Markahan ang topology, hindi lang ang weights.