Anthropic peataba Fable 5 ja Mythos 5 pärast Ameerika Ühendriikide valitsuse eksportkontrolli direktiivi väljastamist

KOKKUVÕTE:

• USA valitsus andis eksportkontrolli korralduse, millega Anthropic pidi peatama kogu maailmas Fable 5 ja Mythos 5 ligipääsu.
• Anthropic analüüsis vanglast põgenemise (jailbreak) aruannet ja leidis, et vastav võimekus oli juba olemas mudelites nagu OpenAI GPT-5.5.
• Aruandes kirjeldatud vanglast põgenemine seisnes selles, et Fable 5 paluti koodibaasi lugeda ja tarkvaras vigu tuvastada; ühtegi kahjulikku tulemust ei avaldatud.
• Anthropic hoiatas, et kui seda tagasikutse standardit rakendataks kogu tööstuses, peatutaks tegelikult kõik piirjuhtumite AI-mudelite kasutuselevõtt.

Anthropic on USA valitsuse eksportkontrolli korralduse järgi keelanud Fable 5 ja Mythos 5 globaalse ligipääsu.

Korraldus, mille nad said 5:21 EST ajal, viitab riikliku julgeoleku probleemidele, mis seonduvad teatavat vanglast põgenemise (jailbreak) meetodit. Kõik teised Anthropicu mudelid on endiselt saadaval.

Ettevõte ütleb, et täidab korraldust, kuid vaidlustab otsuse tehnilise aluse.

Valitsuse korraldus sihib teatatud vanglast põgenemise (jailbreak) meetodit

USA valitsus andis korralduse ilma kirjalikult konkreetseid riikliku julgeoleku üksikasju avaldanud. Ametnikud teatasid suuliselt, et nad olid saanud teada meetodist, mille abil saab ületada Fable 5 turvameetmed.

Anthropic analüüsis selle tehnika näidet ja leidis, et see paljastas ainult väikesi, juba teadaolevaid nõrku kohti.

Ettevõte analüüsis seda, mida see usub olevat valitsuse otsuse aluseks olev aruanne. Anthropic ütles, et demonstreeritud võimekuse tase „on laialdaselt saadaval teiste mudelite puhul, sealhulgas OpenAI GPT-5.5 puhul, ning seda kasutavad igapäevaselt süsteemide turvalisuse tagamiseks kaitsjad.“ Selle analüüsi tulemusena ei tuvastatud Fable’i spetsiifilist täiustust.

Teatatud vanglast põgenemine seisnes põhimõtteliselt selles, et mudelit paluti koodibaasi lugeda ja tarkvaras vigu tuvastada. Anthropic kinnitas, et „ei ole isegi saanud teatust mõnest murespanevast mittesüntesisest potentsiaalsest vanglast põgenemisest, mis oleks viinud kahjulikule tulemusele.“ Teatatud potentsiaalsed vanglast põgenemised olid kas täiesti ohutud või klassifitseeriti neid väikesteks leidudeks.

Korraldus nõuab ligipääsu peatamist kõigile välisriiklastele, sealhulgas Anthropicu välisriiklastest töötajatele nii Ameerika Ühendriikides kui ka väljaspool neid. Ettevõte ütles, et korralduse täitmiseks tuli mudelid kõigile klientidele keelata, et vältida korralduse rikkumist.

Anthropic vaidlustab kaubanduslike mudelitele rakendatava standardi

Anthropic laskis Fable 5 välja „kaitse sügavuses“ (defense-in-depth) strateegiaga, ühendades kitsa vanglast põgenemise vastase kaitse reaalajas jälgimisega ja kohustusliku 30-päevase andmete säilitamisega.

Ettevõte tunnistas väljalaske ajal, et „absoluutne vanglast põgenemise vastane kaitse pole hetkel ühegi mudeli pakkujale võimalik.“

30-päevase andmete säilitamise poliitika oli teadlik kompromiss. See tekitas klientidelt vastukäigu, kuid võimaldas Anthropicul vanglast põgenemise katsete kiiret tuvastamist, uurimist ja reageerimist.

Anthropic kirjeldas seda kui vanglast põgenemise muutmist „kas kitsaks või väga kalliks tootmiseks“, hoides riskitaseme võrdsena teiste tööstuses kasutusel olevate mudelite omaga.

Valitsuse õiguse kohta tegutseda ütles Anthropic, et see „usub, et valitsusel peaks olema võimalus ohutute kasutuselevõttude blokeerimiseks osana seaduslikust protsessist, mis on läbipaistev, õiglane, selge ja põhineb tehnilistel faktidel.“ Ettevõte väitis, et see korraldus ei vasta nimetatud standarditele.

Anthropic hoiatas, et selle tagasikutse standardi laiendatud rakendamine „peatab tegelikult kõigi piirjuhtumite mudelite pakkujate uute mudelite kasutuselevõttu.“

Ettevõte kohustus avaldamas lisatehnilisi üksikasju 24 tunni jooksul ja kinnitas, et kõik teised selle mudelivalikus olevad mudelid töötavad edasi ilma piiranguteta.

Postitus „Anthropic peatab Fable 5 ja Mythos 5 pärast USA valitsuse eksportkontrolli korraldust“ ilmus esmakordselt Blockonomil.