Anthropic și experimentul care a atras atenția Washingtonului: ce a descoperit Mythos în câteva ore

IA Mythos dezvoltat de Anthropic a identificat vulnerabilități în sisteme informatice extrem de sensibile ale guvernului Statelor Unite în doar câteva ore, în timpul unor teste de securitate. Informația a fost transmisă de un oficial american, care a vorbit sub protecția anonimatului. Potrivit acestuia, evaluarea a fost realizată cu implicarea agențiilor de informații americane. Testele au vizat capacitatea modelului de a analiza infrastructuri digitale critice.

IA Mythos de la Anthropic a identificat vulnerabilități în teste de securitate

Oficialul a precizat că modelul a reușit să identifice puncte slabe într-un interval de câteva ore. Totuși, acest rezultat nu indică faptul că IA ar fi putut exploata efectiv vulnerabilitățile descoperite în același timp. Procesul de testare a urmărit strict evaluarea capacităților analitice ale sistemului. Anthropic a participat la exerciții împreună cu instituții guvernamentale americane.

Testarea a fost derulată printr-o inițiativă numită Project Glasswing, care a reunit companii de tehnologie pentru evaluarea riscurilor asociate inteligenței artificiale. Programul a fost conceput pentru a analiza posibilele efecte ale unor sisteme avansate asupra infrastructurilor critice. Accentul a fost pus pe siguranța publică și securitatea națională. Evaluările au inclus scenarii de interacțiune între AI și sisteme guvernamentale sensibile.

Senatorul democrat Mark Warner a menționat aceste teste în timpul unei audieri din 11 iunie în fața Comisiei Senatului pentru Bănci, Locuințe și Afaceri Urbane. El a afirmat că „Acest instrument a pătruns în aproape toate sistemele noastre clasificate, nu în câteva săptămâni, ci în câteva ore”.

Declarația a fost atribuită șefului Agenției Naționale de Securitate și Comandamentului Cibernetic al SUA, generalul Joshua Rudd. Subiectul a fost discutat în contextul riscurilor emergente din zona inteligenței artificiale.

Tensiuni între Anthropic și autoritățile americane

Relațiile dintre Anthropic și administrația americană au devenit tensionate, deși compania a colaborat la testările de securitate. Anthropic și-a exprimat îngrijorarea privind modul în care modelele sale ar putea fi utilizate în scopuri militare.

În același timp, autoritățile americane au introdus restricții asupra utilizării unor sisteme dezvoltate de companie. Discuțiile vizează echilibrul dintre inovare și securitate națională.

Administrația a emis o directivă care limitează accesul cetățenilor străini la modelele Fable 5 și Mythos 5. Anthropic a lansat public versiunea Fable, descrisă ca o variantă restrânsă a modelului Mythos, accesul la acesta fiind limitat din motive de securitate cibernetică.

Ulterior, a fost introdus un ordin executiv care stabilește evaluarea riscurilor pentru sistemele AI înainte de lansare. Participarea companiilor la acest proces este voluntară.

Reacții din industrie și dezbateri privind securitatea

Anthropic a anunțat că a dezactivat accesul la anumite modele pentru a respecta directivele autorităților americane. Totuși, compania a susținut că măsurile nu sunt justificate de nivelul de risc invocat. Decizia a generat reacții în comunitatea tehnologică. Dezbaterea s-a extins rapid în rândul experților în securitate cibernetică.

Peste 100 de specialiști și reprezentanți ai unor companii precum Adobe și Nvidia au transmis o scrisoare autorităților americane. Semnatarii au cerut retragerea directivei, avertizând că restricțiile ar putea avantaja adversarii Statelor Unite.

Ei au susținut că modelele Mythos sunt „destul de bune” la identificarea defectelor software și la transformarea exploatărilor în instrumente de atac, dar „nu sunt deosebit de bune la aceste sarcini”.

În același timp, au avertizat că limitarea celor mai avansate instrumente de apărare cibernetică fără o justificare solidă poate crea vulnerabilități într-un context tehnologic în schimbare rapidă.