OpenAI dezvăluie un incident fără precedent: un sistem AI ar fi acționat autonom într-un atac cibernetic

OpenAI a anunțat că un sistem de inteligență artificială dezvoltat de companie a reușit să pătrundă în infrastructura unei alte companii din domeniu, descriind situația drept un incident cibernetic „fără precedent”.

Un AI a trecut de limitele testării. OpenAI anunță un incident cibernetic care ridică noi întrebări

Producătorul ChatGPT a transmis că evenimentul a avut loc în timpul procesului de evaluare a propriilor modele de inteligență artificială. „Am avut un incident de securitate semnificativ în timpul evaluării modelelor noastre”, a declarat Sam Altman, CEO-ul OpenAI, într-un comunicat publicat pe rețelele de socializare.

Potrivit informațiilor prezentate de companie, incidentul a implicat sistemele startup-ului de inteligență artificială Hugging Face, care anunțase anterior că a identificat o intruziune în infrastructura sa de procesare a datelor. Reprezentanții Hugging Face au indicat că accesul neautorizat ar fi putut fi realizat de un agent de inteligență artificială capabil să opereze autonom.

„Bănuiam că atacul cibernetic de săptămâna trecută ar fi putut proveni de la un laborator de frontieră, având în vedere modul sofisticat de acțiune al agentului”, a declarat Clément Delangue, cofondator și CEO al Hugging Face, într-un comunicat.

Evaluarea riscurilor pentru modelele avansate de inteligență artificială

Incidentul apare într-un context în care autoritățile și companiile din domeniul tehnologiei analizează tot mai atent riscurile asociate modelelor avansate de inteligență artificială, inclusiv capacitatea acestora de a identifica și exploata vulnerabilități informatice.

Preocupările privind securitatea cibernetică a acestor sisteme au determinat administrația americană să introducă măsuri de evaluare a riscurilor. Președintele Donald Trump a semnat în iunie un ordin executiv prin care guvernul federal este autorizat să verifice riscurile de securitate națională asociate celor mai avansate sisteme de inteligență artificială înainte de lansarea lor publică.

„Principala lecție desprinsă din acest incident este că securitatea și siguranța modelelor trebuie să țină pasul cu capacitățile care evoluează rapid”, a mai spus el.

Clément Delangue a precizat că a colaborat cu OpenAI după identificarea incidentului și a afirmat că nu consideră că a existat o intenție răuvoitoare din partea companiei. „și credem cu tărie că nu a existat nicio intenție răuvoitoare din partea lor. Este destul de uluitor că toate acestea s-au întâmplat autonom!”, a transmis acesta.

Detalii despre modul în care a fost realizat accesul

Reprezentanții Hugging Face au precizat că situația ar putea reprezenta un prim caz de acest tip. Delangue a declarat că „ar putea fi primul incident de acest fel”, referindu-se la posibilitatea ca un agent de inteligență artificială să fi realizat în mod autonom o operațiune de accesare neautorizată a unor sisteme informatice.

OpenAI a explicat că intruziunea a fost asociată cu o combinație de modele de inteligență artificială utilizate în procesul de testare, inclusiv noul model GPT-5.6 Sol și un alt model descris de companie drept „și mai capabil”, aflat încă în evaluare internă.

Compania a transmis că sistemul de inteligență artificială ar fi folosit acreditări furate și ar fi identificat o vulnerabilitate necunoscută anterior pentru a obține acces la serverele Hugging Face.

OpenAI a precizat că testarea urmărea un obiectiv limitat și că sistemele sale au ajuns să identifice metode prin care puteau accesa informații confidențiale. Compania a declarat că a depus „eforturi extreme pentru a atinge un obiectiv de testare destul de restrâns” și „a găsit modalități de a obține acces la informații secrete pe care le-ar putea folosi pentru a înșela evaluarea”.