OpenAI descoperă noi breșe de securitate. Investigația se extinde după evadarea unor agenți AI din mediile de testare

OpenAI a identificat noi dovezi care sugerează că mai mulți agenți de inteligență artificială au reușit să iasă din mediile izolate de testare, în timpul investigației declanșate după incidentul de securitate de la Hugging Face. Informațiile au fost dezvăluite vineri de surse citate de Reuters. Deși cazurile descoperite par să fi avut un impact limitat, compania a extins analiza asupra activității modelelor sale și colaborează cu experți externi pentru a stabili amploarea incidentelor.

OpenAI analizează mai multe cazuri în care agenți AI au ieșit din mediile izolate

OpenAI investighează noi situații în care agenți autonomi de inteligență artificială au reușit să evadeze din mediile de testare considerate izolate. Descoperirile au fost făcute în cadrul anchetei interne lansate după incidentul de hacking produs în această lună la Hugging Face, potrivit a două surse familiarizate cu investigația, citate de Reuters.

Sursele au precizat că noile cazuri au fost identificate în timpul verificărilor demarate după ce unul dintre agenții OpenAI a reușit să iasă dintr-un mediu de testare destinat izolării. Compania analizează acum toate incidentele similare pentru a înțelege modul în care acestea au fost posibile.

Una dintre persoanele apropiate anchetei a afirmat că evadările identificate au avut o amploare limitată și că nu există indicii potrivit cărora vreun agent ar fi părăsit infrastructura informatică a OpenAI.

Un purtător de cuvânt al companiei a făcut trimitere la declarația publicată marți, în care OpenAI anunța că investighează „activitatea mai largă a modelelor noastre”, pe lângă incidentul produs în rețeaua Hugging Face.

Incidentul ridică noi întrebări privind controlul agenților autonomi

Noile informații sporesc îngrijorările privind capacitatea laboratoarelor care dezvoltă inteligență artificială de ultimă generație de a controla agenții autonomi creați chiar de ele. Descoperirea unor comportamente neprevăzute, chiar și în interiorul infrastructurii OpenAI, riscă să alimenteze cererile pentru reguli mai stricte privind dezvoltarea acestor sisteme.

Investigația extinsă a OpenAI a fost lansată cu puțin timp înainte ca principalul său concurent, Anthropic, să dezvăluie că propriile modele de inteligență artificială au fost implicate într-o serie de intruziuni informatice care au provocat breșe de securitate la alte trei companii începând din aprilie. Potrivit acelorași surse și unei a treia persoane familiarizate cu situația, existența unor incidente anterioare descoperite acum de OpenAI nu fusese raportată până în prezent.

Experții în securitatea inteligenței artificiale susțin că aceste cazuri evidențiază un decalaj tot mai mare între viteza cu care sunt dezvoltate instrumentele autonome și capacitatea companiilor de a le supraveghea eficient.

„Avem un întreg sector în care persoanele care proiectează, dezvoltă şi comercializează aceste instrumente nu reuşesc să ţină pasul cu nevoia de a le dezvolta în mod responsabil şi de a le asigura securitatea”, a declarat Maurice Chiodo, matematician la Centrul pentru Studiul Riscului Existenţial de la Universitatea din Cambridge.

Reuters precizează că nu a putut stabili câte incidente au fost identificate de anchetatorii OpenAI și nici în ce perioadă s-au produs. Cele trei surse au afirmat însă că specialiștii companiei și experți independenți verifică jurnalele de activitate încă de la începutul acestui an pentru a reconstitui desfășurarea evenimentelor.

Atacul de la Hugging Face a declanșat investigația internă a OpenAI

Ancheta actuală își are originea în incidentul produs la începutul lunii iulie, când un agent OpenAI a compromis rețeaua Hugging Face în timpul unei încercări eșuate de a depăși un test intern. Potrivit companiei, în timpul acestor atacuri au fost compromise și patru conturi aparținând altor patru companii.

Una dintre firmele afectate a fost Modal, cu sediul în New York, au confirmat oficialii companiei.

Maurice Chiodo a afirmat că motivele de îngrijorare au crescut după apariția informațiilor potrivit cărora nici OpenAI și nici Anthropic nu monitorizau în timp real activitatea agenților implicați în aceste incidente.

Reuters a relatat anterior că OpenAI a aflat despre infiltrarea agentului său în rețeaua Hugging Face abia după ce compania afectată a reușit să controleze atacul, a notificat FBI și a făcut public incidentul.

OpenAI a susținut că articolul publicat de Reuters conține inexactități, însă nu a precizat care sunt informațiile contestate.

În declarația publicată joi, Anthropic a explicat modul în care propriii agenți au compromis sisteme informatice și a recunoscut că nu beneficiau de monitorizare permanentă, precizând că „monitorizarea în timp real a jurnalelor de evaluare ar fi detectat problema mai devreme”, a transmis compania.

Comentând această situație, Maurice Chiodo a apreciat că lipsa supravegherii ridică semne serioase de întrebare privind practicile de securitate din industrie.

„Se pare că nici măcar nu se uitau”, a spus Chiodo.

Anthropic a explicat ulterior că dispunea de un sistem de monitorizare în timp real, însă acesta nu fusese utilizat „pentru această suprafaţă de atac” din cauza unei neînțelegeri dintre compania de inteligență artificială și unul dintre partenerii săi.

Autoritățile din SUA și Uniunea Europeană analizează măsuri suplimentare de control

Seria incidentelor în care agenți de inteligență artificială au acționat în afara parametrilor prevăzuți a determinat autoritățile din Statele Unite și Uniunea Europeană să accelereze discuțiile privind supravegherea laboratoarelor care dezvoltă astfel de modele.

„Analizăm măsuri de control”, a declarat președintele SUA, Donald Trump, reporterilor joi.

Vineri, Comisia Europeană a confirmat că a purtat discuții cu OpenAI și Anthropic în legătură cu incidentele recente de securitate informatică.

Tot vineri, Mark Warner, principalul reprezentant democrat din Comisia pentru Informații a Senatului SUA, a susținut că evenimentele raportate în cazul Anthropic demonstrează necesitatea unor obligații legale mai stricte privind testarea acestor sisteme.

„Îmi confirmă că, din punct de vedere legislativ, avem dreptate să impunem testarea obligatorie a capacităţii acestor modele avansate”, a declarat senatorul american.