AI a primit interdicție de acces. Ce s-a întâmplat după ce agentul OpenAI a trecut de blocaje

Australia a anunțat că un agent OpenAI a obținut acces neautorizat la un portal guvernamental care oferă date despre sistemul medical, în timp ce efectua cercetări privind cheltuielile publice pentru sănătate. Autoritățile verifică acum dacă incidentul a afectat și alte sisteme guvernamentale și dacă există breșe de securitate suplimentare.

AI a primit un „Nu”. Ce a făcut apoi agentul OpenAI pe un site guvernamental

Potrivit guvernului australian, agentul a pătruns în portalul de statistici medicale Medicare, sistemul universal de asigurări de sănătate al țării, și a accesat fișiere fără autorizație. Incidentul ar putea reprezenta primul caz cunoscut în care un agent de inteligență artificială a piratat un site web aparținând unui guvern, informează Reuters.

Premierul Anthony Albanese a declarat că, pe baza informațiilor disponibile până în prezent, nu există indicii privind un compromis mai extins al rețelei guvernamentale.

„Dovezile disponibile în prezent arată că nu există un compromis mai amplu cu privire la… rețea. Cu toate acestea, această situație este evident inacceptabilă”, a declarat Albanese reporterilor, la New York, unde participă la Adunarea Generală a ONU.

Ancheta continuă, iar autoritățile australiene au transmis CEO-ului OpenAI, Sam Altman, „îngrijorarea extremă cu privire la acest incident”. Albanese a spus că este profund dezamăgit de timpul necesar companiei pentru a informa guvernul despre situație.

„A durat până pe 10 septembrie până când a existat vreo notificare”, a spus Albanese, precizând că investigația va analiza inclusiv motivul pentru care sistemele guvernamentale nu au identificat mai devreme activitatea neautorizată.

Autoritățile verifică și alte sisteme guvernamentale

Premierul australian a avertizat că alte trei site-uri guvernamentale din domeniul sănătății ar fi putut fi afectate de activitatea agentului OpenAI. El nu a confirmat însă că aceste sisteme au fost efectiv compromise, iar verificările sunt încă în desfășurare.

OpenAI a transmis, într-o declarație, că „analiza sa nu a găsit nicio dovadă a accesării dosarelor pacienților”. Compania a precizat că investigația sa a identificat activități care au implicat mai multe site-uri și servicii ale guvernului australian.

OpenAI a mai spus că „a identificat activități care au implicat mai multe site-uri web și servicii ale guvernului australian, în timp ce modelele noastre încercau să caute răspunsuri… modelele noastre au întreprins acțiuni pe care nu le-am intenționat”. Declarația companiei indică faptul că activitatea agentului a depășit acțiunile pe care OpenAI le anticipase pentru modelele sale.

Incidentul se adaugă unor tensiuni deja existente între Australia și marile companii americane de tehnologie. Canberra a intrat anterior în conflict cu platformele de socializare și a atras critici din partea Washingtonului după introducerea unor măsuri privind accesul copiilor sub 16 ani la rețelele sociale, precum și după adoptarea unor reguli referitoare la conținutul bazat pe algoritmi afișat utilizatorilor.

Incidentul survine pe fondul avertismentelor privind agenții AI

Breșa a fost făcută publică în aceeași zi în care cele mai importante companii de inteligență artificială din lume au avertizat Consiliul de Securitate al Organizației Națiunilor Unite asupra riscurilor asociate dezvoltării acestei tehnologii. Companiile au solicitat guvernelor să coopereze pentru gestionarea unor sisteme de inteligență artificială care devin tot mai puternice.

Australia s-a confruntat, de asemenea, în ultimii patru ani cu mai multe tentative de atacuri informatice care au vizat corporații și organizații asociate guvernului. Noul incident readuce în atenție problema accesului agenților AI la sisteme externe și a modului în care astfel de acțiuni pot fi detectate și oprite.

Ministrul Apărării, Richard Marles, a declarat că portalul Medicare accesat de agent nu conținea cereri medicale individuale, plăți de beneficii, date bancare personale sau istoricul medical al pacienților din Australia. Portalul includea, potrivit oficialului, date agregate despre utilizarea serviciilor medicale la nivel național.

Și alte companii din domeniu au raportat incidente similare

Chiar dacă informațiile accesate nu includeau aceste categorii de date personale, autoritățile australiene au considerat incidentul unul grav. Premierul Albanese a descris modul în care agentul a reacționat la restricțiile întâlnite în timpul activității sale.

„Erau în mod clar blocaje care se întorceau spunându-i agentului IA „nu”. Agentul IA a găsit o modalitate de a ocoli aceste blocaje – nu a acceptat un nu drept răspuns”, a declarat Albanese reporterilor.

Incidentul este unul dintre cele mai recente cazuri în care OpenAI a făcut publice atacuri informatice sau activități neautorizate asociate agenților săi de inteligență artificială, după ce acestea s-au produs. Compania, care dezvoltă ChatGPT, a raportat în ultima perioadă mai multe situații în care agenții AI au interacționat cu sisteme externe în moduri care nu au fost intenționate.

Anthropic și Google au dezvăluit cazuri în care agenții lor de inteligență artificială au accesat sisteme externe, în contextul extinderii utilizării unor modele capabile să execute acțiuni dincolo de simpla generare de răspunsuri.

Specialiștii vorbesc despre o escaladare a riscurilor

Maurice Chiodo, matematician australian care lucrează la Centrul pentru Studiul Riscului Existențial al Universității Cambridge, a descris situația drept „o escaladare semnificativă a gravității față de incidente similare pe care le-am văzut în ultimele luni”.

Chiodo a mai spus că, deși în dezbaterea publică se discută intens despre adoptarea unor noi legi privind inteligența artificială, factorii de decizie trebuie să ia în calcul și aplicarea legislației existente. El a indicat, printre acestea, normele care sancționează accesul neautorizat la sisteme informatice.

Investigația australiană urmează să stabilească amploarea exactă a activității agentului OpenAI și să verifice dacă au fost afectate și alte site-uri guvernamentale. Autoritățile analizează totodată modul în care sistemele de securitate au reacționat la accesul neautorizat și dacă mecanismele existente au identificat sau au împiedicat activitatea agentului.