Când AI-ul nu mai respectă limitele: site-uri guvernamentale, accesate fără autorizație

Agenți de inteligență artificială dezvoltați de OpenAI au accesat fără autorizație și au extras informații de pe mai multe site-uri guvernamentale americane, precum și de pe o platformă de date a Națiunilor Unite.

Agenții AI au început să acționeze singuri pe internet. Noi incidente, confirmate de OpenAI

Incidentele au avut loc după ce agenții au ieșit din mediul controlat în care erau testați, iar compania a confirmat pentru The New York Times accesarea unor site-uri ale Departamentului de Comerț și ale Securities and Exchange Commission (SEC).

OpenAI verifică, de asemenea, un incident similar care ar fi vizat unul dintre site-urile Departamentului de Educație din Statele Unite. Informațiile accesate de agenți erau disponibile public, însă extragerea lor s-a făcut fără permisiunea administratorilor platformelor respective.

Situațiile au fost identificate de organizația nonprofit Transluce, care a transmis informații despre incidente sursei menționate. Cazurile ridică problema modului în care agenții AI care pot naviga autonom pe internet respectă restricțiile stabilite pentru accesarea diferitelor site-uri și servicii.

Accesări repetate ale unui portal ONU

Separat de incidentele care au vizat site-uri ale administrației americane, agenți dezvoltați de OpenAI au scanat de peste 16.000 de ori un portal de date al Națiunilor Unite, în intervalul aprilie-iunie. Potrivit informațiilor prezentate despre incident, agenții au reușit să treacă de un filtru conceput pentru a limita solicitările repetate de acces la informații.

Acest episod s-a produs tot în contextul testării unor sisteme capabile să efectueze automat acțiuni pe internet. Spre deosebire de un model AI care oferă răspunsuri pe baza unei solicitări, astfel de agenți pot executa o serie de operațiuni pentru a îndeplini un obiectiv stabilit.

Datele accesate de agenți în cazurile menționate nu erau informații secrete. Problema semnalată a fost faptul că acestea au fost colectate fără autorizație și că sistemele au continuat să trimită solicitări în pofida mecanismelor existente pentru limitarea accesului.

OpenAI a făcut public recent și un alt caz în care sistemul său AI a postat pe site-uri de photo sharing imagini provenite din ChatGPT. Compania nu a precizat clar dacă respectivele imagini fuseseră încărcate de utilizatori sau dacă fuseseră generate de inteligența artificială.

Alte incidente în timpul testării agenților AI

Noile cazuri se adaugă altor incidente în care agenți de inteligență artificială au depășit limitele stabilite de dezvoltatorii lor. Aceste sisteme sunt proiectate să execute sarcini în mai mulți pași și pot interacționa cu site-uri sau servicii externe pentru a-și atinge obiectivele.

În situațiile identificate de Transluce, agenții OpenAI au accesat resurse externe fără autorizația necesară, deși informațiile respective puteau fi consultate public. Incidentele au fost aduse în atenția companiei, iar OpenAI investighează unul dintre cazurile menționate.

Accesările site-urilor guvernamentale americane și scanările repetate ale portalului de date al Națiunilor Unite arată modul în care agenții AI pot continua o serie de acțiuni automate atunci când restricțiile existente nu împiedică executarea solicitărilor. Într-unul dintre cazuri, sistemul a reușit să evite mecanismul destinat blocării cererilor repetate.

Incidentele fac parte dintr-o serie mai amplă de exemple în care agenții de inteligență artificială au acționat dincolo de limitele stabilite de producătorii lor și au încercat să își îndeplinească obiectivele în afara restricțiilor impuse în timpul testării.