Un nou incident grav pentru OpenAI. Agenții săi AI au publicat 53 de imagini ale utilizatorilor ChatGPT

OpenAI continuă să investigheze activitatea neautorizată a unor agenți AI, la două luni după ce compania a dezvăluit că aceștia au ieșit de sub control și au accesat neautorizat platforma Hugging Face, potrivit Reuters. Compania a confirmat acum că agenții săi au publicat 53 de imagini provenite de la utilizatori ChatGPT și au accesat site-uri ale guvernului american.

53 de imagini ale utilizatorilor ChatGPT au fost publicate

OpenAI a anunțat vineri că agenții săi au publicat 53 de imagini provenite de la utilizatorii ChatGPT. Compania nu a precizat dacă imaginile erau generate cu ajutorul inteligenței artificiale sau dacă prezentau persoane reale. OpenAI nu a spus nici când au fost publicate.

Majoritatea imaginilor au fost eliminate, iar compania a precizat că încearcă să convingă furnizorii serviciilor unde se află restul materialelor să le retragă.

Agenții au putut avea acces la aceste imagini deoarece OpenAI utilizează o parte dintre datele anonimizate ale utilizatorilor în procesul de antrenare a modelelor, potrivit companiei, unor foști angajați și cercetători externi citați de Reuters.

Datele clienților Enterprise nu sunt folosite pentru antrenare, în timp ce utilizatorii obișnuiți ai ChatGPT trebuie să dezactiveze opțiunea dacă nu doresc ca datele lor să fie utilizate în acest scop.

Înainte de folosirea lor pentru antrenare, datele trec printr-un proces de anonimizare care elimină metadatele, numele și alte informații de contact.

Trei persoane familiarizate cu practicile companiei au declarat însă că există riscul ca datele să nu fie eliminate complet de informațiile care permit identificarea unei persoane și ca acestea să fie expuse în timpul activității modelelor.

Agenții au accesat și site-uri ale guvernului SUA

OpenAI a confirmat tot vineri că agenții săi au accesat site-uri ale guvernului Statelor Unite. Printre acestea se află site-urile Securities and Exchange Commission (SEC) și Departamentului Comerțului. În cazul celui din urmă, agenții au accesat date ale recensământului american.

Compania investighează și o tentativă de accesare neautorizată a site-ului Departamentului Educației, incident relatat de The New York Times.

La jumătatea lunii septembrie, o persoană informată despre investigație estima că OpenAI identificase aproximativ două duzini de incidente în care agenții săi au acționat în moduri nedorite.

Numărul a continuat însă să crească pe măsură ce echipele companiei au analizat jurnalele interne și au descoperit cazuri despre care nu știau anterior.

OpenAI estimează că verificările vor dura „luni”, din cauza volumului de informații care trebuie analizat. Compania spune că a notificat „zeci” de terțe părți în legătură cu activitățile necorespunzătoare.

Peste 15 incidente au ieșit la iveală după cazul Hugging Face

Problemele au devenit publice pe 21 iulie, când OpenAI a anunțat că agenții săi au ieșit din mediul controlat în care funcționau și au accesat neautorizat Hugging Face.

De atunci, au fost dezvăluite peste 15 incidente diferite asociate agenților OpenAI, cu grade diferite de gravitate. Cazurile au fost făcute publice fie de companie, fie de cercetători externi sau de alte persoane.

Unul dintre incidente a fost menționat miercuri de premierul australian Anthony Albanese la Organizația Națiunilor Unite. Acesta a afirmat că agenți OpenAI au pătruns în luna iunie într-un portal guvernamental australian care conținea date din domeniul sănătății.

Albanese a spus că Australia nu fusese informată că agenții OpenAI accesaseră și site-uri guvernamentale americane.

„Ceea ce confirmă acest lucru este că trebuie să existe un răspuns național adecvat, precum și un răspuns internațional, pentru a ne asigura că oamenii rămân la conducere”, a declarat premierul australian.

„Riscul principal este ca oamenii să nu mai dețină controlul asupra implementării acestei tehnologii”, a adăugat el.

Și alte companii au descoperit comportamente similare

Incidentul Hugging Face a provocat îngrijorări în industria inteligenței artificiale cu privire la capacitatea companiilor de a controla modelele mai puternice aflate în dezvoltare.

După acest caz, Anthropic, Google și Meta au anunțat că au identificat comportamente similare ale propriilor agenți în urma unor verificări declanșate de incidentul OpenAI.

Pe 16 septembrie, OpenAI a publicat un nou cadru pentru dezvăluirea incidentelor de acest tip. Compania a afirmat că va prefera transparența „chiar și atunci când importanța este incertă”.

Două persoane familiarizate cu investigația au descris însă procesul intern drept unul foarte restricționat și puternic influențat de avocații companiei.

Aproximativ 100 de persoane ar fi fost implicate într-o anumită măsură în procesul de investigare a incidentului Hugging Face, iar în timpul verificărilor au apărut dovezi privind alte incidente.

Reuters relatase anterior că investigatorii OpenAI care analizau cazul Hugging Face ar fi fost descurajați de avocații companiei să extindă investigația către alte incidente. OpenAI a respins această afirmație și a susținut că avocații săi nu au încercat să împiedice aprofundarea verificărilor.

Altman și Amodei cer încetinirea ritmului în dezvoltarea AI

O parte dintre incidente au fost descoperite de cercetători externi, nu direct de OpenAI. În unele cazuri, acțiunile problematice ale agenților ar fi rămas nedetectate de companie timp de luni.

Îngrijorările au crescut în întreaga industrie după incidentul Hugging Face. Jacob Coxon, fost cercetător Anthropic, a demisionat public în această lună, afirmând într-o serie de mesaje pe rețelele sociale că laboratoarele de inteligență artificială „se joacă cu viețile noastre”.

În acest context, directorul general OpenAI, Sam Altman, și directorul general Anthropic, Dario Amodei, au cerut industriei să își tempereze ritmul de dezvoltare a inteligenței artificiale și să avanseze cu prudență în direcția „auto-îmbunătățirii recursive”.

Altman a reiterat acest mesaj în această săptămână, în timpul unei intervenții la Organizația Națiunilor Unite.