UE discută cu OpenAI și Anthropic după incidente de securitate, înainte de intrarea în vigoare a Legii AI

Cu doar două zile înainte ca Uniunea Europeană să înceapă aplicarea noii Legi privind inteligența artificială, două incidente de securitate care au implicat modelele OpenAI și Anthropic au atras atenția autorităților de la Bruxelles. Comisia Europeană a fost notificată și analizează situația, în timp ce companiile riscă amenzi de până la 35 de milioane de euro.

UE discută cu OpenAI și Anthropic după incidente de securitate, înainte de intrarea în vigoare a Legii AI

Comisia Europeană a anunțat vineri, 31 iulie, că poartă discuții cu giganții din domeniul inteligenței artificiale OpenAI și Anthropic, după recentele incidente de securitate cibernetică în care au fost implicate modelele dezvoltate de cele două companii. Demersul are loc înainte de intrarea în vigoare, la 2 august, a noilor reguli europene privind inteligența artificială, care impun o monitorizare strictă a sistemelor considerate cu risc ridicat.

Începând cu 2 august, Oficiul pentru Inteligență Artificială al Comisiei Europene, împreună cu autoritățile naționale, va începe să supravegheze aplicarea Legii privind inteligența artificială (AI Act). Tot de la această dată vor intra în vigoare și noi obligații de transparență, potrivit cărora anumite sisteme de inteligență artificială vor trebui să informeze utilizatorii atunci când interacționează cu un AI și atunci când un conținut a fost generat sau modificat cu ajutorul acestei tehnologii.

Legislația europeană este prima din lume care reglementează utilizarea inteligenței artificiale într-un mod cuprinzător, acoperind tehnologii folosite în aproape toate domeniile economiei și societății.

Anunțul Comisiei vine în contextul unor incidente recente. Startup-ul american Anthropic a dezvăluit joi că, în timpul unor teste de siguranță concepute pentru a împiedica accesul modelelor sale la sisteme din „lumea reală”, acestea au reușit să obțină acces neautorizat la sistemele informatice ale trei organizații.

La doar câteva zile înainte, și OpenAI anunțase că două dintre modelele sale au ieșit din mediul controlat de testare și au atacat, din proprie inițiativă, platforma Hugging Face, într-un nou semnal de alarmă privind riscurile asociate dezvoltării sistemelor avansate de inteligență artificială.

Anthropic și OpenAI au raportat incidentele către Comisia Europeană. Amenzi de până la 35 de milioane de euro pentru încălcarea Legii AI

Anthropic a analizat peste 141.000 de teste și a constatat că trei versiuni diferite ale modelului său de inteligență artificială, Claude, au obținut acces la sistemele informatice ale trei organizații, ale căror identități nu au fost făcute publice.

Compania a precizat că, spre deosebire de incidentul raportat de OpenAI, modelele sale au avut acces la internet din cauza unei neînțelegeri dintre Anthropic și partenerul său de evaluare, Irregular. Potrivit reprezentanților companiei, în niciunul dintre cazuri Claude nu a evadat și nici nu a încercat în mod deliberat să iasă din mediul controlat de testare.

Printre modelele implicate s-a numărat și Mythos 5, unul dintre cele mai performante sisteme dezvoltate de Anthropic, disponibil în prezent doar unui număr restrâns de parteneri. Compania colaborează acum cu Irregular pentru a analiza incidentul și a contactat sau încearcă să contacteze cele trei organizații afectate.

Oficialii Comisiei Europene au declarat că atât Anthropic, cât și OpenAI au informat instituția în legătură cu incidentele înainte ca acestea să devină publice. Reprezentanții Executivului european au precizat că sunt în contact cu cele două companii și că vor primi informații suplimentare pe măsură ce investigațiile avansează. În funcție de concluzii, Comisia va decide dacă este necesară declanșarea unei proceduri formale.

Un alt oficial european a subliniat că aceste incidente demonstrează importanța aplicării efective a Legii privind inteligența artificială și a monitorizării riguroase a sistemelor de către dezvoltatori, pentru a preveni riscurile asociate utilizării modelelor avansate de intelgență artificială.

Potrivit legislației europene privind inteligența artificială, sancțiunile pentru nerespectarea regulilor variază în funcție de gravitatea abaterii. Amenzile pot porni de la 7,5 milioane de euro sau 1,5% din cifra de afaceri și pot ajunge până la 35 de milioane de euro sau 7% din cifra globală de afaceri a companiei.