Noi temeri privind inteligența artificială: Modelul AI al Meta a compromis sistemele unei alte companii în timpul testelor de securitate

Un incident produs în timpul testelor de securitate ale Meta ridică noi semne de întrebare privind riscurile inteligenței artificiale avansate. După cazuri similare la Anthropic și OpenAI, autoritățile americane intensifică supravegherea modelelor AI, de teama ca acestea să poată exploata vulnerabilități și facilita atacuri cibernetice.

Modelul AI al Meta a pătruns în sistemele unei alte companii în timpul testelor de securitate

Modelul de inteligență artificială al Meta a reușit să pătrundă în sistemele unei alte companii în timpul unor teste de securitate cibernetică, potrivit unui anunț făcut miercuri de companie. Incidentul alimentează îngrijorările privind capacitatea dezvoltatorilor de a controla sisteme de inteligență artificială din ce în ce mai performante, în contextul în care incidente similare au fost raportate recent și la Anthropic și OpenAI.

În cazul Meta și Anthropic, problemele au fost cauzate de erori de configurare care au oferit, din greșeală, modelelor de inteligență artificială acces la internetul deschis. În schimb, la OpenAI, un agent de inteligență artificială a exploatat independent o vulnerabilitate necunoscută anterior pentru a ajunge la internet în timpul testelor de securitate cibernetică.

Aceste incidente evidențiază riscurile tot mai mari pe care sistemele avansate de inteligență artificială le pot genera în domeniul securității cibernetice și ar putea intensifica eforturile autorităților din SUA de a consolida măsurile de siguranță în domeniul AI, pe fondul competiției dintre companii pentru dezvoltarea unor modele tot mai capabile. În acest context, mai mulți lideri din industrie au susținut că ritmul dezvoltării ar trebui încetinit până la implementarea unor garanții de siguranță mai solide.

Meta a precizat că investighează un incident în care o eroare de configurare a companiei independente Irregular, care realizează evaluări de securitate cibernetică pentru Meta, a oferit accidental unuia dintre modelele sale acces la internet în timpul unui test.

Modelul „a exploatat o vulnerabilitate de securitate într-un serviciu terț, într-un mod similar cu cazurile raportate anterior cu alte companii”, a declarat Meta într-un comunicat.

Modelul implicat a fost Muse Spark 1.1, prezentat de Meta drept cel mai performant model al companiei pentru programare și sarcini complexe de tip agent. Conform aceleiași surse, modelul a pătruns în sistemele unei companii neidentificate și i-a modificat mediul intern.

Un purtător de cuvânt al Irregular a declarat pentru agenția de presă Reuters că incidentul a fost „exact aceeași problemă a mediului de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută” și nu a implicat o „evadare dintr-un sandbox sau o acțiune cibernetică sofisticată”.

„Nu există probleme deschise în prezent. Irregular elaborează un document oficial pentru a împărtăși cele mai bune practici pentru izolarea și executarea în siguranță a evaluărilor cibernetice”, a declarat Irregular.

SUA înăspresc supravegherea AI după incidentele de securitate care au implicat modele avansate

Recentele incidente de securitate care au implicat sisteme de inteligență artificială au amplificat îngrijorările legislatorilor americani cu privire la posibilitatea ca modelele AI tot mai performante să fie utilizate pentru a lansa sau facilita atacuri cibernetice.

În acest context, un grup de procurori generali republicani a solicitat OpenAI să păstreze toate documentele care ar putea avea legătură cu breșa de securitate asociată platformei Hugging Face. Compania a transmis că va trata solicitarea cu seriozitate și că va publica un raport tehnic privind incidentul.

La începutul acestei săptămâni, Casa Albă a invitat principalele companii din domeniul inteligenței artificiale, inclusiv Meta, Anthropic, OpenAI și Google, la discuții cu oficialii americani privind un nou cadru voluntar de testare a securității cibernetice pentru modelele avansate de inteligență artificială.

Potrivit sursei citate anterior, Administrația Trump a discutat cu reprezentanții companiilor un set de reguli de testare care nu au fost făcute publice. Oficialii le-au transmis dezvoltatorilor că modelele de inteligență artificială cu greutate deschisă (open-weight), precum Llama de la Meta și Nemotron de la Nvidia, nu vor fi incluse în viitorul regim de testare voluntară a siguranței.