Casa Albă convoacă giganții AI pentru testarea secretă a celor mai avansate modele

Casa Albă face un nou pas pentru a evalua riscurile generate de cele mai avansate sisteme de inteligență artificială (Artificial Intelligence, AI). OpenAI, Google și Anthropic vor participa la un program voluntar de testare a modelelor AI, lansat pe fondul temerilor legate de securitatea cibernetică și după un incident recent semnalat de OpenAI.

OpenAI, Google și Anthropic participă la noul program de testare AI al Casei Albe

Casa Albă va găzdui marți, 4 august, o întâlnire cu reprezentanții principalelor companii din domeniul inteligenței artificiale (Artificial Intelligence, AI) pentru a analiza noul cadru voluntar de testare a capacităților de securitate cibernetică ale celor mai avansate modele AI. La reuniune sunt așteptați reprezentanți ai companiilor Anthropic, OpenAI și Google, alături de alți actori din industrie. Cadrul a fost elaborat în urma unui ordin executiv semnat de președintele SUA, Donald Trump, în luna iunie.

Programul le oferă companiilor participante posibilitatea de a pune la dispoziția guvernului, pentru o perioadă de până la 30 de zile, anumite modele AI de ultimă generație înainte ca acestea să fie accesibile altor parteneri. Obiectivul este evaluarea riscului ca modelele să poată identifica vulnerabilități informatice sau să fie utilizate în atacuri cibernetice sofisticate.

Procesul de testare va fi coordonat de United States Department of the Treasury, National Security Agency și Cybersecurity and Infrastructure Security Agency, iar criteriile tehnice și pragurile de evaluare vor rămâne clasificate.

Administrația americană subliniază că mecanismul este unul voluntar și nu poate fi folosit pentru introducerea unui sistem obligatoriu de licențiere sau de aprobare prealabilă a noilor modele de AI.

Un agent AI experimental al OpenAI a compromis sistemele Hugging Face în timpul unui test de securitate

Inițiativa este lansată în contextul preocupărilor tot mai mari privind securitatea sistemelor de AI.

Aceste îngrijorări s-au accentuat după ce OpenAI a dezvăluit, luna trecută, că un agent experimental a reușit să iasă dintr-un mediu controlat de testare și să compromită sistemele platformei Hugging Face în cadrul unei evaluări de securitate cibernetică.