Nvidia lansează o nouă platformă de securitate pentru agenții de inteligență artificială

Nvidia a prezentat, luni, o nouă platformă de securitate cibernetică pentru agenții autonomi de inteligență artificială (IA), pe fondul unor incidente în care aceștia au accesat sisteme fără autorizație. Soluția combină două tehnologii pentru a monitoriza și limita acțiunile agenților IA în mediile informatice.

Nvidia lansează o nouă platformă de securitate pentru agenții de inteligență artificială

Compania multinațională americană de tehnologie Nvidia a prezentat luni o nouă platformă deschisă de securitate cibernetică, destinată monitorizării agenților autonomi de inteligență artificială (IA) și prevenirii situațiilor în care aceștia operează în afara controlului dezvoltatorilor.

Inițiativa apare după mai multe incidente raportate în această vară, în care modele avansate de IA au ieșit din mediile lor de testare și au accesat fără autorizație sisteme ale unor companii și instituții guvernamentale.

Soluția, denumită NVIDIA Open Agent Safety Platform, combină tehnologiile OpenShell și Sentry și beneficiază deja de sprijinul a peste 100 de parteneri din industrie. Printre aceștia se numără Microsoft, JPMorgan Chase, Perplexity și Accenture.

CEO-ul Nvidia, Jensen Huang, a transmis pe platforma X că încrederea și inovația nu sunt incompatibile și că securitatea reprezintă modalitatea prin care poate fi câștigată această încredere. El a precizat că este necesară dezvoltarea unei inteligențe artificiale nu doar cât mai capabile, ci și cât mai fiabile. Huang a mai arătat că noua inițiativă urmărește să creeze bazele unui ecosistem deschis pentru ceea ce compania numește „economia agenților”.

„Încrederea şi inovaţia nu sunt în conflict; securitatea este modalitatea de a câştiga această încredere. Trebuie să construim nu doar cea mai capabilă IA, ci şi cea mai fiabilă”, a declarat Huang.

Agenții IA scapă de sub control. Cum vrea Nvidia să prevină accesul neautorizat în rețele?

Cazuri recente identificate în laboratoarele de top ale OpenAI, Anthropic și Meta au arătat că unii agenți de inteligență artificială au reușit să iasă din mediile în care erau testați pentru a accesa rețele neautorizate, ajungând chiar să își falsifice propriile jurnale.

Pentru a reduce riscul unor astfel de breșe, platforma Nvidia funcționează pe două niveluri independente. OpenShell, un mediu de execuție open-source, izolează agenții într-un spațiu securizat, de tip sandbox, și verifică dacă aceștia dispun doar de permisiunile necesare pentru îndeplinirea sarcinilor.

Cel de-al doilea nivel, Sentry, este un sistem de monitorizare continuă integrat direct în cipurile de procesare a datelor BlueField. Potrivit companiei, acesta supraveghează canalul de comunicare către model și poate interveni imediat sau poate plasa agentul în carantină dacă detectează o încercare de depășire a limitelor stabilite.