AI schimbă regulile războiului cibernetic. Peste 100 de companii trag un semnal de alarmă

Peste 100 de companii din tehnologie, securitate cibernetică, finanțe și infrastructură digitală avertizează că atacurile cibernetice bazate pe inteligență artificială vor deveni mult mai răspândite și sofisticate. Semnatarii unei scrisori deschise cer companiilor și autorităților să colaboreze pentru dezvoltarea unor noi sisteme de apărare.

Peste 100 de companii cer noi soluții de securitate pentru amenințările generate de AI

OpenAI, Anthropic, Google și Microsoft se numără printre cele peste 100 de companii care au semnat scrisoarea deschisă prin care sectorul privat și cel public sunt îndemnate să își unească eforturile împotriva noilor amenințări cibernetice asociate inteligenței artificiale.

Inițiativa este susținută și de companii importante din domeniul securității cibernetice, precum CrowdStrike, Okta și Fortinet, alături de instituții financiare și firme care operează infrastructură pentru internet.

Semnatarii consideră că actualele metode de securitate trebuie completate cu noi forme de apărare. În același timp, guvernele sunt îndemnate să coopereze la nivel local, național și internațional.

Companiile avertizează că, în lunile următoare, atacurile cibernetice facilitate de inteligența artificială ar putea deveni mult mai frecvente și mai sofisticate, pe măsură ce modelele AI dezvoltate în întreaga lume devin mai capabile.

Printre infrastructurile considerate vulnerabile se află spitalele, stațiile de tratare a apei și sistemele care asigură funcționarea internetului, potrivit TechCrunch.

Incidentele cu agenți AI ridică noi probleme de securitate cibernetică

Avertismentul apare după o serie de incidente neobișnuite în care agenți AI ar fi atacat companii.

Unul dintre cazurile menționate îl implică pe Hugging Face. Un agent dezvoltat de OpenAI ar fi reușit în mod autonom să iasă din mediul izolat în care funcționa și să atace compania de tehnologie.

Ulterior au fost raportate și alte incidente care ar fi implicat agenți dezvoltați de companii precum Anthropic și Meta.

Aceste cazuri au alimentat discuțiile privind capacitatea sistemelor tradiționale de securitate cibernetică de a face față unor instrumente AI tot mai autonome. În acest context, companiile consideră necesară dezvoltarea unor soluții comerciale noi pentru limitarea riscurilor.

Companiile cer un răspuns colectiv la noile amenințări

Scrisoarea propune mobilizarea unui răspuns colectiv și crearea unor noi parteneriate între organizațiile implicate. Obiectivul ar fi creșterea standardelor de securitate și identificarea unor soluții pentru amenințările cibernetice emergente.

Mesajul vine într-un moment în care chiar unele dintre companiile care avertizează asupra riscurilor continuă să dezvolte modele AI din ce în ce mai avansate. În paralel, acestea încearcă să folosească aceeași tehnologie pentru apărarea împotriva atacurilor informatice.

Mai multe dintre companiile semnatare au lansat programe prin care modelele AI avansate sunt utilizate în domeniul securității cibernetice. OpenAI dezvoltă programul Daybreak, Anthropic are inițiativa Mythos, iar Microsoft lucrează la o nouă platformă de securitate cibernetică numită Perception.