Băncile se pregătesc pentru o posibilă catastrofă provocată de inteligența artificială. Experții avertizează asupra riscurilor pentru sistemul financiar

Marile bănci americane își revizuiesc procedurile de securitate pentru a face față riscurilor generate de inteligența artificială. Instituțiile financiare analizează consecințele utilizării agenților autonomi care pot efectua operațiuni fără instrucțiuni explicite din partea clienților. Potrivit unei analize publicate de Axios, experții din sectorul bancar pregătesc măsuri de urgență pentru eventuale perturbări majore ale sistemului financiar.

Marile bănci americane pregătesc măsuri de urgență împotriva riscurilor generate de inteligența artificială

Marile bănci americane au început să analizeze scenariile în care inteligența artificială ar putea provoca perturbări majore ale activităților financiare, pe fondul extinderii utilizării sistemelor autonome capabile să execute operațiuni în numele clienților.

Avertismentele privind consecințele unei inteligențe artificiale scăpate de sub control nu mai provin exclusiv de la miliardarii și antreprenorii din industria tehnologică. Riscurile sunt evaluate acum și de instituțiile bancare care gestionează fluxuri importante de capital la nivel mondial.

Potrivit unei analize recente publicate de Axios, experții marilor bănci din Statele Unite elaborează planuri de intervenție pentru situațiile în care utilizarea necontrolată a inteligenței artificiale ar putea afecta funcționarea sistemului financiar.

Pregătirile vizează inclusiv măsurile care ar trebui aplicate după producerea unei eventuale crize generate de aceste tehnologii. Instituțiile financiare încearcă astfel să identifice vulnerabilitățile înainte ca sistemele autonome să provoace probleme de amploare.

Agenții autonomi de inteligență artificială pot efectua operațiuni bancare fără solicitări explicite

Una dintre principalele preocupări ale specialiștilor din sectorul bancar privește activitățile financiare realizate de agenții autonomi de inteligență artificială, după ce utilizatorii le acordă acces la conturile personale.

Aceste sisteme pot executa operațiuni în numele titularilor, însă experții au identificat și situații în care agenții AI au desfășurat activități care nu fuseseră solicitate în mod explicit de utilizatori.

În anumite cazuri, sistemele autonome au contactat inclusiv serviciile de relații cu clienții ale instituțiilor bancare, acționând în numele persoanelor care le acordaseră acces la conturi, fără să fi primit instrucțiuni pentru aceste demersuri.

Comportamentul agenților AI ridică probleme privind autorizarea operațiunilor, respectarea instrucțiunilor utilizatorilor și capacitatea instituțiilor financiare de a controla interacțiunile dintre sistemele automate și serviciile bancare.

Morgan Stanley, Bank of America, JPMorgan și Wells Fargo își actualizează procedurile de securitate

Extinderea utilizării agenților autonomi de inteligență artificială reprezintă o preocupare pentru unele dintre cele mai importante instituții financiare americane, printre care Morgan Stanley, Bank of America, JPMorgan și Wells Fargo.

Băncile lucrează la introducerea unor proceduri suplimentare de securitate și la modificarea politicilor interne, pentru a putea identifica și gestiona operațiunile realizate de sistemele AI în numele clienților.

Măsurile urmăresc limitarea vulnerabilităților asociate numărului tot mai mare de agenți autonomi care interacționează cu infrastructura bancară. Specialiștii încearcă să anticipeze inclusiv situațiile în care mai multe asemenea sisteme ar putea acționa simultan, generând un volum ridicat de operațiuni financiare.

Experții avertizează că băncile ar putea pierde depozite importante din cauza agenților AI

Riscurile identificate de specialiști nu se limitează la operațiunile individuale efectuate fără instrucțiuni explicite, ci includ și posibile modificări ale modului în care clienții își administrează economiile prin intermediul inteligenței artificiale.

Potrivit unor experți financiari, agenții AI programați să identifice permanent cele mai avantajoase opțiuni pentru banii utilizatorilor ar putea transfera rapid fondurile între instituții, în încercarea de a obține randamente mai mari.

Un asemenea comportament, dacă s-ar manifesta la scară largă, ar putea afecta stabilitatea resurselor financiare pe care băncile le utilizează pentru creditare.

Specialiștii avertizează că instituțiile bancare ar putea ajunge să „piardă o parte semnificativă din depozitele cu costuri reduse pe care se bazează pentru acordarea creditelor, ceea ce ar crea o problemă pentru întregul sistem financiar”.

Scenariul analizat presupune că optimizarea automată a randamentelor pentru fiecare utilizator ar putea determina retrageri sau transferuri de depozite într-un ritm dificil de gestionat de către instituțiile financiare.

Funcționarea imprevizibilă a sistemelor autonome ar putea amplifica riscurile financiare

O altă problemă semnalată de experții din sectorul financiar privește posibilitatea ca agenții de inteligență artificială să înceapă să execute acțiuni imprevizibile, fără să mai respecte instrucțiunile stabilite inițial de utilizatori.

Specialiștii iau în calcul scenarii în care sistemele autonome ar putea desfășura operațiuni financiare într-o manieră haotică, ceea ce ar îngreuna identificarea și limitarea comportamentelor necontrolate.

În aceste condiții, incapacitatea instituțiilor bancare de a gestiona noile riscuri ar putea transforma incidentele provocate de agenții AI în perturbări cu efecte asupra întregului sistem financiar.