Agenții IA pot negocia și lua decizii în locul oamenilor. ONU lansează un plan pentru a stabili limitele

Agenția Națiunilor Unite pentru tehnologii digitale a anunțat joi lansarea unei inițiative dedicate creșterii nivelului de încredere în agenții de inteligență artificială, pe fondul extinderii utilizării unor sisteme capabile să funcționeze tot mai autonom.

Inteligența artificială capătă mai multă autonomie. De ce ONU pregătește acum un nou cadru internațional

Demersul vine pe fondul preocupărilor legate de responsabilitate, transparență și menținerea supravegherii umane asupra acestor tehnologii. Agenții de inteligență artificială reprezintă o generație nouă de sisteme concepute pentru a acționa independent în numele utilizatorilor. Acestea pot îndeplini o gamă largă de sarcini, de la activități de programare și achiziții până la gestionarea unor procese complexe de afaceri.

Dezvoltarea acestor sisteme este asociată cu posibilitatea creșterii productivității, însă Uniunea Internațională a Telecomunicațiilor (UIT) atrage atenția și asupra unor riscuri. Printre acestea se numără situațiile în care agenții IA ar putea să se prezinte drept persoane reale sau ar putea lua decizii fără autorizarea corespunzătoare.

Pentru a analiza aceste provocări și pentru a identifica soluții, UIT a anunțat, la summitul AI for Good desfășurat la Geneva, formarea unui grup de discuții dedicat agenților de inteligență artificială.

Agenții IA vor negocia, tranzacționa și lua decizii în numele nostru în curând

Potrivit Reuters, noua structură va avea rolul de a contribui la dezvoltarea unor cadre de referință care să permită identificarea clară a agenților IA, creșterea gradului de încredere în utilizarea lor și menținerea unui control uman semnificativ asupra acțiunilor acestora.

Atenția grupului se va concentra în special asupra domeniilor sensibile, unde deciziile luate de sisteme autonome pot avea efecte importante. Printre exemplele menționate se află tranzacțiile financiare și infrastructura critică, sectoare în care verificarea identității și a responsabilității agenților IA reprezintă un element esențial.

„Agenții IA vor negocia, tranzacționa și lua decizii în numele nostru în curând”, a declarat Debora Comparin, co-președinta Grupului de Lucru, adăugând că sunt necesare fundații internaționale comune pentru a stabili cine sunt agenții și cum și când se poate avea încredere în ei.

Reuniuni internaționale pentru elaborarea cadrului de lucru

Grupul de lucru va reuni specialiști din domenii tehnice, politice și juridice, cu scopul de a analiza aspectele legate de utilizarea agenților de inteligență artificială și de stabilirea unor principii comune.

Prima reuniune a grupului este programată la Paris în luna noiembrie, iar următoarea întâlnire va avea loc la Geneva în luna ianuarie.

Inițiativa UIT urmărește abordarea unor aspecte legate de identificarea agenților IA, modul în care aceștia pot fi evaluați și condițiile în care acțiunile lor pot rămâne sub controlul utilizatorilor și al instituțiilor responsabile.