OpenAI cere standarde globale pentru AI. Compania atrage atenția asupra sistemelor care se pot îmbunătăți singure

OpenAI cere Statelor Unite să conducă un efort internațional pentru dezvoltarea unor standarde tehnice globale destinate celor mai avansate sisteme de inteligență artificială. Compania atrage atenția inclusiv asupra sistemelor capabile de „autoîmbunătățire recursivă”, prin care inteligența artificială și-ar putea dezvolta în mod autonom propriile capacități.

OpenAI vrea standarde comune pentru cele mai avansate sisteme AI

Propunerea a fost prezentată luni, într-o postare publicată în timp ce liderii mondiali se reunesc la Adunarea Generală a Organizației Națiunilor Unite.

OpenAI consideră necesară crearea unui mecanism care să permită dezvoltarea unor standarde naționale și internaționale complementare pentru sistemele AI de frontieră. Compania propune și stabilirea unor metode comune de măsurare, precum și a unor protocoale pentru raportarea incidentelor.

Scopul ar fi ca statele să poată reacționa mai eficient și coordonat în fața riscurilor generate de sistemele tot mai performante.

„Dacă Statele Unite își asumă acum un rol de lider, vor putea influența modul în care va fi construit cadrul global pentru inteligența artificială. În caz contrar, riscă să se confrunte cu un sistem fragmentat, inegal și marcat de conflicte”, a transmis OpenAI.

Compania susține că modul în care vor fi stabilite aceste reguli ar putea influența inclusiv relațiile dintre Statele Unite și aliații lor, transmite Reuters.

Sistemele AI care se pot îmbunătăți singure ridică noi probleme

Una dintre tehnologiile menționate de OpenAI este „autoîmbunătățirea recursivă”. Aceasta descrie posibilitatea ca un sistem AI să își îmbunătățească în mod autonom propriile capacități.

Subiectul apare în contextul preocupărilor legate de viteza cu care evoluează inteligența artificială și de posibilitatea ca sistemele viitoare să devină dificil de controlat.

Mai mulți lideri ai industriei, inclusiv directorul general al OpenAI, Sam Altman, au cerut o abordare coordonată privind ritmul dezvoltării tehnologiei, avertizând asupra riscului ca sistemele tot mai puternice să ajungă să se îmbunătățească singure și să depășească mecanismele de control uman.

În industrie, discuția este descrisă prin conceptul de „pacing”, adică gestionarea deliberată a ritmului de dezvoltare a inteligenței artificiale.

„Gestionarea ritmului dezvoltării AI nu înseamnă menținerea unei viteze prestabilite. Din punct de vedere tehnic, înseamnă să ne asigurăm că cercetarea privind alinierea și implementarea rezultatelor acesteia rămân înaintea dezvoltării capacităților”, a explicat OpenAI.

Prin „aliniere”, compania se referă la dezvoltarea unor sisteme care acționează în conformitate cu valorile umane.

Sam Altman va vorbi în Consiliul de Securitate al ONU

Inteligența artificială va fi una dintre temele importante discutate la nivel înalt în această săptămână la Organizația Națiunilor Unite.

Sam Altman urmează să prezinte miercuri celor 15 membri ai Consiliului de Securitate al ONU perspectiva sa asupra inteligenței artificiale și a securității internaționale.

Reuniunea a fost convocată de Franța, care deține în septembrie președinția Consiliului de Securitate, și va fi prezidată de ministrul francez pentru Europa și Afaceri Externe, Jean-Noël Barrot.

Consiliul de Securitate a discutat pentru prima dată riscurile inteligenței artificiale în 2023. La acel moment, China avertiza că tehnologia nu trebuie să devină un „cal scăpat de sub control”, în timp ce Statele Unite atrăgeau atenția asupra riscului utilizării AI pentru cenzurarea sau reprimarea populației.

Administrația Trump nu susține încetinirea dezvoltării AI

Poziția OpenAI vine însă într-un moment în care administrația președintelui Donald Trump respinge apelurile pentru încetinirea dezvoltării inteligenței artificiale.

Administrația americană consideră că o eventuală pauză ar putea oferi Chinei posibilitatea de a reduce diferența față de Statele Unite într-un domeniu considerat esențial pentru securitatea națională și economică.

Trump a declarat la începutul lunii că Statele Unite au deja mecanisme de protecție pentru reglementarea dezvoltării inteligenței artificiale. El a susținut și că Beijingul ar avea de câștigat de pe urma îndoielilor și încetinirii dezvoltării AI.

Subiectul apare și înaintea întâlnirii programate în această săptămână, la Washington, între Donald Trump și președintele Chinei, Xi Jinping.