Regele Charles avertizează liderii AI asupra „pericolelor existențiale” și cere măsuri de control

Regele Charles al III-lea a reunit joi, în Scoția, lideri ai industriei AI pentru a discuta riscurile dezvoltării rapide a tehnologiei. La Dumfries House, reprezentanții Nvidia, Google DeepMind, OpenAI și Anthropic au analizat măsuri de siguranță și principii comune pentru dezvoltarea responsabilă a inteligenței artificiale.

Regele Charles avertizează liderii AI asupra „pericolelor existențiale” și cere măsuri de control

Regele Charles al III-lea al Marii Britanii i-a avertizat joi, 17 septembrie, pe liderii din domeniul inteligenței artificiale (Artificial Intelligence, AI)cu privire la „pericolele existențiale” care s-ar putea manifesta dacă această tehnologie ajunge pe mâini greșite. El a susținut că sunt necesare suficiente măsuri de control înainte ca dezvoltarea rapidă a AI să scape de sub control.

Regele Charles i-a găzduit în Scoția pe fondatorii Nvidia, companie producătoare de cipuri, precum și pe fondatorii laboratorului de cercetare AI Google DeepMind și pe liderii companiilor OpenAI și Anthropic. Reuniunea a avut loc pe fondul îngrijorărilor tot mai mari că măsurile privind siguranța inteligenței artificiale nu țin pasul cu ritmul accelerat de dezvoltare a tehnologiei.

Declarația regelui vine după o serie de avertismente recente formulate de persoane din interiorul industriei cu privire la capacitățile aflate în rapidă evoluție ale modelelor avansate de AI și la necesitatea unor reglementări care să le mențină sub control.

Charles al III-lea a afirmat că inteligența artificială are un potențial important de a îmbunătăți și chiar salva vieți, în special în domeniul științelor vieții și al medicinei. În același timp, el a atras atenția că persoanele care au creat aceste tehnologii avertizează tot mai des că AI ar putea dezvolta capacități periculoase, inclusiv posibilitatea de a provoca pierderi de vieți omenești.

Regele a considerat că există o urgență în analizarea corespunzătoare a pericolelor existențiale asociate unor astfel de tehnologii în cazul în care acestea ajung pe mâini greșite și sunt utilizate în moduri potențial catastrofale.

El le-a transmis liderilor din industria AI că responsabilitatea acestora nu se limitează la promovarea tehnologiei, ci include și asigurarea faptului că aceasta rămâne în serviciul umanității, al comunității și al naturii. Charles al III-lea a mai susținut că sunt necesare suficiente mijloace de control înainte ca situația să ajungă într-un punct în care ar putea fi prea târziu pentru intervenție.

„Cei care au creat aceste tehnologii avertizează acum din ce în ce mai des că IA riscă să dezvolte capacităţi mai întunecate – poate chiar de a lua viaţa. Sarcina care vă revine nu este doar aceea de a promova tehnologia, ci de a vă asigura că aceasta rămâne ferm în slujba umanităţii, a comunităţii şi a naturii”, le-a spus regele.

Nvidia cere companiilor AI să amâne lansarea produselor care nu sunt suficient de sigure

Jensen Huang, directorul executiv al Nvidia, s-a numărat printre liderii de top ai industriei inteligenței artificiale prezenți la eveniment. Nvidia este un actor central în infrastructura AI și furnizează cipuri pentru dezvoltatori importanți de modele de inteligență artificială, printre care OpenAI și Meta. Compania este, de asemenea, cea mai valoroasă din lume, cu o capitalizare de piață de aproximativ 5,15 trilioane de dolari.

„Să mergem mai departe cu un optimism responsabil, să construim IA în condiţii de siguranţă şi securitate, să o facem accesibilă unui număr mai mare de oameni, să ne extindem ambiţiile şi să rezolvăm problemele care contează pentru lume”, a îndemnat Huang.

Printre participanți s-au numărat și Demis Hassabis, fondatorul și președintele Google DeepMind, Sarah Friar, directorul financiar al OpenAI, Tino Cuellar, directorul pentru afaceri globale al Anthropic, precum și Kanishka Narayan, ministrul britanic pentru inteligență artificială.

La reuniune a participat și Paolo Benanti, consilier al Papei, care a îndemnat guvernele să încetinească dezvoltarea inteligenței artificiale.

Jensen Huang le-a transmis participanților că siguranța este esențială în dezvoltarea AI. În opinia sa, companiile ar trebui să amâne lansarea unui produs dacă acesta nu este suficient de sigur și să nu continue dezvoltarea lui până când nu sunt îndeplinite condițiile necesare.

Șeful Nvidia a susținut, de asemenea, importanța modelelor deschise, care oferă utilizatorilor acces direct la software. Potrivit acestuia, astfel de sisteme pot contribui la asigurarea faptului că oamenii și țările nu sunt lăsați în urmă în dezvoltarea inteligenței artificiale.

Huang a mai arătat că aceste sisteme trebuie protejate astfel încât cercetătorii, universitățile, start-up-urile și țările să poată dezvolta aplicații care depășesc ceea ce ar putea imagina individual dezvoltatorii actuali.

El a îndemnat industria să continue dezvoltarea inteligenței artificiale cu un optimism responsabil, să construiască sisteme sigure și securizate, să facă tehnologia accesibilă unui număr cât mai mare de oameni și să își extindă ambițiile pentru a rezolva probleme importante pentru societate.

Jensen Huang a susținut că responsabilitatea pentru siguranța AI le revine chiar dezvoltatorilor și a cerut companiilor să fie mult mai riguroase atunci când verifică dacă produsele sunt complete înainte de lansare. În acest context, el a afirmat că un produs care nu este pregătit ar trebui amânat, iar companiile ar trebui să dezvolte și să lanseze tehnologia cât mai repede posibil, dar fără să depășească ritmul în care pot garanta siguranța acesteia.

Google DeepMind estimează că inteligența artificială generală ar putea apărea în câțiva ani și avea un impact de 10 ori mai mare decât Revoluția Industrială

Între timp, Sir Demis Hassabis, cofondatorul laboratorului britanic de inteligență artificială DeepMind, achiziționat ulterior de Google, a adoptat o poziție mai prudentă în privința ritmului de dezvoltare a tehnologiei.

Hassabis a afirmat că inteligența artificială generală, reprezentată de sisteme despre care se estimează că ar putea ajunge să fie la fel de performante sau chiar mai bune decât oamenii în îndeplinirea mai multor tipuri de sarcini, s-ar putea afla la doar câțiva ani distanță. El a estimat că impactul acesteia ar putea fi de zece ori mai mare decât cel al Revoluției Industriale.

Cofondatorul DeepMind a avertizat, totodată, că probabilitatea ca dezvoltarea inteligenței artificiale să ducă la consecințe nedorite este cu siguranță mai mare decât zero.

În același timp, Hassabis a pledat pentru o abordare de mijloc, considerată de el rațională. El a susținut că omenirea ar putea face față riscurilor asociate inteligenței artificiale dacă ar avea, în mod colectiv, suficient spațiu și timp pentru a le identifica și atenua. Hassabis le-a transmis delegaților reuniți la King’s că viitorul nu este încă stabilit.

Anthropic cere încetinirea dezvoltării AI. Marea Britanie propune testarea și reducerea riscurilor

Directorul executiv al Anthropic, Dario Amodei, a îndemnat, la rândul său, companiile din domeniu să încetinească ritmul dezvoltării inteligenței artificiale. Apelurile sale au declanșat o dezbatere internațională privind riscul ca unii directori din industrie să fie influențați de obiective personale atunci când susțin anumite măsuri, inclusiv stabilirea unor reguli care să le permită să își păstreze pozițiile de conducere, să prevină reacții mai ample din partea guvernelor sau să reducă ritmul cheltuielilor foarte mari pentru dezvoltarea acestei tehnologii.

Kanishka Narayan, ministrul britanic pentru inteligență artificială, a declarat că discuțiile de la reuniune s-au concentrat pe responsabilitatea companiilor de a se asigura că dezvoltă o tehnologie AI care să servească intereselor oamenilor.

El a explicat că întâlnirea din Scoția face parte dintr-o serie de discuții privind rolul pe care Marea Britanie l-ar putea avea în dezvoltarea responsabilă a inteligenței artificiale, și nu reprezintă un eveniment singular.

Narayan a mai afirmat că Marea Britanie dispune de capacități importante pentru testarea inteligenței artificiale, înțelegerea riscurilor asociate acesteia și identificarea unor modalități de reducere a acestor riscuri.