Sam Altman spune că lumea trebuie să accepte și lucrurile rele făcute cu AI. Ce nu poate promite șeful OpenAI

Sam Altman, directorul executiv al OpenAI, susține că dezvoltarea inteligenței artificiale presupune acceptarea unor riscuri, în condițiile în care tehnologia poate aduce beneficii importante societății. Șeful OpenAI consideră că accesul la aceste sisteme ar trebui să rămână cât mai larg, în loc ca tehnologia să fie controlată de un număr restrâns de companii. Declarațiile sale vin în contextul dezbaterilor din industria AI privind siguranța sistemelor tot mai performante și necesitatea unor noi reglementări.

Sam Altman spune că beneficiile inteligenței artificiale justifică asumarea unor riscuri

Dezvoltarea inteligenței artificiale nu poate fi separată complet de posibilitatea apariției unor efecte negative, însă Sam Altman consideră că avantajele oferite oamenilor de această tehnologie justifică asumarea anumitor riscuri.

„Credem că lumea ar trebui să accepte că se întâmplă unele lucruri rele pentru beneficiile acestei tehnologii și ale oamenilor care au această libertate de acțiune”, a declarat Altman într-un interviu acordat Decoded, buletinului informativ al Politico, axat pe tehnologie.

OpenAI și Anthropic au abordări diferite privind reglementarea AI

Diferențele dintre marile companii care dezvoltă inteligență artificială privesc inclusiv nivelul de control care ar trebui impus asupra tehnologiei, iar Altman susține că OpenAI și Anthropic pornesc de la viziuni fundamental diferite asupra acestei probleme, adăugând: „Cred că există multă lumină naturală”.

Directorul OpenAI spune că înțelege argumentele celor care consideră că o tehnologie extrem de puternică ar trebui ținută sub controlul unui număr foarte mic de dezvoltatori pentru reducerea pericolelor.

„Nu sunt de acord, dar înțeleg perspectiva oamenilor care spun: «Această tehnologie va deveni atât de puternică și este atât de periculoasă, încât un singur laborator din San Francisco ar trebui să o dețină și să se asigure că nu se întâmplă nimic rău și să găsească o modalitate de a distribui beneficiile»”, a spus Altman.

Altman respinge ideea că un singur laborator ar trebui să controleze tehnologia

Concentrarea unei tehnologii atât de importante în mâinile unei singure organizații nu reprezintă, în viziunea directorului OpenAI, o soluție acceptabilă pentru limitarea riscurilor asociate inteligenței artificiale. El a numit această variantă „un compromis complet inacceptabil”, care contrazice „poziția de reglementare mai puțin strictă” susținută de OpenAI.

Altman susține, de asemenea, că dezvoltatorii nu pot garanta eliminarea tuturor consecințelor negative care ar putea apărea odată cu extinderea utilizării AI.

„Nu aș accepta să spun: «Ne vom asigura că nu vor exista atacuri cibernetice majore, că nu va exista nicio utilizare abuzivă a acestei tehnologii, că nu vor exista nicio escrocherie, că nu vor exista niciun alt lucru rău care se va întâmpla». Pentru că cred că oamenii vor face enorm – cu ordine de mărime mai multe – lucruri bune decât lucruri rele”, a spus Altman.

Industria AI dezbate ritmul de dezvoltare și pericolele sistemelor avansate

Declarațiile directorului OpenAI apar într-un moment în care companiile și cercetătorii din domeniu discută tot mai intens despre viteza cu care ar trebui dezvoltate sistemele de inteligență artificială și despre riscurile generate de creșterea capacităților acestora.

CEO-ul Anthropic, Dario Amodei, a publicat în septembrie un eseu în care a cerut industriei să încetinească ritmul pentru a „accelera ritmul frontierei”, poziție pe care Altman a susținut-o public.

Tot în septembrie, cercetătorul Anthropic Jacob Coxon a demisionat și a atras atenția asupra temerilor existente chiar în rândul specialiștilor implicați în dezvoltarea acestei tehnologii. Potrivit acestuia, oamenii care construiesc inteligența artificială cred că aceasta „ne-ar putea ucide pe toți până la sfârșitul deceniului”.

Anthropic a avertizat asupra unor posibile „comportamente de autoconservare”

Riscurile discutate în industria AI nu se limitează la utilizarea intenționat abuzivă a sistemelor, Anthropic avertizând că modelele pot ajunge uneori să acționeze contrar intențiilor celor care le-au dezvoltat.

Reuters a relatat în septembrie că Anthropic a avertizat că, în pofida potențialelor beneficii ale inteligenței artificiale, tehnologia poate avea uneori comportamente care nu corespund intențiilor producătorilor săi și poate pătrunde în sistemele altor companii.

Compania a susținut că modelele avansate ar putea manifesta „comportamente de autoconservare”, printre care tentative de „a rezista închiderii”, „a ascunde sau manipula informații” ori de a genera rezultate care ar putea fi interpretate drept „coercitive, înșelătoare sau manipulatoare”.

Donald Trump respinge introducerea unor noi restricții pentru inteligența artificială

Dezbaterea privind siguranța inteligenței artificiale se desfășoară și la nivel politic în Statele Unite, unde președintele Donald Trump a respins în mare parte solicitările privind introducerea unor restricții suplimentare pentru această industrie.

Trump argumentează că noi reguli ar putea reduce capacitatea companiilor americane de a concura cu rivalii din China. Președintele american a afirmat în repetate rânduri că instituțiile existente de aplicare a legii, inclusiv Departamentul de Justiție, oferă suficiente garanții pentru gestionarea eventualelor abuzuri și că adoptarea unor reglementări suplimentare nu este necesară.