Sam Altman avertizează că AI ar putea scăpa de sub control. OpenAI cere reguli pentru cele mai avansate modele

Sam Altman, CEO-ul OpenAI, a cerut mai multă prudență în dezvoltarea celor mai puternice sisteme de inteligență artificială, avertizând asupra unor riscuri majore. Declarațiile sale, susținute și de alți lideri AI, vin pe fondul accelerării tehnologiei și al competiției globale pentru supremația în domeniu.

Sam Altman avertizează că AI ar putea scăpa de sub control. OpenAI cere reguli pentru cele mai avansate modele

CEO-ul OpenAI, Sam Altman, a prezentat luni cele mai detaliate explicații de până acum privind motivele pentru care industria inteligenței artificiale ar trebui să încetinească dezvoltarea celor mai avansate modele. El a avertizat că un progres necontrolat ar putea avea consecințe grave și chiar ar putea duce la pierderea controlului asupra viitorului în favoarea sistemelor de inteligență artificială.

Altman a identificat două scenarii în care dezvoltarea tehnologiei ar putea evolua foarte prost. Primul este pierderea controlului asupra viitorului în favoarea sistemelor AI, iar al doilea îl reprezintă concentrarea unei puteri prea mari în mâinile unei singure persoane sau companii.

Șeful OpenAI a declarat că susține existența unui cadru federal care să stabilească cerințe de siguranță consecvente pentru inteligența artificială de frontieră. El a precizat că nicio presiune competitivă din SUA nu ar trebui să justifice o abordare imprudentă în dezvoltarea acestor tehnologii.

Declarațiile vin după ce Sam Altman și Elon Musk au susținut propunerea CEO-ului Anthropic, Dario Amodei, privind încetinirea deliberată a ritmului în care sunt îmbunătățite cele mai puternice modele de inteligență artificială.

Amodei avertizează că, începând din această vară, tehnologia avansează mult mai rapid, în principal datorită capacității tot mai mari a sistemelor AI de a contribui la construirea următoarei generații de sisteme de inteligență artificială. El consideră că, dacă acest proces nu este controlat, ar putea depăși capacitatea oamenilor de a înțelege și controla aceste sisteme.

Altman a precizat însă că încetinirea ritmului de dezvoltare nu înseamnă oprirea progresului. Potrivit acestuia, atunci când se vorbește despre ritm nu este vorba despre oprirea evoluției tehnologice, iar progresul, care a fost rapid până acum, va continua să fie rapid.

OpenAI susține introducerea unor reguli comune pentru gestionarea riscurilor asociate inteligenței artificiale și utilizarea unor auditori independenți. Compania consideră că marile laboratoare AI ar trebui să le ofere acestor auditori un nivel de acces similar celui acordat propriilor angajați.

„Lăsat necontrolat, acest proces ar putea depăşi capacitatea noastră de a înţelege şi controla aceste sisteme. Când vorbim despre ritm, nu vorbim despre oprire. Progresul a fost rapid şi va continua să fie”, a spus CEO-ul OpenAI.

AI, în fața unei „limite de viteză”. Altman și Amodei avertizează asupra riscurilor dezvoltării accelerate

Una dintre principalele temeri legate de dezvoltarea inteligenței artificiale privește posibilitatea ca modelele să ajungă la auto-îmbunătățire recursivă, un proces prin care sistemele AI ar contribui la dezvoltarea unor generații succesive, tot mai performante.

Sam Altman consideră că merită acceptat costul unei dezvoltări mai lente pentru ca mecanismele de aliniere și monitorizare să nu rămână în urma capabilităților sistemelor AI. El a avertizat că nicio presiune competitivă din SUA nu ar trebui să justifice imprudența sau să permită ca performanțele acestor sisteme să depășească nivelul de aliniere și monitorizare.

Marea problemă rămâne însă competiția cu China. Dario Amodei admite că stabilirea unei „limite de viteză” globale pentru inteligența artificială va fi extrem de dificilă, deoarece avantajele economice și militare obținute prin atingerea supremației tehnologice sunt enorme.

În opinia lui Sam Altman, industria ar trebui să înceapă prin adoptarea unor măsuri voluntare, însă va avea nevoie de sprijinul guvernului american pentru coordonarea internațională. El consideră că, într-o primă etapă, companiile din domeniu ar trebui să facă singure tot ceea ce pot pentru reducerea riscurilor.

Apelurile liderilor din industria AI au provocat deja neliniște în rândul investitorilor. Acțiunile companiilor asociate cu inteligența artificială au scăzut luni, în timp ce președintele Donald Trump a respins ideea încetinirii dezvoltării tehnologiei, susținând că o astfel de măsură ar putea pune în pericol avantajul SUA în fața Chinei.

„Încetinirea va merita acest cost; nicio presiune competitivă americană nu ar trebui să justifice imprudenţa sau să permită capabilităţilor să depăşească alinierea şi monitorizarea”, a punctat Altman.