Șeful Anthropic trage frâna în cursa AI. Planul în 3 pași care a primit susținerea lui Sam Altman și Elon Musk

Dario Amodei, directorul executiv al Anthropic, solicită companiilor de inteligenţă artificială să reducă în mod deliberat ritmul dezvoltării unor modele tot mai performante. El avertizează că mecanismele de siguranţă trebuie să avanseze suficient de repede pentru a ţine pasul cu noile capacităţi ale sistemelor AI.

Dario Amodei cere o pauză în cursa AI. Planul care a atras rapid atenția lui Altman și Musk

Dario Amodei a prezentat sâmbătă un plan în trei etape despre care afirmă că ar putea tempera ritmul dezvoltării tehnologice fără să afecteze avantajul comercial al companiilor sau poziţia Statelor Unite în competiţia globală pentru inteligenţă artificială. Propunerea nu vizează oprirea cercetării sau a progresului tehnic, ci acordarea unui interval suficient pentru dezvoltarea şi verificarea măsurilor de protecţie.

„Încetinirea nu înseamnă oprirea antrenării modelelor sau a progresului tehnic, ci să ne asigurăm că firmele au suficient timp pentru a-şi alinia şi proteja modelele”, a explicat Amodei.

Prima etapă a planului este deja asumată de Anthropic şi presupune implicarea unor evaluatori independenţi. Aceştia ar urma să beneficieze de un nivel de acces comparabil cu cel al angajaţilor companiei, pentru a putea verifica măsurile de siguranţă şi raporta eventualele incidente, potrivit celor relatate de CNBC.

Planul propus de Anthropic şi măsurile pentru evaluarea siguranţei

A doua etapă propusă de Amodei presupune o coordonare mai strânsă între principalele companii de inteligenţă artificială din ţările democratice. Obiectivul acestei faze este stabilirea unor standarde comune referitoare la siguranţa şi evaluarea modelelor dezvoltate de aceste companii.

A treia etapă ar presupune negocieri şi acorduri între guvernele statelor democratice şi cele autoritare. Propunerea lui Amodei extinde astfel discuţia despre siguranţa AI de la nivelul companiilor la cel al cooperării internaţionale.

Apelul şefului Anthropic vine după demisia cercetătorului Jacob Coxon, care a criticat public atât Anthropic, cât şi OpenAI. Coxon a afirmat că cele două companii „se joacă cu vieţile noastre” şi a susţinut că unii dintre specialiştii care lucrează la dezvoltarea inteligenţei artificiale consideră posibil ca tehnologia să provoace dispariţia omenirii până la sfârşitul acestui deceniu.

Amodei consideră că aceste riscuri trebuie tratate cu mai multă seriozitate decât în 2023, perioadă în care modelele de inteligenţă artificială aveau capacităţi mult mai reduse de a acţiona direct asupra lumii reale. Potrivit argumentului său, evoluţia tehnologiei face necesară o atenţie mai mare acordată măsurilor de aliniere şi protecţie.

Sam Altman şi Elon Musk susţin propunerea

Iniţiativa a primit rapid susţinerea lui Sam Altman, directorul executiv al OpenAI. Acesta a declarat că încetinirea dezvoltării celor mai avansate capacităţi ale sistemelor AI a devenit un subiect important al discuţiilor din companie.

Altman a susţinut, de asemenea, ideea utilizării unor evaluatori independenţi care să primească acces extins pentru verificarea măsurilor de siguranţă. OpenAI a anunţat că va adopta o măsură similară celei propuse de Anthropic.

Şi Elon Musk şi-a exprimat public sprijinul pentru iniţiativa lui Amodei, printr-un mesaj scurt: „Dario are dreptate”. Susţinerea sa se alătură astfel poziţiei exprimate de Altman cu privire la necesitatea unor verificări independente şi a unei abordări mai prudente în dezvoltarea celor mai avansate sisteme AI.

Amodei susţine că obţinerea unui interval suplimentar de unul sau doi ani înainte ca modelele de inteligenţă artificială să ajungă la niveluri critice de capacitate le-ar putea oferi cercetătorilor timpul necesar pentru îmbunătăţirea alinierii sistemelor. Potrivit propunerii sale, acest timp suplimentar ar putea contribui la reducerea semnificativă a riscului ca dezvoltarea tehnologiei să scape de sub control.