Un cercetător de la Anthropic si-a dat demisia: Lumea este în pericol. AI se joacă cu viețile noastre

Jacob Coxon, cercetător britanic, a anunţat marţi, pe platforma X, că părăseşte compania Anthropic şi renunţă la activitatea din industria inteligenţei artificiale. El susţine că dezvoltarea acestor tehnologii nu mai poate fi realizată în mod responsabil de companii fără intervenţia statelor.

Un cercetător de la Anthropic demisionează și lansează un avertisment dur: Se joacă cu viețile noastre

Coxon şi-a făcut publică decizia printr-o serie de şapte mesaje postate pe X, marţi, spre sfârşitul după-amiezii. În mai puţin de două ore, postările sale au acumulat două milioane de vizualizări.

Motivaţia plecării este sintetizată de cercetător într-o afirmaţie referitoare la cei doi foşti angajatori ai săi, OpenAI şi Anthropic:

„Niciuna dintre cele două companii nu acţionează în mod responsabil. Se îndreaptă cu viteză spre o superinteligenţă capabilă să se perfecţioneze singură şi se joace cu vieţile noastre”, a explicat cercetătorul

Matematician de formaţie, britanicul a lucrat la antrenarea unor noi modele de inteligenţă artificială folosind volume foarte mari de date. Activitatea sa l-a plasat direct în procesul de dezvoltare a acestor sisteme, potrivit Reuters.

Vorbește despre cele mai extreme scenarii

Coxon a declarat pentru The Wall Street Journal că, printre colegii săi, termeni precum „crunchtime” (momentul decisiv) şi „endgame” (faza finală) sunt folosiţi pentru a descrie direcţia în care evoluează industria inteligenţei artificiale. Cercetătorul spune că perspectiva asupra ritmului actual de dezvoltare este una îngrijorătoare.

„Ne îndreptăm spre cele mai extreme scenarii, în care, până la sfârşitul anului viitor, lucrurile ar putea scăpa deja de sub control”, avertizează el în interviul acordat cotidianului american. În opinia sa, competiţia dintre laboratoarele de cercetare din Statele Unite şi China sporeşte presiunea şi poate face inevitabile compromisurile legate de securitate.

În mesajele publicate pe X, Coxon formulează avertismente şi mai ferme cu privire la capacităţile pe care le-ar putea dobândi sistemele de inteligenţă artificială. „Nu subestimaţi puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraomeneşti, capabile să pirateze orice, să revoluţioneze orice domeniu de la o zi la alta şi să dobândească putere şi resurse reale”, afirmă el într-unul dintre mesaje.

Cercetătorul susţine, de asemenea, că unii dintre oamenii implicaţi în dezvoltarea inteligenţei artificiale iau în calcul inclusiv posibilitatea unor consecinţe extreme. „oamenii care dezvoltă IA cred sincer că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului. Nu este o strategie de marketing”, continuă avertismentul tânărului matematician.

Temeri exprimate în privat

Coxon afirmă că discursul public al unor lideri şi cercetători cu experienţă este mai prudent decât discuţiile purtate în privat. Potrivit acestuia, reprezentanţii industriei îşi aleg cu grijă formulările „pentru a părea rezonabili”.

În acelaşi timp, susţine cercetătorul, aceleaşi persoane „îşi exprimă frica” în discuţiile private. Coxon pune sub semnul întrebării continuarea dezvoltării tehnologiei în aceste condiţii şi întreabă: „Dacă cred cu adevărat asta, atunci de ce continuă să o construiască?”.

În cazul OpenAI şi Anthropic, el face o distincţie legată de modul în care cele două companii ar privi riscurile asociate dezvoltării inteligenţei artificiale. „La OpenAI, mulţi nu au înţeles pe deplin mizele civilizaţionale. La Anthropic, mizele sunt bine înţelese, dar sunt angajaţi într-o cursă pentru a ajunge primii – consideră că nimeni altcineva nu va acţiona în mod responsabil, aşa că trebuie să o facă ei înşişi, în ciuda riscului”.

Cercetătorul ajunsese la Anthropic după ce, la începutul acestui an, plecase de la OpenAI. Decizia de a schimba compania a fost legată tocmai de reputaţia Anthropic în privinţa siguranţei modelelor de inteligenţă artificială.

Plecarea de la Anthropic

Coxon spune că apreciază ca fiind sincere eforturile Anthropic privind siguranţa modelelor. Cu toate acestea, el consideră în prezent că nicio companie nu poate dezvolta singură, în mod responsabil, o inteligenţă artificială capabilă să depăşească performanţele umane într-o gamă largă de sarcini.

O astfel de capacitate este asociată uneori cu conceptul de inteligenţă artificială generală, cunoscută sub acronimul AGI. În perspectiva lui Coxon, dezvoltarea unei asemenea tehnologii ar necesita fie intervenţia statelor, fie o încetinire coordonată a procesului de dezvoltare.

Potrivit informaţiilor publicate de Wall Street Journal, demisia lui Coxon s-ar număra printre primele plecări din Anthropic motivate de preocupări legate de siguranţa inteligenţei artificiale. Cazul său apare într-un context în care compania şi-a construit o reputaţie asociată cu atenţia acordată riscurilor generate de modelele avansate.

Anterior, un alt cercetător specializat în probleme de siguranţă a inteligenţei artificiale părăsise compania pentru a se dedica studiului poeziei. Mesajul pe care acesta îl transmitea atunci era unul direct: „Lumea este în pericol”.