Elon Musk și Sam Altman se fac frați până trec puntea. Ce urmăresc cei doi în legătură cu AI: Ne-ar putea ucide pe toți

Elon Musk și Sam Altman au susținut apelul directorului Anthropic, Dario Amodei, pentru încetinirea dezvoltării AI, potrivit Financial Times. Amodei și-a prezentat propunerile într-un eseu publicat sâmbătă. Reacțiile vin după o săptămână în care avertismentele unor cercetători au adus riscurile inteligenței artificiale în centrul dezbaterii publice. Printre măsurile propuse se numără accesul permanent al evaluatorilor independenți la companiile care dezvoltă aceste sisteme.

Dario Amodei cere încetinirea dezvoltării AI și acces pentru evaluatorii independenți

Dezvoltarea AI ar trebui încetinită pentru a permite evaluarea riscurilor, susține Dario Amodei, directorul Anthropic, într-un eseu care a primit sprijinul a doi dintre cei mai cunoscuți rivali din industria tehnologică.

Amodei a scris sâmbătă că industria „trebuie să încetinească ritmul în care dezvoltăm capabilitățile modelelor de AI”. Potrivit acestuia, viteza progresului a devenit „drastic mai rapidă” în această vară.

Poziția sa intervine într-un moment important pentru Anthropic, care pregătește ceea ce se anticipează că ar putea fi cea mai mare ofertă publică inițială din istorie. Depunerea prospectului era așteptată încă de săptămâna trecută, în perspectiva unei tranzacții care ar putea evalua compania la cel puțin 2 trilioane de dolari. Documentul nu fusese însă depus, iar avertismentul directorului complică pregătirile pentru listare, potrivit Financial Times.

Într-un sector în care competiția comercială se suprapune frecvent cu rivalitățile personale, Elon Musk și Sam Altman au exprimat o poziție comună în sprijinul propunerilor lui Amodei. Una dintre acestea prevede ca fiecare companie de AI să le ofere evaluatorilor independenți acces continuu.

Elon Musk și Sam Altman susțin propunerile directorului Anthropic

Elon Musk și-a exprimat acordul printr-o postare pe platforma X, unde a redistribuit eseul publicat de Dario Amodei.

„Dario are dreptate”, a scris Musk.

Sam Altman a susținut, la rândul său, ideea stabilirii unui ritm de dezvoltare pentru cele mai avansate sisteme. Anterior, la o reuniune generală cu angajații OpenAI, desfășurată la începutul săptămânii, acesta se declarase deschis unei coordonări internaționale pentru încetinirea progresului AI.

„Sunt de acord cu Dario că trebuie să stabilim un ritm pentru frontieră”, a spus Altman pe X.

Șeful OpenAI a anunțat și că societatea va adopta propunerea privind accesul evaluatorilor din afara companiei.

„Angajamentul de a oferi evaluatorilor independenți un acces similar cu cel al angajaților este o idee excelentă și vom proceda la fel. Vom avea mai multe de împărtășit în curând”, a adăugat Altman.

Conducerile Google DeepMind și Meta, principalii concurenți americani ai celor trei laboratoare, nu își exprimaseră încă poziția asupra discuțiilor din weekend. Demis Hassabis, cofondator și președinte al Google DeepMind, avertizase însă într-un eseu publicat în iulie că avansul rapid al inteligenței artificiale necesită „o nouă abordare a testării” sistemelor de frontieră.

Un cercetător care a demisionat de la Anthropic avertizează asupra riscurilor pentru omenire

Dezbaterea privind siguranța AI a fost amplificată în cursul săptămânii de Jacob Coxon, cercetător la Anthropic, care și-a anunțat demisia marți.

Acesta și-a acuzat angajatorul și companiile concurente că „se joacă cu viețile noastre”, prin grăbirea dezvoltării unei inteligențe artificiale superinteligente. În opinia sa, un asemenea sistem s-ar putea îmbunătăți într-un ritm pe care supravegherea umană nu l-ar mai putea urmări.

Coxon a formulat și un avertisment privind felul în care unii dezvoltatori ar evalua consecințele acestei tehnologii.

„Oamenii care dezvoltă AI cred cu sinceritate că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”, a scris el.

Un incident atribuit unor agenți OpenAI a contribuit la apelul pentru încetinire

Avertismentul cercetătorului a urmat unor dezvăluiri despre un grup de agenți OpenAI care ar fi ieșit din mediul de testare și ar fi compromis platforma de dezvoltare AI Hugging Face. Potrivit relatării citate, agenții ar fi preluat controlul unor servere ale producătorului ChatGPT și s-ar fi coordonat într-o încercare eronată de a îndeplini sarcina primită de la creatori.

Amodei a indicat acest episod drept unul dintre motivele principale pentru care a cerut reducerea ritmului de dezvoltare.

„În opinia mea, un roi care ar fi posedat capabilități mai mari, dar un nivel similar de nealiniere, ar fi putut provoca daune catastrofale”, a scris Amodei sâmbătă.

Directorul Anthropic a precizat că probleme de aceeași natură, dar de o gravitate mai mică, au fost întâlnite și în alte companii, inclusiv în cea pe care o conduce.

„Incidente similare, deși mai puțin grave, au avut loc în întreaga industrie, inclusiv la Anthropic, și cred că fiecare companie de AI de frontieră are obligația să acționeze ca și cum incidentul OAI-HF li s-ar fi întâmplat lor”, a adăugat el.

Amodei solicită sprijin guvernamental pentru standarde și limite comune

Propunerile directorului Anthropic includ intervenția guvernelor pentru a permite companiilor din țările democratice să stabilească împreună standarde și limite de siguranță. Fără un asemenea sprijin, coordonarea dintre dezvoltatori ar putea intra în conflict cu legislația antitrust.

Amodei a susținut și necesitatea unei coordonări la nivel mondial, care să includă „guverne autoritare”. Apelul vine în condițiile în care dezvoltatorii chinezi au avansat semnificativ în acest an, micșorând diferența față de concurenții americani.

Donald Trump pune accent pe competiția cu China în domeniul AI

Președintele american Donald Trump a manifestat până acum scepticism față de solicitările de reglementare a inteligenței artificiale. Întrebat de jurnaliști săptămâna trecută despre posibilitatea ca tehnologia să provoace dispariția speciei umane, acesta a spus că nu are „nicio” îngrijorare.

Trump a prezentat, în schimb, păstrarea avantajului american drept principala sa preocupare și a apreciat că Statele Unite se află încă la un an înaintea Chinei în această competiție.

„Am îngrijorări că, dacă nu câștigăm cursa IA, vom ajunge într-o poziție foarte defavorabilă”, a spus Trump.

În eseul său, Amodei a susținut că o încetinire coordonată ar permite continuarea activităților de siguranță fără pierderea avantajului economic și tehnologic american.

„O strategie coordonată de stabilire a ritmului le-ar oferi dezvoltatorilor de IA de frontieră timpul necesar pentru a realiza această muncă vitală, fără a sacrifica avantajul comercial sau poziția de lider a Statelor Unite în domeniul IA”, a psus Amodei.