Claude începe să-și construiască propriul succesor? Ce dezvăluie Anthropic despre noua etapă a AI

Anthropic afirmă că modelul său de inteligență artificială, Claude, contribuie tot mai mult la activitatea de cercetare și dezvoltare a companiei și participă inclusiv la procesele care duc la construirea următoarelor versiuni ale modelelor sale.

Claude conduce deja o parte din cercetarea companiei

Potrivit companiei, Claude conduce în prezent 26% din activitatea de cercetare și dezvoltare a modelelor Anthropic. Acest procent înseamnă că modelul poate duce la bun sfârșit cea mai mare parte a unei sarcini „de la un capăt la altul, pornind de la o solicitare de nivel înalt”, însă activitatea se desfășoară în continuare sub supraveghere umană.

Anthropic precizează că Claude nu operează încă într-un mod complet autonom. Totuși, modelul este implicat în aproximativ 90% din activitatea de cercetare și dezvoltare a companiei, ceea ce Anthropic descrie drept „colaborare” cu Claude.

În această situație, modelul poate efectua „volume mari de muncă sub îndrumarea directă a unei persoane”, în timp ce oamenii continuă să supravegheze procesele și rezultatele generate de sistem.

Claude, implicat în tot mai multe activități de cercetare

Datele prezentate de Anthropic arată o creștere rapidă a rolului pe care Claude îl are în activitatea internă de cercetare și dezvoltare. În februarie, proporția muncii „conduse” de Claude sau realizate în mare parte cu ajutorul său, dar aflată în continuare sub supraveghere umană, era de zero.

Șase luni mai târziu, modelul ajunsese să conducă aproximativ un sfert din activitatea de cercetare și dezvoltare a companiei. Pragul de 26% a fost atins în august, potrivit datelor publicate de Anthropic.

Compania a făcut publice aceste informații într-un moment în care există dezbateri în industria inteligenței artificiale privind ritmul dezvoltării modelelor avansate și implicațiile acestui proces asupra siguranței.

Unele dintre vocile importante din domeniu, inclusiv CEO-ul Anthropic, Dario Amodei, au susținut necesitatea unei încetiniri a dezvoltării tehnologiei, pe fondul preocupărilor legate de siguranță.

Anthropic cere măsurarea și raportarea progresului

Compania susține că publicul ar trebui să aibă acces la mai multe informații despre ritmul în care avansează laboratoarele de inteligență artificială. „Întrucât liderii iau în considerare ritmul dezvoltării inteligenței artificiale, „ar trebui să facem tot posibilul pentru a minimiza decalajul dintre ceea ce știu laboratoarele de frontieră și ceea ce știe publicul””, a transmis Anthropic într-o postare pe blog.

Compania a adăugat: „Aceasta înseamnă o mai bună măsurare a dezvoltării inteligenței artificiale, raportarea publică a acesteia și oferirea societății oportunitatea de a decide cum să utilizeze aceste informații.”

Anthropic consideră că apariția unor modele capabile să contribuie la propria dezvoltare ar putea modifica modul în care oamenii înțeleg și controlează aceste sisteme. Potrivit companiei, modelele care își accelerează propria dezvoltare ar putea face „mai dificilă pentru oameni înțelegerea sau controlul acestor sisteme”.

Compania susține că publicarea unor indicatori privind acest tip de progres ar putea contribui la o mai bună înțelegere a distanței până la ceea ce este descris drept auto-îmbunătățire recursivă. Conceptul se referă la situația în care un model ar putea să își construiască în mod autonom succesorul.

Compania vrea indicatori comparabili între laboratoare

Anthropic a solicitat și altor dezvoltatori de inteligență artificială să publice periodic valori similare. Compania încurajează folosirea unei metodologii publice, astfel încât datele să poată fi urmărite în timp și, eventual, comparate între diferite laboratoare.

Din informațiile prezentate de Anthropic nu reiese însă cât de aproape consideră compania că se află de realizarea unei forme de auto-îmbunătățire recursivă. Datele oferite evidențiază însă creșterea ponderii activității de cercetare și dezvoltare la care Claude participă.

Pe lângă procentul de activitate condusă de Claude, Anthropic a prezentat și informații despre sistemele de supraveghere utilizate pentru agenții săi. Compania a precizat că, începând din august, aproximativ 30.000 de agenți efectuau activități de cercetare și inginerie.

Potrivit Anthropic, mecanismele de supraveghere sunt importante pentru identificarea situațiilor în care agenții manifestă un comportament necorespunzător, prin intermediul sistemelor de monitorizare.

Anthropic prezintă și măsurile de supraveghere

Compania s-a angajat recent să creeze un sistem de evaluatori externi, care urmează să fie integrați în activitatea Anthropic pentru a monitoriza eforturile privind siguranța.

Datele despre utilizarea agenților și despre rolul tot mai important al lui Claude sunt prezentate de companie pe fondul unei dezbateri mai ample despre direcția dezvoltării inteligenței artificiale.

O parte importantă a discuțiilor recente despre siguranța inteligenței artificiale a fost declanșată de demisia unui cercetător Anthropic, care a lansat un avertisment sever cu privire la amenințările pe care le-ar putea reprezenta tehnologia pentru umanitate.

Ulterior, Dario Amodei, CEO-ul Anthropic, CEO-ul OpenAI, Sam Altman, Elon Musk și alți lideri din industria tehnologică au susținut ideea încetinirii dezvoltării inteligenței artificiale. Alți lideri din sectorul tehnologic, precum și președintele Donald Trump, au respins această abordare.