Mark Zuckerberg intră în disputa privind dezvoltarea AI. Șeful Meta spune că industria se poate controla singură

Mark Zuckerberg respinge ideea că dezvoltarea inteligenței artificiale ar trebui încetinită pentru a reduce riscurile asociate sistemelor foarte avansate. Directorul general al Meta se apropie astfel de poziția susținută de șeful Nvidia, Jensen Huang, și se distanțează de abordarea mai prudentă promovată de directorul Anthropic, Dario Amodei.

Zuckerberg crede că piața obligă companiile să construiască sisteme AI sigure

Într-o postare publicată marți, Mark Zuckerberg a susținut că încetinirea generală a dezvoltării inteligenței artificiale nu este necesară, deoarece companiile au deja stimulente puternice pentru a se asigura că sistemele lor se comportă în conformitate cu așteptările utilizatorilor.

„Oamenii nu vor dori să folosească agenți care nu sunt aliniați cu ei și care nu fac ceea ce li se cere, astfel că laboratoarele au un stimulent natural puternic pentru a-și face modelele mai bine aliniate”, a scris Zuckerberg, potrivit Fortune.

Șeful Meta a dat drept exemplu chiar propria companie. Meta a amânat lansarea Muse, agentul AI prezentat la începutul acestei luni, din cauza unor probleme legate de siguranță și securitate.

Potrivit lui Zuckerberg, compania nu a cerut celorlalți dezvoltatori să facă același lucru, ci a luat singură decizia de a amâna produsul.

„Pur și simplu am făcut-o ca parte a activității noastre de zi cu zi, pentru că era în mod clar lucrul corect pentru oameni și pentru noi”, a explicat acesta.

Incidentele recente au reaprins discuțiile despre riscurile inteligenței artificiale

Poziția lui Zuckerberg vine într-un moment în care liderii marilor companii tehnologice sunt tot mai împărțiți în privința ritmului în care ar trebui să avanseze inteligența artificială.

Dezbaterea a devenit mai intensă după o serie de incidente de securitate. În această vară, două atacuri informatice executate de modele OpenAI care au ieșit din mediile lor de antrenament au ridicat întrebări privind măsurile de siguranță aplicate agenților AI.

Săptămâna trecută, fostul cercetător Anthropic Jacob Coxon a avertizat că firmele care dezvoltă inteligență artificială superinteligentă „se joacă cu viețile noastre”, ceea ce a amplificat apelurile pentru reglementarea domeniului.

Dario Amodei cere mai multă prudență, dar nu oprirea completă a AI

Diferențele dintre cele două tabere au fost vizibile și la evenimentul Dreamforce organizat de Salesforce, unde Dario Amodei și Jensen Huang au prezentat marți perspective diferite.

Amodei a comparat problemele de siguranță din industria AI cu cele întâlnite în industria auto. În opinia sa, atunci când o companie se confruntă cu un incident, rivalii ar trebui să își verifice propriile sisteme, nu să profite de situație pentru a ataca respectiva companie.

„Este foarte tentant să-ți ataci competitorul și să spui că acești oameni nu sunt siguri. Dar cred că modul mai responsabil de a reacționa este să ne uităm la propriul nostru istoric”, a declarat șeful Anthropic.

Amodei nu susține oprirea completă a antrenării modelelor sau a progresului tehnologic. El consideră însă că industria ar putea încetini, în condițiile în care nici măcar tehnologiile existente nu sunt folosite la întregul lor potențial.

Potrivit acestuia, companiile utilizează în prezent poate doar 5% sau 10% din valoarea pe care tehnologia existentă ar putea să o ofere.

Jensen Huang: Companiile ar trebui „să alerge cât de repede pot”

Jensen Huang a susținut poziția opusă. Directorul general al Nvidia consideră că siguranța trebuie să rămână o prioritate, dar că problemele pot fi gestionate chiar de companiile care dezvoltă tehnologia.

Dacă o firmă constată că un produs nu este sigur, ar trebui să oprească dezvoltarea sau lansarea acestuia până când problemele sunt rezolvate. În lipsa unor asemenea situații, companiile ar trebui „să alerge cât de repede pot”, a afirmat Huang.

Șeful Nvidia respinge și ideea că industria trebuie să aleagă între dezvoltarea rapidă și siguranță.

„Inovația, viteza și produsele sigure reprezintă o alegere falsă. Cu siguranță le poți avea pe amândouă în același timp”, a spus el.

Zuckerberg pare să împărtășească această abordare. El a precizat că Meta direcționează cea mai mare parte a puterii sale de calcul către sisteme destinate utilizatorilor, nu către o cursă pentru dezvoltarea unor tehnologii AI capabile să se îmbunătățească singure în mod repetat.

„Cred că cheia construirii unui viitor pozitiv pentru toată lumea este menținerea echilibrului corect de putere. Este în puterea noastră să facem acest lucru”, a afirmat șeful Meta.