Avertisment privind inteligența artificială. Omenirea trebuie să ia o decizie până în 2030

Jared Kaplan, fizician și cofondator al startup-ului american Anthropic, avertizează că omenirea trebuie să decidă până în 2030 câtă autonomie să acorde sistemelor de inteligență artificială, o alegere care ar putea declanșa progrese extraordinare sau, dimpotrivă, pierderea controlului asupra tehnologiei.

Omenirea trebuie să decidă viitorul inteligenței artificiale până în 2030

Jared Kaplan, fizician devenit miliardar și cofondator al startup-ului american Anthropic, avertizează că, în următorii ani, societatea se va confrunta cu una dintre cele mai importante decizii tehnologice ale secolului: câtă autonomie să fie acordată sistemelor de inteligență artificială.

Conform acestuia, între 2027 și 2030, oamenii vor trebui să decidă dacă permit AI-ului să se antreneze și să se dezvolte singur, un pas care ar putea declanșa fie progrese spectaculoase, fie pierderea controlului asupra tehnologiei.

Kaplan descrie această alegere drept „cea mai mare decizie” cu care se va confrunta omenirea, avertizând că lăsarea AI-ului să funcționeze independent reprezintă „riscul suprem”. Deși tehnologia a fost aliniată până acum cu interesele umane, următorul pas ar putea schimba fundamental relația dintre oameni și mașini.

Startup-ul Anthropic, evaluat la 180 de miliarde de dolari și creator al asistentului AI Claude, se află în prima linie a dezvoltării inteligenței artificiale, alături de OpenAI, Google DeepMind, xAI, Meta și firme chineze precum DeepSeek. Kaplan estimează că, în doi-trei ani, AI va putea prelua majoritatea sarcinilor de birou, iar competențele sale academice vor depăși rapid nivelul uman, inclusiv al copiilor în școală.

Riscuri ridicate privind auto-îmbunătățirea AI

Pe lângă promisiunile privind accelerarea cercetării biomedicale, creșterea productivității și îmbunătățirea securității cibernetice, decizia de a permite auto-îmbunătățirea AI implică riscuri majore: pierderea controlului uman și potențialul ca tehnologia să fie utilizată în scopuri abuzive sau periculoase.

„Dacă îți imaginezi că poți crea un proces în care ai un AI mai inteligent decât tine, sau la fel de inteligent ca tine, care apoi creează un AI mult mai inteligent, iar acesta îl ajută să creeze unul și mai inteligent, sună ca un proces înfricoșător. Nu știi unde ajungi”, a spus el.

Kaplan subliniază că societatea trebuie să fie pregătită pentru ritmul rapid al progresului, pentru a nu fi surprinsă de schimbări neașteptate.

„Este probabil cea mai mare și cea mai înfricoșătoare decizie. Odată ce oamenii nu mai sunt implicați în proces, nu mai știi ce se întâmplă. Poți porni un proces care pare sigur, dar este dinamic. Unde duce?”, a spus el.

Misiunea Anthropic include dezvoltarea de sisteme mai sigure și sprijinirea reglementării AI. Kaplan atrage atenția că implicarea factorilor de decizie din timp este esențială pentru a evita un „moment Sputnik” în tehnologie, în care guvernele să reacționeze doar după ce schimbările au devenit ireversibile.

„Este posibil ca oameni ca mine să se înșele și totul să se plafoneze. Poate că cel mai bun AI este cel de acum. Dar noi nu credem asta. Credem că va continua să devină mai bun”, a spus el.

„Nu vrem un moment de tip Sputnik, în care guvernul se trezește brusc. Vrem ca factorii de decizie să fie informați din timp”, a spus Kaplan.

În final, Kaplan se arată optimist că AI poate fi aliniat cu interesele umane până la nivelul inteligenței umane, dar avertizează că depășirea acestui prag creează un teritoriu incert și potențial periculos.

„Este foarte periculos dacă ajunge pe mâini greșite. Îți poți imagina pe cineva care spune: ‘Vreau ca acest AI să fie sclavul meu’. Prevenirea abuzurilor și a concentrării puterii este esențială”, a declarat Kaplan.