Anthropic avertizează că inteligența artificială ar putea ajunge să se copieze singură. De ce ar fi dificil de oprit astfel de modele

Modelele de inteligență artificială ar putea ajunge în curând să se autoreplice fără acces la centre de date, avertizează compania Anthropic. Experimentele realizate de firmă sugerează că modelele AI de dimensiuni reduse ar putea deveni, în câteva luni, suficient de capabile pentru a se autoreplica pe dispozitive comerciale conectate la internet, precum cuptoarele inteligente și dispozitivele Android TV produse de mărci mai puțin cunoscute.

Anthropic avertizează că inteligența artificială ar putea ajunge să se copieze singură

Într-un set de experimente desfășurate și prezentate luni, Anthropic a analizat dacă modelele de inteligență artificială pot identifica dispozitive vulnerabile, își pot copia propriul cod pe acestea și pot continua să se răspândească fără intervenția oamenilor.

Modelele AI cu mai puțin de 30 de miliarde de parametri pot executa etapele necesare autoreplicării, au constatat cercetătorii. Totuși, compania a observat că aceste modele întâmpină dificultăți atunci când trebuie să ducă la bun sfârșit întregul proces, de la identificarea unui dispozitiv vulnerabil până la copierea și răspândirea autonomă, conform Reuters.

În cadrul unor teste simplificate, în care au fost eliminate anumite etape de securitate, Anthropic a constatat că modelele GLM-5.2 și versiunile mai puternice erau capabile să realizeze întregul proces de autoreplicare, de la început până la sfârșit.

De ce ar fi dificil de oprit modelele AI care se autoreplică

Anthropic avertizează că sistemele AI capabile să se autoreplice ar putea fi dificil de oprit, deoarece nu ar exista un punct central prin care să poată fi dezactivate. În plus, spre deosebire de programele malware tradiționale, aceste modele ar putea identifica și înțelege singure dispozitive cu care nu au mai interacționat, inclusiv procesoare utilizate în centrele de date.

În cercetarea sa, compania s-a concentrat asupra dispozitivelor conectate la internet, precum televizoarele Android, electrocasnicele inteligente și alte gadgeturi de acest tip. Aceste echipamente au fost alese deoarece, de regulă, beneficiază de măsuri de securitate insuficiente și pot reprezenta ținte vulnerabile pentru astfel de sisteme.

Modelele AI s-ar putea autoreplica autonom până la sfârșitul anului

Anthropic a avertizat că, dacă modelele AI de dimensiuni reduse continuă să se îmbunătățească în ritmul înregistrat până în prezent, acestea ar putea deveni capabile să se autoreplice autonom până la sfârșitul acestui an. La scurt timp după aceea, ar putea apărea și replicatori bazați pe ponderile modelelor, adică sisteme care folosesc parametrii învățați ai unui model pentru a-și asigura autoreplicarea.

Compania estimează, totuși, că astfel de sisteme AI autonome s-ar răspândi lent și s-ar baza pe resurse de calcul disponibile pe scară largă, dar relativ slab securizate.

În acest context, Anthropic subliniază necesitatea consolidării sistemelor informatice, astfel încât agenților de inteligență artificială să le fie mai dificil să se răspândească de la un dispozitiv la altul.

Avertismentul companiei vizează posibilitatea ca modelele AI să ajungă să se multiplice fără intervenție umană și fără să depindă de infrastructura centralizată a centrelor de date. Experimentele indică atât progresele înregistrate de modelele de dimensiuni reduse, cât și dificultățile pe care acestea încă le întâmpină atunci când trebuie să realizeze autonom întregul proces de autoreplicare.