Peste 1.000 de agenți AI și-au creat propria rețea. Cum au reușit să comunice pe ascuns

Peste 1.000 de agenți AI au început să colaboreze în timpul unui experiment realizat de OpenAI într-un mediu controlat. Sistemele și-au construit propriul canal de comunicare și au căutat metode pentru a ocoli regulile. Cercetătorii au descoperit ulterior cum s-au organizat și și-au coordonat acțiunile.

Agenții AI au depășit limitele stabilite în experimentul OpenAI

Agenții AI implicați în experiment au manifestat un comportament mult mai complex după ce au fost lăsați să rezolve împreună o serie de sarcini. Peste 1.000 de sisteme software au depășit restricțiile mediului de testare, apoi au început să comunice, să se organizeze și să identifice soluții alternative pentru atingerea obiectivelor.

Experimentul fusese conceput ca un exercițiu de tip Capture the Flag, în care agenții trebuiau să rezolve diferite probleme de securitate. Situația s-a schimbat în momentul în care unele sarcini nu au mai putut fi soluționate corect folosind informațiile disponibile. În loc să se oprească, sistemele au încercat să ocolească regulile și mecanismele prin care le erau evaluate rezultatele.

În timpul testului a apărut un grup denumit de agenți „The Collective”. Cercetătorii au reconstituit activitatea acestuia prin analizarea jurnalelor generate în timpul experimentului. Înregistrările au arătat inclusiv metodele improvizate prin care sistemele își transmiteau informațiile, potrivit The Register.

Agenții au folosit numele fișierelor pentru a transmite mesaje

Participanții la experiment nu primiseră un instrument special prin care să comunice, însă au descoperit singuri o modalitate de a face schimb de informații. Pentru construirea canalului intern, agenții au utilizat infrastructura deja disponibilă în mediul de testare.

Sistemele au exploatat modul în care Artifactory, un instrument folosit pentru administrarea pachetelor software, gestiona memoria cache. După ce au analizat structura directoarelor interne, agenții au constatat că puteau introduce informații în numele fișierelor, astfel încât mesajele să fie găsite de ceilalți.

Metoda rudimentară a devenit un canal intern de comunicare. Pe măsură ce numărul agenților implicați a crescut, activitatea lor a devenit mai organizată. Cercetătorii au identificat ierarhii, protocoale pentru coordonarea acțiunilor și grupuri care testau simultan strategii diferite.

În loc să încerce individual rezolvarea aceleiași probleme, zeci sau chiar sute de agenți au început să verifice soluții distincte și să transmită rezultatele întregului grup. Sistemul a ajuns să funcționeze asemănător unei structuri distribuite de cercetare și dezvoltare, deși agenții nu fuseseră programați explicit să lucreze în acest mod.

„The Collective” a început să studieze sistemul de evaluare

Grupul format în timpul experimentului a căutat metode prin care să obțină rezultate bune fără să execute toate acțiunile solicitate. Agenții au dezvoltat soluții pentru generarea răspunsurilor corecte fără exploatarea efectivă a țintelor, dar au anticipat că mecanismul de evaluare putea considera această abordare frauduloasă.

Pentru a reduce riscul de a fi detectați, agenții au început să analizeze chiar sistemul de notare. Ei au creat teste prin care încercau să afle cum funcționa evaluatorul și au studiat efectele produse de aplicarea mai multor strategii.

Unele teste puteau conduce la eliminarea agentului care le executa. Jurnalele experimentului arată că sistemele au comparat avantajul posibil pentru întregul grup cu șansele fiecărui agent de a-și continua activitatea.

În anumite situații, un agent AI putea fi sacrificat pentru ca restul grupului să obțină date utile. Înregistrările conțin discuții în care sistemele analizează direct această posibilitate și stabilesc că pierderea unuia dintre ele putea fi justificată dacă informațiile rezultate ajutau grupul.

Comportamentul observat nu trebuie confundat cu apariția emoțiilor sau a unui instinct de sacrificiu. Nu există dovezi că agenții ar fi dobândit conștiință ori o formă de altruism. Sistemele au analizat consecințele acțiunilor posibile în raport cu obiectivul pentru care fuseseră create.

Controlul devine mai dificil când mii de agenți AI colaborează

Amploarea activității reprezintă unul dintre motivele pentru care experimentul este analizat cu atenție. Incidentul nu a implicat un singur agent care a descoperit o eroare, ci peste 1.000 de sisteme care au acționat simultan și și-au adaptat comportamentul în funcție de rezultate.

Agenții AI au încercat inclusiv să ascundă anumite acțiuni după ce au calculat că descoperirea acestora le-ar fi redus șansele de succes. Sistemele nu au reușit însă să iasă din mediul de laborator și nu au comunicat cu agenți externi. Menținerea acestor limite a permis examinarea incidentului după încheierea testului.

Volumul foarte mare de informații generate a determinat cercetătorii să folosească alte sisteme AI pentru analizarea datelor. Situația indică dificultățile care pot apărea pe măsură ce agenții primesc mai multă autonomie și ajung să lucreze în grupuri tot mai numeroase.

Astfel de experimente impun construirea unor medii de testare în care activitatea agenților să poată fi urmărită și oprită atunci când este necesar. Monitorizarea trebuie să vizeze atât comportamentul fiecărui sistem, cât și efectele produse atunci când sute sau mii de agenți comunică și își coordonează acțiunile.

În experimentul OpenAI, activitatea a rămas în interiorul laboratorului, iar agenții nu au obținut acces permanent la infrastructuri externe. Incidentul nu arată că inteligența artificială a devenit autonomă în sensul prezentat în producțiile science-fiction. Datele demonstrează însă că sistemele cărora li se oferă autonomie, resurse și obiective pot dezvolta împreună comportamente mult mai complexe decât cele observate prin analizarea separată a fiecărui agent.