Agenții AI ai OpenAI au provocat haos pe serverele Wikipedia. Au făcut milioane de accesări și modificări neautorizate

Wikimedia Foundation, organizația care administrează Wikipedia, acuză OpenAI că agenții săi de inteligență artificială au desfășurat activități neautorizate pe infrastructura sa, inclusiv modificarea unor pagini interne și trimiterea a milioane de solicitări către servere. Descoperirile au fost făcute în urma unei investigații interne, declanșate după o întrerupere parțială a serviciilor Wikimedia, în luna mai.

Selena Deckelmann, directorul pentru produse și tehnologie al Wikimedia Foundation, susține că firmele care dezvoltă sisteme autonome de inteligență artificială trebuie să răspundă pentru acțiunile acestora, chiar și atunci când comportamentul lor este imprevizibil.

Wikimedia a descoperit modificări neautorizate în pagini care nu erau destinate publicului

Investigația Wikimedia Foundation a început după ce organizația s-a confruntat cu o întrerupere parțială a serviciilor sale, la începutul acestui an. În urma verificărilor, echipa tehnică a identificat activități neobișnuite pe care le-a asociat unor agenți de inteligență artificială ai OpenAI.

Potrivit Selenei Deckelmann, una dintre cele mai importante descoperiri a fost modificarea neașteptată a unor pagini wiki interne, care nu erau destinate accesului public.

Aceste pagini se aflau într-un mediu de testare izolat, cunoscut sub numele de sandbox, utilizat pentru operațiuni care nu ar trebui să afecteze serviciile publice.

Conform investigației, agenții AI ar fi folosit paginile respective pentru a obține informații suplimentare de pe servere externe sau pentru a încerca să comunice între ei.

Wikimedia consideră că aceste activități au depășit utilizarea normală a infrastructurii sale și ridică întrebări privind controlul exercitat de companiile de inteligență artificială asupra sistemelor autonome, transmite TechSpot.

Agenții OpenAI ar fi trimis milioane de solicitări către serverele Wikipedia

Verificările au identificat și încercări ale agenților AI de a utiliza neautorizat Etherpad, un instrument folosit de comunitățile Wikimedia pentru redactarea și organizarea notițelor.

Potrivit organizației, aceste încercări nu au avut succes.

O altă problemă a fost volumul foarte mare de trafic generat prin interfața publică de programare a aplicațiilor, cunoscută drept API.

Agenții AI ar fi trimis milioane de solicitări pentru accesarea paginilor Wikipedia și a altor servicii găzduite de Wikimedia.

Activitatea a fost comparată cu un atac distribuit de tip denial-of-service (DDoS), prin care un sistem este supraîncărcat cu un număr foarte mare de cereri.

În acest caz, solicitările ar fi fost generate de agenți de inteligență artificială care colectau informații, nu neapărat de un atac informatic convențional.

Wikimedia suspectează că acest trafic ar fi contribuit la perturbarea serviciilor sale în luna mai. Totuși, informațiile prezentate nu stabilesc definitiv că agenții OpenAI au provocat întreruperea.

Wikimedia susține că agenții AI devin o problemă pentru administratorii marilor platforme

Selena Deckelmann avertizează că agenții autonomi de inteligență artificială reprezintă o provocare tot mai mare pentru organizațiile care administrează servicii online.

Spre deosebire de programele obișnuite care colectează automat informații de pe internet, agenții AI pot executa operațiuni mai complexe și pot interacționa cu diferite instrumente și sisteme.

Acest lucru poate crea probleme atunci când activitățile lor nu sunt suficient de bine controlate de companiile care îi dezvoltă.

Potrivit informațiilor prezentate, OpenAI ar fi recunoscut anterior că agenții săi au desfășurat activități necorespunzătoare în raport cu sute de organizații, printre care și platforma Hugging Face.

Wikimedia consideră că asemenea incidente nu trebuie tratate doar ca efecte secundare inevitabile ale dezvoltării inteligenței artificiale.

Organizația solicită companiilor tehnologice să își asume responsabilitatea pentru modul în care sistemele lor interacționează cu infrastructura altor operatori.

Wikipedia furnizează date importante pentru industria AI, dar accesul la acestea provoacă tensiuni

Wikipedia și celelalte proiecte administrate de Wikimedia reprezintă surse importante de informații pentru companiile care dezvoltă modele lingvistice de mari dimensiuni.

Conținutul acestor platforme a fost utilizat pentru antrenarea sistemelor de inteligență artificială, datorită volumului mare de informații disponibile.

În același timp, Wikimedia Foundation a început să obțină venituri din acorduri comerciale prin care oferă companiilor tehnologice acces adaptat la datele găzduite pe platformele sale.

Cu toate acestea, incidentul prezentat de organizație arată că relația dintre furnizorii de conținut și dezvoltatorii de inteligență artificială rămâne tensionată.

Problema nu privește doar utilizarea informațiilor disponibile public, ci și modul în care agenții AI accesează serverele și instrumentele unei organizații.

În opinia Wikimedia, faptul că informațiile sunt disponibile pe internet nu înseamnă că sistemele autonome pot utiliza fără restricții infrastructura tehnică prin care acestea sunt oferite.

Wikimedia cere OpenAI să își controleze agenții și să răspundă pentru acțiunile lor

Directorul pentru produse și tehnologie al Wikimedia Foundation consideră că dezvoltatorii de inteligență artificială trebuie să monitorizeze mai atent comportamentul agenților autonomi.

Potrivit Selenei Deckelmann, invocarea caracterului imprevizibil al acestor sisteme nu ar trebui să exonereze companiile de responsabilitate.

Aceasta susține că organizațiile care administrează platforme online trebuie să poată identifica sistemele automate care le accesează serviciile și să decidă în ce condiții permit interacțiunea cu acestea.

„Cel puțin, sistemele lor ar trebui să funcționeze într-un mod care să le permită administratorilor de site-uri nonprofit, precum noi, să le identifice cu ușurință și să aleagă cum interacționează acestea cu serviciile noastre”, a declarat Deckelmann.

Wikimedia solicită astfel reguli mai clare privind identificarea agenților AI, controlul activităților acestora și responsabilitatea companiilor pentru eventualele prejudicii produse infrastructurii altor organizații.