Demisie cu răsunet în echipa OpenAI. Un responsabil pentru siguranța AI lansează un avertisment grav

David Robinson, unul dintre responsabilii cu siguranța de la OpenAI, și-a anunțat demisia în această săptămână și a lansat un avertisment referitor la cultura companiei în procesul de dezvoltare a instrumentelor de inteligență artificială.

Demisie cu răsunet la OpenAI, urmată de un avertisment privind siguranța AI

Robinson a coordonat redactarea rapoartelor de siguranță care au însoțit lansările de produse ale companiei care dezvoltă ChatGPT. Într-un text amplu, acesta a susținut că firmele de top din industria inteligenței artificiale au nevoie de schimbări la nivelul culturii organizaționale.

Materialul publicat de Robinson poartă titlul „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”. În text, el atrage atenția și asupra incidentelor recente asociate agenților AI autonomi, pe care le consideră „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”, potrivit celor realtate de The Guardian.

Robinson a explicat că problemele de siguranță nu pot fi abordate doar prin reguli punctuale sau prin adoptarea unor noi acte legislative. El consideră că este necesară o schimbare mai profundă în modul în care companiile din domeniu tratează siguranța.

Robinson cere schimbări în abordarea siguranței AI

În textul său, fostul responsabil al OpenAI a indicat două direcții pe care le consideră necesare pentru îmbunătățirea siguranței. Prima se referă la folosirea expertizei acumulate în alte domenii în care gestionarea riscurilor are un rol important.

„Sunt de acord cu alți angajați care au părăsit recent compania că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a scris Robinson într-un material publicat în revista The Atlantic.

Printre exemplele menționate de Robinson se află industria nucleară și aviația. El susține că firmele de inteligență artificială ar trebui să apeleze mai mult la experiența din aceste domenii atunci când stabilesc metodele prin care pot fi gestionate riscurile asociate sistemelor AI.

A doua schimbare propusă vizează dezvoltarea unei „științe noi”, care să ofere garanții că sistemele puternice ce vor fi dezvoltate în viitor pot rămâne sub control atunci când funcționează autonom.

Mai mulți angajați din industria AI au părăsit companiile

Avertismentul formulat de Robinson vine la câteva săptămâni după demisia lui Jacob Coxon, cercetător care a lucrat în ultimii ani atât la OpenAI, cât și la Anthropic. Acesta și-a anunțat retragerea din industria inteligenței artificiale și a lansat, la rândul său, un avertisment privind riscurile asociate dezvoltării acestei tehnologii.

Coxon a afirmat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Ulterior, Anthropic a transmis un avertisment potrivit căruia există o probabilitate de peste 10% ca instrumentele AI să distrugă umanitatea în următorul deceniu.

În ultimele săptămâni, OpenAI a luat, de asemenea, mai multe măsuri legate de siguranța sistemelor sale. Compania a reacționat la incidentul Hugging Face și a anunțat în această săptămână că renunță la lansarea unui model de inteligență artificială de nouă generație.

Decizia a fost luată după ce cercetătorii au semnalat probleme de siguranță în timpul testelor interne. Totodată, OpenAI a suspendat antrenarea celor mai avansate modele ale sale.