OpenAI și Anthropic pregătesc un organism pentru controlul riscurilor AI. Proiectul, blocat de politica americană

OpenAI și Anthropic pregătesc un organism pentru supervizarea riscurilor inteligenței artificiale (Artificial Intelligence, AI), pe fondul incidentelor recente și al temerilor privind securitatea AI. Inițiativa, propusă în SUA de Demis Hassabis, urmărește evaluarea modelelor înainte de lansare, însă necesită o bază legală și se lovește de opoziția Administrației Trump.

OpenAI și Anthropic pregătesc un organism pentru controlul riscurilor AI. Proiectul, blocat de politica americană

OpenAI, Anthropic şi Google DeepMind lucrează la înfiinţarea unui organ de supervizare a riscurilor legate de inteligenţa artificială (Artificial Intelligence, AI), în urma unor apeluri pentru o controlare mai bună a derivelor AI. Proiectul este însă deja criticat şi ameninţat de un posibil blocaj politic.

Ideea a apărut în urma unei propuneri formulate de Demis Hassabis, directorul general al Google DeepMind, înainte de a deveni preşedinte în august. Acesta sugera crearea unei entităţi similare Autorităţii americane de Reglementare a Industriei Financiare (FINRA), organismul de autoreglementare al sectorului financiar.

Dezbaterea privind riscurile pe care le reprezintă AI s-a intensificat de la începutul verii, pe fondul unei serii de incidente şi al unor declaraţii apocaliptice făcute de mai mulţi profesionişti din domeniul inteligenţei artificiale.

Mai multe modele AI dezvoltate de OpenAI şi Anthropic au ieşit în mod spontan pe Internet din mediul lor închis şi au pătruns pe site-uri şi platforme. Însă instituirea de către industrie a propriului organism de supraveghere, chiar dacă ar fi o iniţiativă a sectorului, ar necesita adoptarea unei legi. Măsura ar avea rolul de a evita acuzaţiile potrivit cărora industria AI ar forma un cartel şi ar încălca regulile privind concurenţa.

Înfiinţarea FINRA a fost autorizată prin lege federală şi organismul se află sub supervizarea autorităţii americane de reglementare a pieţelor, SEC, care se află în subordinea directă a Guvernului.

„FINRA îşi poate concepe propriile reguli, însă SEC trebuie să le aprobe”, subliniază un profesor de drept, Andrew Tuch, de la Universitatea Washington de la St-Louis. Toată legislaţia care guvernază FINRA „a fost fie adoptată de Congres, fie a fost produsă sub supervizarea SEC”.

În acest context, apelul la o încetinire a dezvoltării AI lansat sâmbătă de CEO-ul Anthropic, Dario Amodei, a fost urmat de reiterarea poziţiei lui Donald Trump şi a mai multor membri ai majorităţii prezidenţiale, care au transmis că nu doresc să încorseteze sectorul. Poziţia este justificată oficial prin temerea că China ar putea obţine un avantaj.

Aceştia au respins alertele lansate de mai mulţi reprezentanţi şi dezvoltatori, printre care Jacob Coxon, care a avertizat în urmă cu o săptămână cu privire la riscurile pe care le reprezintă AI la adresa omenirii. Preşedintele american a catalogat aceste avertismente drept „farse”.

Marile companii AI cer reguli pentru inteligența artificială. Cum ar putea fi supravegheate noile modele înainte de lansare?

Marii actori din domeniul inteligenței artificiale cer, de mai multe luni, Guvernului de la Washington să reglementeze sectorul și să supervizeze securitatea AI.

Administrația Trump a înființat, la începutul lunii august, un proces de evaluare a noilor modele AI. Acesta se bazează însă pe voluntariat, iar mecanismul prin care urmează să fie realizată evaluarea nu a fost comunicat.

Într-un mesaj postat online la mijlocul lunii iulie, Demis Hassabis imagina o structură finanțată de întreprinderile din sector, al cărei Consiliu să cuprindă experți independenți și reprezentanți ai ecosistemului deschis.

Acesta din urmă este alcătuit din dezvoltatori AI care folosesc modele deschise, adică accesibile în mod gratuit, care pot fi descărcate de pe Internet și modificate, spre deosebire de modelele închise precum cele ale OpenAI sau Anthropic.

După înființarea organizației, cele mai avansate societăți AI ar urma să își supună noile modele unui examen axat în special pe securitate, înainte de a le putea comercializa.

„Eu nu cred că un grup mic de societăţi AI ar trebui să definească regulile pentru toată lumea. Sunt enorm de multe părţi care trebuie să fie consultate”, a comentat la postul CNBC CEO-ul grupului canadian Cohere Aidan Gomez, care-şi pune la punct propria AI.

Noua instanță ar putea, de asemenea, să ia inițiativa unei încetiniri coordonate a dezvoltării AI, potrivit lui Demis Hassabis, în cazul în care înțelegerea riscurilor nu ține pasul cu progresele inteligenței artificiale.

„Atunci când viitorul omenirii este în joc, avem nevoie de reguli intrnaţionale cu caracter constrângător şi nu de standarde ale industriei pe bază de voluntariat”, a reacționat senatorul democrat Bernie Sanders la un eveniment Pro-Human AI, la Washington.

Demis Hassabis a sugerat că noul organ de autosupervizare constituie ”un punct de plecare către înfiinţarea unor standarde internaţionale ale AI de vârf”.

Mai mulți observatori, mai ales americani, au acuzat marile nume din domeniul AI de ”captuarea reglementării”, susținând că acestea vor să își definească propria reglementare și să ajungă la un acord pentru a-și proteja avantajul competitiv în detrimentul concurenților și consumatorilor.

Un consilier influent al lui Donald Trump, David Sacks, a invocat riscul formării unui cartel AI și a îndemnat fiecare întreprindere să acționeze în mod unilateral, chiar dacă își încetinește singură dezvoltarea. Un asemenea scenariu este considerat improbabil, ținând cont de investițiile angajate în întreprinderile de top din sector.