Giganții AI vor să-și creeze propriul organism de supraveghere. Noile modele ar urma să fie evaluate înainte de lansare

OpenAI, Anthropic și Google DeepMind lucrează la crearea unui organism care să supravegheze riscurile asociate inteligenței artificiale. Inițiativa apare într-o perioadă în care marile companii din domeniu cer reguli mai clare în SUA, dar autoritățile americane nu vor ca reglementarea să încetinească dezvoltarea tehnologiei.

Cei trei mari dezvoltatori de AI discută despre un mecanism comun

OpenAI a confirmat marți că lucrează împreună cu Anthropic și Google DeepMind la o inițiativă privind siguranța inteligenței artificiale.

Chris Lehane, directorul de politici globale al OpenAI, a vorbit la rândul său despre colaborarea dintre cele trei companii.

Ideea inițială îi aparține lui Demis Hassabis, care a propus înființarea unei entități inspirate de Autoritatea de Reglementare a Industriei Financiare din SUA (FINRA).

FINRA funcționează în baza legislației federale și este supravegheată de autoritatea americană de reglementare a pieței, Securities and Exchange Commission (SEC).

Noile modele ar putea trece printr-o evaluare înainte să ajungă pe piață

În propunerea prezentată de Hassabis la jumătatea lunii iulie, noua structură ar urma să fie finanțată chiar de companiile din sector.

Conducerea acesteia ar include însă experți independenți și reprezentanți ai ecosistemului open-source.

Odată ce mecanismul ar deveni funcțional, principalele companii de inteligență artificială ar trebui să își supună noile modele unei evaluări înainte de lansarea pe piață. Testele ar pune un accent special pe riscurile de siguranță.

Organismul ar putea avea și un rol mult mai important dacă dezvoltarea tehnologiei avansează mai repede decât capacitatea specialiștilor de a înțelege riscurile. Hassabis consideră că structura ar putea coordona inclusiv o încetinire a dezvoltării AI într-un asemenea scenariu.

Industria cere reglementare, dar administrația Trump nu vrea să încetinească sectorul

Principalii actori din industria inteligenței artificiale cer de câteva luni guvernului american să introducă reguli și mecanisme pentru supravegherea siguranței noilor tehnologii.

Administrația Trump a introdus la începutul lunii august un proces pentru evaluarea noilor modele AI. Participarea companiilor este însă voluntară, iar mecanismul concret de funcționare nu a fost făcut public.

Discuțiile s-au intensificat după ce directorul general al Anthropic, Dario Amodei, a cerut sâmbătă încetinirea dezvoltării inteligenței artificiale.

Donald Trump și mai mulți membri ai partidului de guvernământ au reiterat însă că nu doresc măsuri care să frâneze industria. Argumentul invocat este că o asemenea abordare ar putea oferi Chinei un avantaj în competiția pentru dezvoltarea inteligenței artificiale.

Noul organism ar putea avea nevoie de o lege pentru a funcționa

Crearea unei structuri comune de supraveghere de către principalii competitori din industrie ar putea necesita intervenția legislativă a autorităților americane.

Una dintre probleme este riscul ca o colaborare între marile companii AI să genereze acuzații privind înțelegeri între concurenți sau încălcarea legislației antitrust.

Modelul propus de Hassabis încearcă să creeze un mecanism în care industria să participe la finanțare și evaluare, dar supravegherea să nu rămână exclusiv în mâinile companiilor.

Deocamdată, OpenAI, Anthropic și Google DeepMind se află în etapa de lucru asupra inițiativei, iar forma finală a organismului și regulile după care acesta ar urma să funcționeze nu au fost stabilite.