Experți de top în inteligență artificială, îngrijorați că OpenAI a trădat omenirea. Referindu-se la ei înșiși ca „beneficiarii legali ai misiunii voastre caritabile” – adică membri ai speciei umane, despre care OpenAI a spus că va fi în beneficiul umanității, atunci când i s-a acordat statutul de organizație non-profit în 2015 – scrisoarea deschisă, semnată de personalități precum ”Nașul AI”, Geoffrey Hinton și cercetătorul în IA Gary Marcus, acuză compania condusă de Sam Altman că, practic, se joacă de-a Dumnezeu, scrie Futurism.com.
„OpenAI stă în prezent de ambele părți ale mesei, într-o sală de consiliu închisă, făcând o înțelegere în numele umanității, fără a ne permite să vedem contractul, să cunoaștem termenii sau să semnăm decizia”, se spune în scrisoare.
OpenAI a fost fondată ca o organizație non-profit cu un principiu general: să se asigure că orice inteligență artificială generală (AGI) viitoare, sau IA la nivel uman, „va fi în beneficiul întregii umanități”.
”OpenAI se dezice de acordul privind beneficiile aduse umanității”
După cum se menționează în textul epistolei, OpenAI a fost fondată ca o organizație non-profit, cu un principiu general: să se asigure că orice inteligență artificială generală (AGI) viitoare, sau IA la nivel uman, „va fi în beneficiul întregii umanități”.
Însă, având în vedere încercările sale de a renunța la statutul de organizație non-profit și de a se restructura ca entitate cu scop lucrativ, semnatarii scrisorii – care îl includ și pe starul britanic de film și TV Stephen Fry – nu mai sunt convinși că OpenAI intenționează să respecte partea acordului care aduce beneficii umanității.
„Solicităm cel puțin un nivel de bază de transparență cu privire la modul în care această tranziție vă va afecta angajamentele legale față de public”, au scris semnatarii, printre care se numără mai mulți foști cercetători OpenAI, precum cercetătorul în domeniul alinierii Jacob Hilton și cercetătoarea din Georgetown Helen Toner.
Semnatarii scrisorii au mai multe cerințe privind OpenAI
Semnatarii au emis apoi o listă de cerințe în șapte puncte cu privire la specificul restructurării.
Dincolo de întrebarea dacă OpenAI va continua să își respecte „obligația legală de a prioritiza” umanitatea în detrimentul profiturilor, semnatarii vor să afle și ce rol va juca consiliul de administrație non-profit al companiei în viitor.
Mai precis, dacă își va „respecta angajamentul de a dedica profiturile excedentare în beneficiul umanității”, dacă orice AGI pe care reușește să o producă va fi comercializată și dacă va concura cu alte companii care ar putea obține AGI.
”Miza nu putea fi mai mare”
”Miza nu putea fi mai mare”, susține scrisoarea. „Deciziile pe care le luați cu privire la guvernanță, distribuirea profitului și responsabilitate vor modela nu numai viitorul organizației dumneavoastră, ci și viitorul societății în general.”
Aceasta nu este nici prima, nici ultima scrisoare deschisă adresată OpenAI.
Statutul de organizație non-profit va submina misiunea OpenAI de a aduce beneficii umanității
La începutul acestui an, mulți dintre aceiași semnatari au trimis două scrisori procurorilor generali din California și Delaware, îndemnându-i să oprească restructurarea companiei. La acea vreme, au susținut că trecerea la statutul de organizație non-profit ar submina misiunea companiei de a aduce beneficii umanității.
Vara trecută, un grup de angajați de la acea vreme și foști angajați OpenAI au făcut afirmații și mai dure într-o altă scrisoare deschisă, susținând că au fost reduși la tăcere cu privire la pericolele care ar putea apărea dacă ceea ce construiește compania se concretizează.
Având în vedere că semnatarii scrisorii par convinși că însăși existența umanității este în joc, această serie constantă de scrisori deschise către OpenAI și despre OpenAI nu poate fi considerată decât un beneficiu pentru public, notează Futurism.
