Val de demisii la Google. Ce se întâmplă în culisele contractelor militare cu inteligență artificială

Mai mulți angajați ai Google DeepMind au demisionat sau se pregătesc să părăsească divizia de inteligență artificială a companiei, invocând preocupări legate de utilizarea tehnologiilor dezvoltate de Google în operațiuni militare. Nemulțumirile vizează în special contractele încheiate cu armata americană și colaborările cu instituții militare, în contextul extinderii utilizării inteligenței artificiale în activități clasificate.

Google pierde angajați după un acord controversat. Ce i-a făcut să plece

BBC a discutat cu mai mulți angajați din sectorul tehnologic care au plecat recent din companie sau intenționează să facă acest pas. Printre aceștia se numără Sofia Liguori, ingineră de cercetare stabilită la Londra, care și-a prezentat motivele demisiei într-un interviu acordat publicației britanice, deși contractul său de muncă îi restricționa posibilitatea de a vorbi public despre companie.

„Faptul că realizez că firma mea promovează din ce în ce mai mult sistemele de inteligență artificială în operațiunile militare mă face să mă simt rușinat să lucrez la Google”, a declarat Liguori, precizând că vorbește în nume personal.

Un purtător de cuvânt al Google a transmis pentru BBC că societatea colaborează cu organizații publice din mai multe țări și aplică proceduri consecvente pentru evaluarea și încheierea contractelor. Reprezentantul companiei a subliniat că aceste acorduri trebuie să respecte politicile de utilizare acceptabilă și principiile Google privind inteligența artificială.

„De asemenea, avem canale dedicate prin care angajații pot semnala în siguranță orice nelămuriri – de la etica în afaceri la abateri de conduită – și avem politici stricte la locul de muncă pentru a preveni orice fel de represalii.”

Contractele militare și principiile etice ale Google

Google se numără printre companiile tehnologice care au semnat, la începutul acestui an, contracte cu armata americană pentru implementarea inteligenței artificiale în medii militare clasificate. Secretarul american al Apărării, Pete Hegseth, a stabilit integrarea acestei tehnologii în forțele armate drept una dintre prioritățile administrației, afirmând că echipa Trump va transforma armata într-o „forță de luptă bazată pe inteligența artificială pe primul loc”.

Extinderea utilizării inteligenței artificiale în domeniul militar ridică însă întrebări legate de fiabilitatea sistemelor, de necesitatea unor teste suplimentare și de nivelul de supraveghere umană. Criticii avertizează că ritmul rapid de dezvoltare a tehnologiei nu garantează că aceasta poate fi utilizată în operațiuni de război fără verificări riguroase și mecanisme eficiente de control.

Ce spune un angajat despre situația de la Google

După trei ani petrecuți la Google, Sofia Liguori a decis să demisioneze din cauza colaborării tot mai strânse a companiei cu armatele Statelor Unite și Israelului. Ea a explicat că această direcție nu corespunde convingerilor sale și i-a afectat încrederea în angajamentele etice ale angajatorului.

„Nu sunt de acord cu această direcție și acest lucru m-a făcut să-mi pierd încrederea în faptul că firma mea este fidelă valorilor etice declarate”, a spus fosta angajată.

Principiile Google privind inteligența artificială prevăd utilizarea tehnologiei cu „supraveghere umană” și respectarea „dreptului internațional și drepturilor omului”. Cu toate acestea, foști și actuali angajați ai companiei, precum și experți intervievați de BBC, și-au exprimat îngrijorarea cu privire la eficiența controlului uman în situațiile militare în care deciziile trebuie luate rapid.

Nemulțumirile angajaților sunt legate și de amploarea acordurilor militare semnate în acest an, despre care aceștia consideră că extind semnificativ posibilitățile Pentagonului de a utiliza inteligența artificială.

Îngrijorări privind supravegherea și controlul tehnologiei

Andreas Kirsch, cercetător în domeniul inteligenței artificiale, a demisionat de la Google DeepMind la începutul acestei luni din motive similare. El consideră că mecanismele de supraveghere ale companiei nu oferă suficiente garanții pentru utilizarea responsabilă a tehnologiei în operațiuni militare clasificate.

„Guvernanța și supravegherea Google nu sunt suficiente sau suficient de semnificative pentru a implementa inteligența artificială în siguranță și responsabil în contexte militare și clasificate” sau „pentru a dezvolta superinteligență artificială în siguranță în viitor”, a declarat Kirsch pentru BBC. Cercetătorul a pus sub semnul întrebării și capacitatea Google de a controla modul în care armata americană utilizează sistemele sale.

„Google pare să nu aibă dreptul de a controla sau de a veta modul în care Pentagonul își folosește inteligența artificială și, de asemenea, pare să aibă o vizibilitate limitată asupra modului în care aceasta este implementată”, a adăugat el.

În ultimii ani, armata americană a introdus mai multe tehnologii bazate pe inteligență artificială pentru a-și dezvolta capacitățile operaționale. Unul dintre cele mai importante exemple este Maven Smart Systems, platforma software utilizată de Pentagon pentru organizarea și analizarea informațiilor.

Pentagonul susține, în schimb, că adoptarea inteligenței artificiale este importantă

Sistemul a fost dezvoltat de compania americană de apărare Palantir și utilizează inteligența artificială pentru a sprijini personalul militar în identificarea și selectarea țintelor. Prin integrarea unor tehnologii provenite de la mai multe companii importante din domeniul inteligenței artificiale, platforma a permis accelerarea unor procese de analiză și selecție.

Generalul-locotenent în rezervă Jack Shanahan, fost director al Proiectului Maven, a descris abordarea prin care tehnologia este introdusă în operațiunile militare ca fiind orientată spre viteză și extindere rapidă.

El a declarat că „filosofia” pare a fi: „Mergeți cât mai repede posibil pentru a implementa [tehnologia IA] cât mai pe scară largă, eventual în detrimentul rigorii și disciplinei testării și evaluării”.

Pentagonul susține, în schimb, că adoptarea inteligenței artificiale este importantă pentru succesul operațiunilor militare. Emil Michael, subsecretar în cadrul Departamentului Apărării al SUA, a afirmat, într-o declarație emisă la începutul acestui an, că „Viteza definește victoria în era inteligenței artificiale”.

Ce prevede acordul Google cu armata americană

Contractul încheiat de Google cu Pentagonul la începutul acestui an permite folosirea tehnologiei companiei pentru activități militare clasificate. Acordul prevede că modelele de inteligență artificială pot fi utilizate pentru „orice scop guvernamental legal”.

Documentul precizează, de asemenea, că aceste modele „nu ar trebui utilizate pentru supravegherea în masă la nivel intern sau pentru arme autonome (inclusiv selecția țintelor) fără o supraveghere și un control uman adecvat”.

Acorduri similare au fost semnate de OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia și compania emergentă Reflection. Contractele permit integrarea tehnologiilor de inteligență artificială în diferite activități militare, de la transport și planificare până la operațiuni desfășurate pe câmpul de luptă.

Pe măsură ce sistemele devin mai rapide și sunt folosite pentru analizarea unui volum tot mai mare de informații, experții atrag atenția asupra timpului limitat pe care personalul militar îl poate avea la dispoziție pentru verificarea rezultatelor și luarea deciziilor.

Nemulțumiri cu privire la AI

Sarah Shoker, fostă șefă a echipei de Geopolitică a OpenAI, a explicat că viteza de procesare a inteligenței artificiale poate reduce timpul disponibil pentru evaluarea informațiilor de către oameni.

„IA comprimă timpul pe care un operator îl are la dispoziție pentru a lua o decizie, deoarece lucrează mult mai repede decât o persoană, iar acest lucru este deosebit de riscant într-un mediu cu stres ridicat”, a declarat ea.

Shoker a atras atenția și asupra dificultăților pe care le poate întâmpina un operator uman atunci când trebuie să verifice un număr mare de ținte într-un interval scurt.

„Când ai sute de ținte selectate de inteligența artificială și un timp scurt, este aproape imposibil pentru un operator uman să examineze în mod semnificativ rezultatele inteligenței artificiale pentru a depista erori.”

Angajații se tem să vorbească public despre utilizarea IA în război

Pe lângă preocupările privind siguranța tehnologiei, unii angajați Google au declarat pentru BBC că se tem să vorbească public despre contractele militare și despre implicațiile acestora. Potrivit celor intervievați, restricțiile din contractele de muncă, care limitează criticile publice la adresa companiei, contribuie la această reticență.

Sofia Liguori a spus că a decis să își facă publice preocupările deoarece consideră că informațiile despre direcția companiei trebuie să fie cunoscute.

„În principiu, nu am voie să critic Google toată viața mea”, a declarat ea pentru BBC. Fosta angajată a explicat că a ales totuși să vorbească „pentru că cred că este important ca aceste lucruri să fie cunoscute și cred, de asemenea, că a vorbi despre fapte nu înseamnă a critica”.

Liguori a descris și atmosfera pe care susține că a observat-o în rândul angajaților companiei, afirmând că există temeri legate de posibile consecințe profesionale. „Oamenii se tem de represalii și de punerea în pericol a carierei lor. Simți că ești urmărit, nu poți vorbi”, a spus ea.

Ce spune un alt angajat de la Google DeepMind

Un angajat actual al Google DeepMind, care a solicitat anonimatul de teama unor eventuale represalii, a declarat pentru BBC că schimbarea direcției companiei ar putea determina plecarea unor persoane care au aderat inițial la misiunea acesteia.

„Mulți angajați motivați care s-au înscris în misiunea inițială [a companiei] ar putea pleca – dar există și o serie de oameni aflați la începutul carierei care ar putea ocupa aceste poziții. Ar putea fi o schimbare de gardă”, a afirmat acesta.

Un alt angajat al Google DeepMind, care a dorit, de asemenea, să rămână anonim, a declarat că mai multe persoane au părăsit compania și că există opinii diferite despre schimbările din politica sa etică.

„Mulți oameni au părăsit compania și sunt foarte părtinitori în legătură cu acest lucru [modul în care Google DeepMind și-a schimbat poziția privind etica]”, a spus angajatul.

Acesta a descris și reacțiile diferite ale colegilor la evoluția companiei: „Unii oameni se opun, alții se gândesc: «e o companie mare. Ce vă așteptați să se schimbe?»”

Controverse legate de colaborarea Google cu Israelul

Contractele Google cu instituțiile israeliene au generat, la rândul lor, critici din partea angajaților. În 2024, compania a fost contestată pentru participarea, alături de Amazon, la Project Nimbus, un contract în valoare de 1,2 miliarde de dolari, echivalentul a 960 de milioane de lire sterline.

Proiectul asigură guvernului și armatei israeliene acces la tehnologii de inteligență artificială și la infrastructură de cloud computing. La momentul respectiv, Google a susținut că Project Nimbus „nu este destinat sarcinilor de lucru extrem de sensibile, clasificate sau militare relevante pentru arme sau servicii de informații”.

Utilizarea inteligenței artificiale de către Israel în operațiunile militare a fost discutată și după apariția documentarului Naza, care analizează rolul sistemelor de selectare a țintelor bazate pe inteligență artificială în bombardamentele din Fâșia Gaza, soldate cu numeroase victime civile. Un ministru al guvernului israelian a respins afirmațiile prezentate în documentar, susținând că acestea sunt false și distorsionate.

Andreas Kirsch, fostul cercetător al Google DeepMind, consideră că sistemele actuale de inteligență artificială nu sunt suficient de bine pregătite pentru a fi utilizate în condiții de război. El a pus sub semnul întrebării atât robustețea modelelor, cât și pregătirea acestora pentru sarcini militare. „Modelele actuale de IA nu sunt suficient de robuste și nici nu cred că au fost antrenate pentru astfel de sarcini”, a declarat Kirsch pentru BBC.