Google retrage noua funcție AI din Google Earth. Experții avertizează asupra riscurilor de dezinformare

Google a suspendat la mai puțin de 48 de ore de la lansare o nouă funcție bazată pe inteligență artificială din Google Earth, care permitea generarea de imagini false peste hărțile și imaginile satelitare reale. Decizia vine după ce experți au avertizat că instrumentul ar putea fi folosit pentru răspândirea dezinformării și manipularea informațiilor.

Google a oprit funcția AI din Google Earth la două zile după lansare

Compania a anunțat că suspendă temporar integrarea generatorului de imagini AI Nano Banana 2 în Google Earth, după apariția unor imagini generate de utilizatori care ar încălca politicile platformei.

„Am văzut persoane distribuind capturi de ecran cu imagini generate care par să încalce politicile noastre”, a transmis Google.

Potrivit companiei, funcția va rămâne suspendată până la implementarea unor măsuri suplimentare de protecție, transmite BBC.

Noua opțiune permitea utilizatorilor să introducă instrucțiuni text pentru a crea scenarii fictive peste imagini reale din satelit, aeriene sau 3D. Aceste imagini puteau fi apoi descărcate și distribuite pe alte platforme.

„Știm că oamenii au în mod special încredere în Google Earth pentru o imagine fidelă a lumii”, a mai precizat compania.

Experții avertizează că imaginile false pot părea autentice

În testele realizate înainte ca funcția să fie suspendată, au fost generate imagini precum Turnul Eiffel prăbușit, o dolină care înghite Piramida lui Keops sau tancuri rusești aflate în centrul Kievului.

Specialistul în inteligență artificială și dezinformare Henk van Ess a atras atenția asupra riscurilor, după ce a creat imagini fictive cu o centrală nucleară inexistentă în Iran, o tabără de refugiați la granița dintre SUA și Mexic și un spital fals în Gaza, lângă care apărea un crater provocat de o bombă.

Potrivit acestuia, imaginile generate moștenesc credibilitatea imaginilor reale din Google Earth.

Verificările automate nu au identificat întotdeauna imaginile generate de AI

Google susține că imaginile create cu instrumentele sale AI conțin filigrane invizibile care indică faptul că sunt generate artificial. Compania recomandă verificarea acestora prin aplicația Gemini sau cu ajutorul funcției Google Lens.

Cu toate acestea, testele au arătat că aceste mecanisme pot fi ocolite în anumite situații. În unele cazuri, chatbotul Gemini a identificat imagini generate artificial drept autentice, iar unele instrumente externe de detectare a conținutului AI nu au reușit să le recunoască.

Specialiștii avertizează asupra impactului în zonele de conflict

Henry Ajder, cercetător specializat în detectarea conținutului generat de inteligență artificială, consideră că astfel de imagini pot avea consecințe serioase, în special în timpul conflictelor sau al situațiilor de criză, când informațiile sunt limitate.

Acesta a avertizat că există riscul ca imagini false să fie preluate și distribuite înainte de a fi verificate, ceea ce poate amplifica dezinformarea.

La rândul său, Bill Greer, analist geospațial și cofondator al organizației Common Space, a declarat că imaginile satelitare au fost considerate mult timp o sursă de informații de încredere, iar apariția unor imagini false poate afecta această percepție.

Potrivit acestuia, utilizarea imaginilor satelitare falsificate pentru răspândirea dezinformării a devenit deja o realitate, iar restrângerea accesului la imagini reale de către unele guverne ar putea accentua această problemă.