Ne mai salvează Inteligența Artificială sau ne transformă în sclavi?

Gheorghe Piperea, avocat, europarlamentar și profesor universitar, scrie despre cursa accelerată pentru dezvoltarea Inteligenței Artificiale și despre riscurile economice, sociale și existențiale ale unei tehnologii către care sunt redirecționate resurse, energie și sume uriașe de bani.

Pornind de la avertismentele venite chiar din interiorul industriei și de la universul distopic imaginat de Frank Herbert în „Dune”, autorul se întreabă dacă omul mai controlează mașina pe care a creat-o sau dacă, treptat, ajunge să îi predea gândirea, libertatea și puterea de decizie.

Cursa nebunească pentru construirea mașinilor gânditoare

Omenirea s-a lansat într-o cursă nebunească, aproape sinucigașa, de construcție a mașinilor gânditoare (inteligența artificială). A făcut-o fără să știe, fără să vrea, fără să fie necesar: doar pentru că marile puteri politico-militare văd în IA o armă de nimicire în masă pe care trebuie să o aibă înainte ca ceilalți să și-o procure, iar hiper-miliardarii din Big Tech, Finance și Pharma vor trilioanele de dolari care curg fluviu către această gaură neagă și controlul asupra resurselor.

De exemplu: apa care se utilizează pentru răcirea centrelor de baze de date (zeci de milioane de tone anual, numai în UE) și energia (de trei ori mai scumpă în UE decât în SUA). Apă și energie care sunt sustrase agriculturii, industriei și consumului casnic.

Investițiile în piața de capital, fie cele de retail, fie cele de portofoliu și strategice, sunt canalizate în IA, răpind banii utilizați în acele investiții altor domenii, cum ar fi mâncarea, sănătatea, educația, locuirea decentă, energia regenerabilă, scoaterea din sărăcie și foamete a marii
majorități a populației lumii.

Oamenii, fondurile de pensii și statele bagă bani în IA fără ca IA să confirme acest entuziasm nebunesc investițional. Cu siguranță urmează o exploziei a bulei …

Avertismentele celor care s-au îmbogățit din IA

Ironic, cei care s-au hiper-îmbogățit din această exuberanță irațională a IA avertizează constant asupra riscului. Aparent bine intenționat, dar în realitate, cu scop de reclamă și PR, Sam Altman, patronul de la OpenAI* a spus că suntem la momentul “singularității”, adică, atunci când IA devine mai deșteaptă decât omul, devine independentă și face ca omul să aibă dificultăți să o controleze sau, pur și simplu, o scapă de sub control.

Scenariul distopic din Dune

Acesta este scenariul distopic din Dune, de Frank Herbert. Acela în care, mai întâi, oamenii puțini și hiper-bogați care dețin mașini gânditoare, iau controlul asupra omenirii, iar apoi mașinile gânditoare iau omenirea în sclavie.

Camera de rezonanță și pierderea contactului cu realitatea

Asta nu se întâmplă peste noapte. Mai întâi, omul se deprinde a gândi ca într-o cameră de rezonanță, unde se aude numai ecoul, repetat la nesfârșit. Ce e afară, ce e real și tangibil, este în afara percepției celor din camera de ecou. Asta s-a petrecut în pandemie, când am fost segregați prin bule de internet și social media și polarizați: vaccinați contra “medievali”, elite și enoriași ai cultului științei versus “pleava societății”, pro-europeni versus extremiști, “toleranți” curcubeici contra “rasiști” și câte și mai câte…

Geamănul digital și modelarea omului

Apoi, s-a făcut fiecăruia dintre noi câte un “geamăn digital”, câte un avatar tehnologic. Suntem modelați acum ca figurinele de plastilină, după “modelul” acestei copii malefice. Un Doppelgänger care se mișcă digital dictând modul în care trebuie să ne mișcăm și să reacționăm noi.

Delegarea gândirii și a rațiunii

Apoi, s-a trecut la delegarea judecății și a rațiunii către digital și către IA. „Oamenii și-au predat gândirea mașinilor în speranța că asta îi va elibera. Dar asta a permis doar altor oameni cu mașini să-i înrobească.”

(citat atribuit Reverend Mother Gaius Helen Mohiam, stareța Ordinului Bene Gesserit)

Dependența de tehnologie și autorități

Oamenii au “reușit” mereu să își delege judecata fie mașinilor, fie liderilor, profeților sau eroilor salvatori, uitând deseori importanța minții umane și riscul stagnării sau sclaviei prin exces de dependență de tehnologie sau de autorități externe. Iar omenirea a suferit mereu și a suferit cumplit…

De la promisiunea libertății la dominația totală

În scenariul din Dune, oamenii au delegat gândirea, judecata și munca intelectuală mașinilor, în speranța libertății. Asta a dus la dependență, la hedonism și la controlul mulțimilor de oameni de către cei puțini, oameni din elita care controla mașinile. Controlul a dus la dominația totală și la înrobirea oamenilor de către mașinile gânditoare.

Jihadul Butlerian și distrugerea mașinilor gânditoare

În povestea din Dune a urmat Jihadul Butlerian – o cruciadă care a distrus mașinile gânditoare, computerele și roboții conștienți și a interzis crearea de tehnologii care imită mintea umană.

Revolta a „luat cârja” și a forțat mințile umane să se dezvolte. Au apărut școli care antrenau talente umane ca înlocuitori, cum ar fi mentații (“computerele umane”, minți specializate în analiză și calcul).

Când mașina este înlocuită de salvator

Este adevărat că, în Dune, locul mașinilor în calitate de salvatori a fost luat de Mântuitorul Dunei (Paul Atreides, Muad’ib) și, ulterior, timp de 4 mii de ani, de Împăratul Zeu al Dunei (Letto II, fiul lui Muad’ib).

Ne mai salvează cineva?

Ce ne așteaptă pe noi, creatorii și finanțatorii inconștienți ai mașinii gânditoare numită IA? Ne mai salvează cineva? Sau salvatorul este, de fapt, dușmanul, marele potrivnic?

Articolul ridică o întrebare care depășește cu mult dezbaterea despre tehnologie: ce mai rămâne din libertatea omului atunci când gândirea, judecata și puterea de decizie sunt transferate unor mașini controlate de un număr restrâns de actori? În cursa pentru construirea unei inteligențe mai puternice decât omul, pericolul nu este doar ca tehnologia să scape de sub control, ci ca omenirea să renunțe de bunăvoie la propria minte înainte ca acest lucru să se întâmple.

Articol plătit de ECR Group din Parlamentul European.