Experții spun că inteligența artificială crește vulnerabilitățile. În timp ce atenția internațională este concentrată asupra conflictului din Iran, Strâmtorii Ormuz și politicilor lui Donald Trump, analiza indică faptul că geopolitica inteligenței artificiale va avea, aproape sigur, consecințe majore și greu de anticipat.
Inteligența artificială ar putea destabiliza infrastructura globală
Transformarea actuală este comparată ca amploare cu a doua revoluție industrială de la sfârșitul secolului al XIX-lea și începutul secolului XX, o perioadă care a fost urmată de cele două războaie mondiale.
„Trăim o transformare de o amploare similară cu cea a celei de-a doua revoluții industriale de la sfârșitul secolului al XIX-lea și începutul secolului al XX-lea”, avertizează Frederick Kempe.
Potrivit lui Kempe, competiția globală se va muta dincolo de resursele clasice precum energia sau materiile prime, către puterea de calcul, dominația datelor și superioritatea algoritmică. Statele care vor deveni lideri în inteligența artificială vor avea avantaje economice, vor guverna diferit și vor proiecta putere în moduri imprevizibile, inclusiv pe plan militar.
Un exemplu concret al acestor riscuri este apariția sistemului Mythos AI system, dezvoltat de compania Anthropic. Acest sistem de inteligență artificială de frontieră este considerat atât de puternic și disruptiv încât accesul la el este restricționat. Mythos are capacitatea de a identifica și exploata autonom vulnerabilități software necunoscute anterior, inclusiv în infrastructuri critice globale.
Acest lucru înseamnă că sisteme esențiale precum băncile, serviciile de internet și infrastructura de tratare a apei devin mai vulnerabile în fața unor astfel de tehnologii. Din această perspectivă, președintele Atlantic Council consideră că Mythos reprezintă un semnal de alarmă geopolitic mai important decât conflictele tradiționale, inclusiv cel din jurul Iranului.
„Cursa secolului XX pentru energie, materii prime și capacitate nucleară se va intensifica, având în vedere apetitul vorace al centrelor de date pentru putere.
Dar va fi însoțită de o competiție pentru puterea de calcul, dominația datelor și superioritatea algoritmică. Națiunile care sunt lideri în domeniul IA nu numai că vor crește mai rapid din punct de vedere economic, dar vor și guverna diferit. Vor lupta diferit și vor proiecta influența în moduri greu de prezis.
În acest context, ar trebui să reflectăm asupra apariției recente a lui Mythos, sistemul de inteligență artificială de frontieră al Anthropic. Capacitățile Mythos sunt atât de potențial disruptive și puternice încât creatorii săi restricționează în prezent cine îl poate utiliza.
Mythos poate identifica și exploata autonom vulnerabilități software necunoscute anterior. Le poate descoperi în sistemele care stau la baza funcțiilor și operațiunilor de bază pentru finanțele globale, comunicațiile și infrastructura critică. Aceasta înseamnă că băncile, serviciile de internet și sistemele de tratare a apei devin toate mai vulnerabile”, avertizează Kempe.
Companii precum OpenAI și Google se apropie de dezvoltarea unor capabilități similare
Mai mult, un oficial american de rang înalt a indicat că și companii precum OpenAI și Google se apropie de dezvoltarea unor capabilități similare. Spre deosebire de războaiele convenționale, care pot fi analizate și gestionate prin mecanisme cunoscute de descurajare, impactul inteligenței artificiale este mult mai greu de anticipat și controlat.
„De aceea mi se pare că Mythos, și nu Iranul, este cel mai important semnal de avertizare geopolitică pentru acest moment. Un oficial american de rang înalt mi-a spus că OpenAI și Google nu sunt cu mult în urmă, având capabilități similare.
Războaie precum cel care se desfășoară în jurul Iranului sunt mortale, periculoase și semnificative. Dar sunt și familiare. Putem analiza dinamica lor, calcula ce constituie descurajare și, astfel, limita escaladarea lor și evita erorile de calcul, pornind de la un ghid binecunoscut”, mai scrie Kempe.
Analiza subliniază și faptul că liderii politici nu sunt pregătiți pentru această transformare. Există dificultăți majore în înțelegerea și reglementarea acestor tehnologii, iar competițiile dintre giganții tehnologici, precum disputa dintre Elon Musk și Sam Altman, arată lipsa unei direcții comune.
În acest context, regimurile autoritare, în special China, ar putea avea un avantaj, deoarece pot implementa rapid tehnologii de inteligență artificială fără constrângeri legate de opinia publică. China avansează în special în domenii precum robotica și producția, dar și în utilizări militare și de supraveghere internă.
„Liderii aleși democratic nu înțeleg sistemele pe care au sarcina de a le reglementa. Procesul care se desfășoară săptămâna aceasta în Oakland, California, între antreprenorii tehnologici Elon Musk și Sam Altman este elocvent.
Subliniază modul în care concurența măruntă dintre giganții industriei IA maschează capacitatea noastră de a descoperi un fel de cauză comună națională. Regimurile autoritare, și în special China, vor avea mai puține probleme cu opinia publică și se mișcă rapid pentru a valorifica IA pentru a obține un avantaj strategic împotriva Statelor Unite. Dar și pentru a-și supraveghea și controla propriul popor.
Și, în timp ce companiile americane de IA ar putea avea avantajul comercial când vine vorba de modele lingvistice mari, China avansează când vine vorba de aplicarea IA în robotică și producție – și, eventual, în război”, continuă președintele Atlantic Council.
Pe de altă parte, inteligența artificială aduce și beneficii majore
Pe de altă parte, inteligența artificială aduce și beneficii majore. Aceasta accelerează descoperiri importante în medicină, precum detectarea timpurie a cancerului și tratamente personalizate, oferă noi perspective în combaterea bolii Alzheimer, permite dezvoltarea rapidă de medicamente și optimizează sisteme complexe, de la rețele energetice până la producția de alimente. De asemenea, poate stimula creativitatea și creșterea productivității la nivel global.
„Ceea ce face ca acest moment să fie diferit este magnitudinea binelui și a răului care ar putea rezulta și realitatea că ambele ar putea sosi simultan. Inteligența artificială accelerează deja următoarele descoperiri:
detectarea mai timpurie și tratamentul mai personalizat al cancerului;
noi căi pentru încetinirea și rezolvarea problemelor legate de boala Alzheimer;
proiectarea de medicamente care salvează vieți în câteva luni în loc de ani;
optimizarea tuturor aspectelor, de la rețelele energetice la producția de alimente.Ar putea extinde creativitatea în moduri pe care abia începem să ni le imaginăm. Ar putea debloca câștiguri de productivitate care să ridice nivelul de trai la nivel global”, arată președintele Atlantic Council.
Totuși, riscurile sunt la fel de mari. Printre acestea se numără transformarea biologiei în armă, erodarea adevărului prin conținuturi sintetice, concentrarea puterii în mâinile unui număr redus de state sau companii și pierderea locurilor de muncă într-un ritm mai rapid decât capacitatea de adaptare a societății.
Frederick Kempe avertizează că lumea se află într-un punct de inflexiune și trebuie să decidă dacă tratează inteligența artificială ca pe o cursă competitivă sau ca pe o transformare care necesită reguli noi, cooperare internațională și instituții adaptate.
„Iată punctul de inflexiune. Statele Unite și partenerii săi tratează IA ca pe o cursă competitivă ce trebuie câștigată cu orice preț? Sau ca pe o forță transformatoare care necesită noi reguli și bariere, noi forme de cooperare internațională și chiar noi instituții?
Istoria oferă un avertisment. Revoluția Industrială a produs bogăție și inovație extraordinare. Dar a generat și extremism ideologic și conflicte de o amploare nemaivăzută în lume.
Au apărut inclusiv lagărele de exterminare industrializate ale lui Hitler.Au avut loc atacurile de la Hiroshima și Nagasaki, care au pus capăt războiului. A fost nevoie de decenii și două războaie mondiale înainte ca Statele Unite și aliații lor din timpul războiului să instaureze o ordine internațională stabilă. Aceasta inclus fondarea Națiunilor Unite, a NATO, a instituțiilor de la Bretton Woods și a altor organizații”, amintește Frederick Kempe.
Istoria oferă un precedent relevant
Revoluția Industrială a generat atât progres, cât și conflicte majore, inclusiv extremism ideologic, lagăre de exterminare și utilizarea armelor nucleare la Hiroshima și Nagasaki. A fost nevoie de decenii și de două războaie mondiale pentru a construi un sistem internațional stabil, care a inclus organizații precum Națiunile Unite, NATO și instituțiile de la Bretton Woods.
În prezent, acest sistem global este deja afectat de neîncredere, fragmentare și conflicte. Lipsa unor mecanisme eficiente pentru gestionarea unei revoluții tehnologice de asemenea amploare crește riscul unor evoluții periculoase.
Trebuie să fii autentificat pentru a lăsa un comentariu.