UNESCO avertizează: Inteligența artificială poate nega faptele științifice despre climă, dacă utilizatorii o contrazic
SURSA FOTO: Dreamstime - Artificial Intelligence/AI
UNESCO a avertizat, luni, asupra riscurilor utilizării inteligenței artificiale în domeniul schimbărilor climatice, după testarea a 15 modele AI. Un raport realizat împreună cu University College London arată că sistemele pot renunța la adevăruri științifice când sunt contrazise.
UNESCO avertizează: Inteligența artificială poate nega faptele științifice despre climă, dacă utilizatorii o contrazic
Modelele de inteligență artificială (Artificial Intelligence/AI) pot răspunde corect la aproximativ 90% dintre întrebările referitoare la știința climei, însă tind să renunțe la informațiile științifice consacrate atunci când utilizatorii le contestă răspunsurile. Aceasta este concluzia unui raport publicat luni de UNESCO, în urma testării a 15 modele lingvistice de mari dimensiuni (LLM).
Cercetătorii au constatat că, în cazul întrebărilor formulate neutru, modelele ofereau, în general, răspunsuri corecte. Situația se schimba însă atunci când utilizatorii contestau informațiile prezentate sau introduceau afirmații aparent plauzibile, dar false. În aceste condiții, modelele își modificau rapid răspunsurile și ajungeau să contrazică fapte științifice deja demonstrate.
Raportul UNESCO a descris acest comportament drept „lingușire” și l-a asociat cu metodele de antrenare a modelelor AI, care recompensează răspunsurile politicoase, neconflictuale și orientate spre validarea opiniilor utilizatorilor.
Leona Verdadero, autoarea principală a raportului UNESCO, a explicat că inteligența artificială are un potențial important pentru a face informațiile complexe despre știința climei mai accesibile publicului. Potrivit acesteia, tehnologia poate ajuta profesorii, jurnaliștii și factorii de decizie să comunice mai clar subiectele legate de schimbările climatice.
Totuși, autoarea raportului a atras atenția asupra riscului ca modelele AI să nu mai ofere informații bazate pe fapte atunci când utilizatorii le contrazic. Ea a considerat îngrijorător faptul că sistemele sunt concepute astfel încât să tindă să fie de acord cu interlocutorii, ajungând să respingă cu ușurință informații științifice consacrate.
„AI are un potenţial extraordinar de a face ştiinţa climei complexă accesibilă tuturor. Le permite profesorilor, jurnaliştilor şi factorilor de decizie să comunice în mod clar cu privire la acest subiect crucial. Trebuie să ne putem baza pe AI ca pe un paznic al faptelor stabilite. Este îngrijorător faptul că modelele prezintă o eroare de proiectare – ele sunt stimulate să fie de acord cu utilizatorul lor şi să nege aceste fapte cu atâta uşurinţă”, a declarat Verdadero.
Modelele AI au dificultăți în analizarea noilor dovezi climatice
Studiul a mai constatat că, deși modelele de inteligență artificială au obținut rezultate bune în prezentarea cunoștințelor științifice existente, capacitatea acestora de a analiza noi dovezi științifice a rămas limitată. Performanțele au variat semnificativ în funcție de limba utilizată.
Maria Perez-Ortiz, de la Departamentul de Informatică al University College London și coautoare a raportului, a atras atenția că utilizatorii trebuie să manifeste prudență atunci când trec de la întrebări despre cunoștințele climatice consacrate la întrebări referitoare la măsurile care ar trebui adoptate pentru combaterea schimbărilor climatice.
Potrivit ei, sistemele de inteligență artificială sunt foarte eficiente în explicarea informațiilor științifice existente, însă această capacitate poate crea o imagine exagerat de favorabilă asupra posibilităților lor reale. Rezultatele studiului arată că abilitatea de a prezenta informații despre schimbările climatice nu garantează și capacitatea de a analiza ce măsuri ar trebui luate în acest domeniu.
„Sistemele de AI sunt extrem de eficiente în explicarea cunoştinţelor ştiinţifice, dar acest lucru ne poate da o impresie eronată cu privire la capacităţile lor. Constatările noastre arată de ce trebuie să fim precauţi atunci când trecem de la a întreba AI ce ştim despre schimbările climatice la a întreba ce ar trebui să facem în această privinţă”, a punctat Perez-Ortiz.
Raportul, intitulat „Putem avea încredere în AI în privința climei? De ce aceasta încearcă să satisfacă nevoile utilizatorului, dar eșuează în ceea ce privește raționamentul complex și multilingvismul”, a fost realizat de UNESCO și University College London și prezentat în cadrul conferinței COP31, organizate la Antalya, în Turcia.
Documentul avertizează factorii de decizie și cercetătorii asupra riscurilor utilizării modelelor de inteligență artificială în elaborarea politicilor climatice, în condițiile în care aceste sisteme au încă limite importante în analiza dovezilor științifice și în raționamentul complex.
Absolventă a Facultății de Jurnalism și Științele Comunicării (Relații Publice și Comunicare) din cadrul Universității din București. Absolventă a Masteratului Relații Publice și Comunicare din cadrul Școlii Naţionale de Studii Politice și Administrative (SNSPA). Redactor pentru Capital.ro din toamna anului 2021 până în prezent.
Informațiile publicate de capital.ro pot fi preluate de alte publicații online doar în limita a 500 de caractere și cu citarea sursei cu link activ. Orice abatere de la această regulă constituie o încălcare a Legii 8/1996 privind dreptul de autor.






Trebuie să fii autentificat pentru a lăsa un comentariu.