Avertisment privind căutările online. Informațiile medicale oferite de AI pot fi periculoase

O investigație realizată de The Guardian arată că utilizatorii pot fi expuși unor riscuri serioase pentru sănătate din cauza informațiilor medicale false sau înșelătoare furnizate de rezumatele generate de inteligența artificială ale Google, afișate în partea superioară a rezultatelor de căutare.

Rezumate AI „utile”, dar uneori periculoase

Deși Google susține că aceste prezentări generale, create cu ajutorul inteligenței artificiale generative pentru a oferi rapid informații esențiale, sunt „utile” și „fiabile”, investigația arată că, în practică, unele dintre ele sunt inexacte și pot avea consecințe grave.

Mai multe exemple analizate de jurnaliști indică faptul că rezumatele AI au furnizat informații medicale eronate, fără context sau contrare recomandărilor medicale acceptate.

Cazuri considerate „extrem de periculoase”

Într-un caz catalogat de specialiști drept „extrem de periculos”, un rezumat AI de la Google recomanda persoanelor diagnosticate cu cancer pancreatic să evite alimentele bogate în grăsimi. Experții au avertizat că această indicație este exact opusul recomandărilor medicale corecte și ar putea crește riscul de deces.

Alte exemple descrise drept „alarmante” includ informații greșite despre analizele funcției hepatice, care ar putea face ca persoane cu boli grave ale ficatului să creadă, în mod eronat, că sunt sănătoase. De asemenea, căutările legate de testele de depistare a cancerului la femei au returnat informații „complet incorecte”, cu riscul ca simptome reale să fie ignorate.

Reacția Google și îngrijorările experților

Un purtător de cuvânt al Google a declarat că multe dintre exemplele prezentate în anchetă ar fi fost „capturi de ecran incomplete” și că, potrivit evaluărilor interne, acestea făceau trimitere la surse cunoscute și recomandau consultarea unui specialist.

Totuși, investigația The Guardian se înscrie într-un context mai larg de îngrijorare legat de conținutul generat de inteligența artificială, pe care utilizatorii tind să îl perceapă drept de încredere. Anul trecut, mai multe studii au arătat că diferiți chatboți AI oferă sfaturi financiare inexacte, iar probleme similare au fost semnalate și în cazul rezumatelor automate de știri.

Avertismente din partea organizațiilor medicale

Sophie Randall, directoarea Forumului de Informații pentru Pacienți, a atras atenția că aceste exemple demonstrează cum prezentările bazate pe AI pot plasa informații medicale greșite în fruntea căutărilor online, amplificând riscurile pentru sănătatea publică.

La rândul său, Stephanie Parker, directoarea departamentului digital al organizației Marie Curie, a subliniat că mulți oameni caută informații online în momente de criză, iar datele inexacte sau scoase din context le pot afecta grav starea de sănătate.

Exemple concrete de informații eronate

Investigația a identificat numeroase situații problematice în secțiunea Google AI Overviews, în urma semnalelor trase de organizații din domeniul sănătății și de profesioniști medicali.

Anna Jewell, de la Pancreatic Cancer UK, a catalogat drept „complet greșită” recomandarea privind evitarea grăsimilor în cancerul pancreatic, avertizând că aceasta poate reduce capacitatea pacienților de a tolera tratamente salvatoare, precum chimioterapia sau intervențiile chirurgicale.

În cazul analizelor hepatice, informațiile despre intervalele „normale” au fost considerate înșelătoare, deoarece prezentau valori fără a ține cont de factori esențiali precum vârsta, sexul sau etnia. Pamela Healy, directoarea British Liver Trust, a spus că acest lucru este periculos, întrucât persoanele cu afecțiuni hepatice grave ar putea evita consultul medical.

Pentru cancerul vaginal, unele căutări au indicat testul Papanicolau drept metodă de depistare, informație eronată. Athena Lamnisos, directoarea Eve Appeal, a explicat că acest test nu detectează cancerul vaginal și că astfel de informații pot determina femeile să ignore simptome serioase.

Probleme similare au fost identificate și în cazul căutărilor legate de sănătatea mintală. Stephen Buckley, de la organizația Mind, a declarat că unele rezumate AI despre psihoză sau tulburări de alimentație oferă „sfaturi foarte periculoase”, sunt inexacte sau pot descuraja persoanele să caute ajutor specializat, reflectând uneori stereotipuri sau narațiuni stigmatizante.

Poziția oficială a Google

Google susține că marea majoritate a rezumatelor AI sunt corecte și utile și că nivelul lor de acuratețe este comparabil cu cel al altor funcții de căutare utilizate de ani de zile. Compania afirmă că îmbunătățește constant aceste prezentări și că intervine atunci când apar erori sau lipsă de context.

„Investim semnificativ în calitatea prezentărilor bazate pe inteligență artificială, mai ales pentru subiecte sensibile precum sănătatea, iar marea majoritate oferă informații corecte”, a transmis un purtător de cuvânt al Google.