Mesajele dintre un bărbat și ChatGPT ajung în instanță. Ce acuzații apar în procesul împotriva OpenAI

Un bărbat din Florida a intentat un proces împotriva OpenAI și a fondatorului companiei, Sam Altman, susținând că sfaturile medicale primite de la ChatGPT „l-au adus în pragul morții”, informează BBC.

Un chatbot, o problemă medicală și un proces: cazul care aduce în discuție limitele inteligenței artificiale

Scott Winters, un pastor în vârstă de 55 de ani, afirmă că chatbotul de inteligență artificială l-ar fi determinat să amâne solicitarea de ajutor medical, deși prezenta simptome care au precedat o embolie pulmonară aproape fatală.

Acțiunea în instanță, depusă la Curtea Superioară din San Francisco pe 21 iulie, susține că Winters utiliza frecvent ChatGPT și că a ajuns să se bazeze pe răspunsurile platformei pentru probleme legate de sănătate. Potrivit documentelor depuse de avocații săi, modelul de inteligență artificială l-ar fi „diagnosticat greșit în mod repetat și insistent”.

Avocații bărbatului susțin că răspunsurile oferite de ChatGPT au fost influențate și de conversațiile anterioare despre religie, platforma folosind aceste informații pentru a-l asigura că situația sa se va îmbunătăți. Procesul afirmă că această abordare l-ar fi determinat pe Winters să nu apeleze la servicii medicale, în ciuda îngrijorărilor exprimate de familie și prieteni.

Reprezentantul OpenAI, Drew Pusateri, a declarat pentru CBS News, partenerul de știri al BBC din Statele Unite, că „ChatGPT nu este un medic și nu ar trebui folosit niciodată ca înlocuitor pentru îngrijire medicală, diagnostic sau tratament”.

Procesul descrie schimburile dintre utilizator și chatbot

Potrivit documentelor prezentate în instanță, cu câteva săptămâni înainte de agravarea stării sale de sănătate, Winters ar fi discutat cu ChatGPT despre amețeli recurente și „episoadele de instabilitate a tensiunii arteriale”.

Într-unul dintre răspunsurile menționate în proces, chatbotul i-ar fi recomandat lui Winters să rămână în fotoliul reclinabil în care ajunsese „în principal să stea” din cauza problemelor medicale persistente.

Documentele instanței arată că bărbatul a suferit ulterior o „embolie pulmonară masivă din cauza multiplelor cheaguri de sânge din ambii plămâni, care l-a adus în pragul morții, o embolie despre care medicii au declarat că a fost probabil provocată din cauza imobilității sale”.

Procesul include și capturi de ecran ale unor conversații despre care se susține că ar fi avut loc între Winters și ChatGPT. Potrivit acestor documente, chatbotul ar fi combinat informațiile medicale cu referiri la credința creștină a utilizatorului.

Într-un mesaj atribuit ChatGPT, platforma ar fi spus: „Dumnezeu nu ți-a conceput corpul să cedeze la nesfârșit”. Un alt răspuns citat în proces afirmă: „Dumnezeu îți ține corpul unit, cu fiecare bătaie a inimii, cu fiecare respirație, chiar și atunci când simți că ești în pragul eșecului”.

OpenAI afirmă că instrumentul nu trebuie utilizat pentru decizii medicale

Avocații lui Winters susțin că „natura lingușitoare și tonul autoritar al ChatGPT, combinate cu manipularea identității religioase a lui Scott, au cultivat în acesta o dependență periculoasă de acest instrument”.

Aceștia mai afirmă că aceste elemente „au subminat capacitatea lui Scott de a lua decizii corecte, l-au izolat de membrii familiei care îl îndemnau să solicite îngrijiri medicale și l-au convins că solicitarea de îngrijiri medicale era inutilă și chiar potențial letală”.

În acțiunea depusă, Winters este descris drept o persoană „vulnerabilă”, iar procesul susține că dependența sa de ChatGPT ar fi contribuit la pierderea locuinței și a carierei, lăsându-l să treacă prin „ani de recuperare fizică și psihologică intensivă”.

OpenAI a precizat că oamenii caută frecvent informații despre sănătate online și că inteligența artificială poate avea un rol în organizarea întrebărilor și pregătirea discuțiilor cu profesioniștii medicali.

„AI poate îmbunătăți această experiență ajutându-i să găsească răspunsuri mai clare, să-și organizeze întrebările și să se pregătească pentru conversații cu profesioniștii din domeniul medical”, a declarat Drew Pusateri.

Procesul solicită despăgubiri financiare și cere instanței să oblige OpenAI să implementeze „garanții rezonabile care să protejeze alți utilizatori de orice prejudiciu”.

Termenii de utilizare ai ChatGPT precizează că utilizatorii nu ar trebui să considere platforma drept „singura sursă de adevăr”, în special în situațiile în care răspunsurile ar putea „avea un impact juridic sau material asupra acelei persoane, cum ar fi luarea unor decizii privind creditul, educația, angajarea, locuința, asigurările, deciziile juridice, medicale sau alte decizii importante despre aceasta”.