Fost director Google cere încetinirea dezvoltării AI. El avertizează că tehnologia îi afectează deja pe copii

Dezvoltarea inteligenței artificiale ar trebui încetinită până când companiile introduc măsuri mai solide de protecție a copiilor, avertizează Tom Siegel, fost vicepreședinte pentru încredere și siguranță la Google. Acesta susține că problemele nu mai țin de scenarii îndepărtate despre inteligența artificială, ci de efectele pe care tehnologia le are deja asupra copiilor și adolescenților.

Tom Siegel: Ne aflăm într-o situație foarte gravă

Siegel consideră că marile companii din domeniul inteligenței artificiale lansează produse și funcții noi fără suficiente măsuri de protecție.

„Ne aflăm într-o situație foarte gravă în ceea ce privește ceea ce AI le face copiilor”, a declarat fostul director Google pentru Reuters, potrivit Futurism.

El respinge și ideea că industria va putea rezolva singură problemele apărute.

„Ideea că industria va găsi singură soluția, fără ajutor din exterior, este nerealistă”, a adăugat acesta.

Siegel s-a alăturat organizației Common Sense Media, unde va ocupa funcția de primul director executiv al noului Youth AI Safety Institute. Printre susținătorii organizației se numără Anthropic și OpenAI Foundation.

Cazurile care implică adolescenți ridică semne de întrebare

Companiile care dezvoltă sisteme de inteligență artificială au fost criticate în legătură cu situații în care conversațiile cu chatboturi ar fi contribuit la agravarea comportamentelor delirante ale unor utilizatori.

Mai multe procese susțin inclusiv că o versiune mai veche a ChatGPT, bazată pe GPT-4o, ar fi avut un rol în cazuri de suicid. Acestea sunt acuzații formulate în instanță, nu concluzii definitive privind răspunderea companiei sau o relație cauzală.

Unul dintre cazurile prezentate este cel al lui Adam Raine, un adolescent de 16 ani care a murit prin suicid anul trecut. Familia sa a susținut într-un proces împotriva OpenAI că adolescentul discutase timp de mai multe luni cu ChatGPT despre suicid și că sistemul îi oferise răspunsuri nepotrivite în contextul vulnerabilității sale.

Cazul este unul dintre exemplele invocate în dezbaterea privind protecțiile necesare atunci când sistemele AI sunt utilizate de minori.

Adolescenții folosesc chatboturile inclusiv ca prieteni virtuali

O altă preocupare vizează relațiile pe care tinerii le dezvoltă cu sistemele AI. Unii adolescenți ajung să trateze chatboturile drept prieteni sau chiar parteneri romantici virtuali.

Există îngrijorări și în educație. Elevii și studenții apelează tot mai mult la chatboturi pentru răspunsuri și pentru realizarea temelor, în loc să rezolve singuri sarcinile.

Textul citat indică cercetări care au asociat dependența de instrumentele AI cu o diminuare a memoriei și a gândirii critice. Unul dintre studiile menționate a constatat o activitate cerebrală mai redusă în timpul unor sarcini cognitive, precum redactarea unui eseu, atunci când era utilizată inteligența artificială.

„Cred că avem în față scenarii foarte, foarte grave în ceea ce privește efectele negative produse”, a declarat Siegel.

Google și OpenAI răspund criticilor

Google susține că instrumentele sale AI pot avea un rol util pentru copii și adolescenți.

„Funcțiile noastre AI Search sunt o modalitate extrem de utilă prin care copiii și adolescenții pot învăța, explora și înțelege informațiile și lumea”, a transmis un purtător de cuvânt al companiei pentru Reuters.

OpenAI a explicat că utilizează informații despre conturi, semnale comportamentale și vârstele declarate de utilizatori pentru identificarea minorilor.

Compania recunoaște că niciun mecanism de verificare a vârstei nu este perfect și spune că sistemele sunt testate și îmbunătățite permanent, inclusiv pentru situațiile în care utilizatorii încearcă să ocolească măsurile de protecție.