Meta va alerta părinții dacă AI detectează indicii de suicid sau autovătămare în conversațiile adolescenților

Meta a anunțat introducerea unor măsuri suplimentare de protecție pentru adolescenții care folosesc Meta AI, astfel încât părinții să fie informați atunci când conversațiile indică un posibil risc de suicid sau autovătămare.

Meta introduce alerte pentru părinți atunci când conversațiile adolescenților cu AI indică un posibil risc de autovătămare

Meta a precizat că urmărește să le ofere adolescenților experiențe adaptate vârstei și, în același timp, să îi îndrume către sprijin din lumea reală atunci când discută despre subiecte sensibile. Potrivit Meta, sistemul va recunoaște semnele de suferință și îi va încuraja pe tineri să ia legătura cu un părinte, un alt adult de încredere, o linie de asistență specializată sau, dacă este necesar, cu serviciile de urgență.

În plus, Meta a anunțat că va notifica proactiv părinții care folosesc funcția de supraveghere parentală atunci când conversațiile adolescenților cu Meta AI sugerează că aceștia ar putea fi în pericol. Compania a explicat că sistemul de detectare a fost dezvoltat împreună cu experți și este capabil să identifice inclusiv referiri subtile la autovătămare.

Reprezentanții Meta au subliniat că toate conversațiile semnalate de inteligența artificială vor fi verificate manual înainte de trimiterea unei alerte către părinți. În situațiile în care intenția adolescentului este ambiguă, compania a precizat că va prefera să trimită notificarea, chiar dacă acest lucru ar putea duce uneori la alerte false, considerând că această abordare este mai sigură.

Larry Magid, CEO și cofondator al ConnectSafely, a apreciat decizia Meta, afirmând că, deși adolescenții au dreptul la viață privată, părinții trebuie informați atunci când există indicii că aceștia ar putea fi expuși riscului de autovătămare sau suicid. Magid a considerat că Meta a găsit un echilibru între protejarea intimității adolescenților și oferirea informațiilor necesare părinților pentru a-i putea sprijini.

„Deși cred că adolescenții au dreptul la intimitate, cred, de asemenea, că părinții trebuie să fie informați dacă adolescentul lor ar putea fi expus riscului de a se răni. De aceea am pledat pentru această abordare și susțin decizia Meta de a notifica părinții atunci când, după o analiză atentă, se stabilește că o conversație cu inteligența artificială Meta conține indicii de posibilă sinucidere sau autovătămare care justifică o alertă. Apreciez modul în care Meta a găsit echilibrul potrivit; protejarea intimității adolescentului, asigurându-se în același timp că părinții au informațiile de care au nevoie pentru a-și sprijini adolescentul”, a spus Magid.

Noile alerte sunt disponibile în prezent pentru părinții care folosesc supravegherea parentală pe Instagram în Statele Unite ale Americii, Marea Britanie, Australia și Canada, urmând să fie extinse la nivel global până la sfârșitul anului 2026.

Peste 75 de specialiști au contribuit la îmbunătățirea răspunsurilor AI privind suicidul și autovătămarea

Meta a anunțat, de asemenea, că dezvoltă un sistem prin care va putea alerta serviciile de urgență atunci când conversațiile cu Meta AI, fie ale adolescenților, fie ale adulților, indică un risc iminent de suicid. Compania a precizat că măsura extinde mecanismul deja utilizat pe Facebook și Instagram, unde anul trecut au fost făcute peste 19.000 de sesizări către autorități privind posibile cazuri de suicid.

În vederea îmbunătățirii răspunsurilor oferite de Meta AI, compania a colaborat cu peste 75 de specialiști în sănătate mintală, care au evaluat sute de conversații și au formulat recomandări privind modul în care inteligența artificială ar trebui să răspundă adolescenților aflați în dificultate. Meta susține că, în urma acestor evaluări, AI-ul va manifesta mai multă empatie și va orienta utilizatorii către resurse de sprijin fără a întrerupe brusc conversațiile.

Dr. Ji-yeon Lee, psiholog licențiat și profesor de psihologie a consilierii la Universitatea de Studii Străine Hankuk din Coreea de Sud, a declarat că procesul de evaluare clinică realizat de Meta a fost riguros și că rafinarea răspunsurilor AI pe baza expertizei specialiștilor este esențială pentru creșterea siguranței adolescenților.

„Am fost impresionat de rigoarea procesului de evaluare clinică al Meta. Acesta a examinat nu doar răspunsurile imediate la preocupările legate de suicid și autovătămare, ci și contextul conversațional mai larg, urmărirea adecvată și nivelurile variate de risc care pot exista chiar și în situații cu risc ridicat. Acest tip de rafinare bazată pe scenarii, bazată pe informații de specialitate, este esențială pentru a face experiențele IA mai sigure pentru adolescenți”, a precizat Lee.

Totodată, Meta a anunțat că va extinde setarea „Conținut limitat” și pentru conversațiile cu Meta AI. Astfel, adolescenții incluși de părinți în această opțiune vor avea acces la o experiență și mai restrictivă, iar inteligența artificială va refuza să răspundă unei game mai largi de solicitări considerate sensibile sau nepotrivite pentru vârsta lor.

Anunțul a fost făcut de Meta joi, 16 iulie 2026.