Algoritmii identifică semnale de avertizare, atât în postările utilizatorilor cât și în comentariile prietenilor care le răspund. După ce a primit confirmarea de la o echipă de evaluare a Facebook, compania îi contactează pe acei membri care fac parte din grupul de risc și le sugerează modalități prin care pot căuta ajutor. Momentan, instrumentul este în curs de testare în SUA. Totodată, marchează prima utilizare a tehnologiei AI pentru evaluarea mesajelor din rețea, încă de când fondatorul Mark Zuckerberg a anunțat luna trecută că speră să folosească algortimii și pentru a identificia postările teroriștilor. 

În același timp, Facebook a anunțat noi metode de a identifica comportamentul suicidal în postările LIVE și a făcut parteneriate cu diferite organizații de sănătate mintală pentru a permite utilizatorilor vulnerabili să fie contactați de specialiști în aplicația de Messenger. 

Acest anunț vine în urma decesului unei fete de 14 ani, din Miami, care și-a transmis live sinuciderea pe Facebook în luna ianuarie a acestui an.