Schimbare importantă pe WhatsApp. Inteligența artificială va identifica tentativele de înșelătorie

WhatsApp testează o nouă funcție de securitate bazată pe inteligență artificială, concepută pentru identificarea mesajelor care ar putea face parte din tentative de înșelătorie. Instrumentul anunțat de Meta poartă numele Scam Alert și utilizează tehnologia de învățare automată pentru analizarea situațiilor considerate suspecte. Funcția a fost lansată în versiune beta și este opțională, astfel că utilizatorii trebuie să o activeze din setările aplicației.

WhatsApp va afișa o avertizare atunci când inteligența artificială identifică un mesaj suspect

Noua funcție introdusă pentru WhatsApp are rolul de a semnala utilizatorilor mesajele pe care sistemul bazat pe inteligență artificială le consideră asociate unei posibile tentative de fraudă. Scam Alert utilizează modele de învățare automată pentru a identifica elementele suspecte și pentru a avertiza persoana care primește mesajul.

În momentul în care sistemul detectează un astfel de mesaj, pe ecranul destinatarului apare o avertizare privind posibilitatea ca acesta să fie vizat de o înșelătorie. Expeditorul mesajului respectiv nu vede alerta transmisă de aplicație.

Scopul mecanismului este de a atrage atenția utilizatorului înainte ca acesta să continue interacțiunea cu o persoană sau cu un cont pe care sistemul îl consideră suspect.

Scam Alert nu blochează automat mesajele sau persoanele care le trimit

Inteligența artificială folosită de Scam Alert nu ia însă decizii în locul utilizatorului și nu aplică automat măsuri împotriva expeditorului. Sistemul se limitează la identificarea potențialului risc și la afișarea avertismentului.

După primirea alertei, utilizatorul decide ce face în continuare. Acesta poate raporta expeditorul, îl poate bloca sau poate continua conversația, în funcție de situație și de informațiile pe care le are la dispoziție.

Prin această abordare, decizia finală rămâne la persoana care primește mesajul, inclusiv atunci când există suspiciunea că sistemul automat ar fi putut interpreta greșit conversația.

Utilizatorii WhatsApp vor putea marca drept sigure conversațiile semnalate greșit

Meta a prevăzut și posibilitatea apariției unor alerte eronate, deoarece sistemele bazate pe inteligență artificială pot clasifica drept suspect inclusiv un mesaj legitim primit de la o persoană cunoscută. Într-o asemenea situație, utilizatorul nu este obligat să întrerupă discuția și poate continua conversația.

Dacă știe că persoana respectivă este de încredere, utilizatorul poate marca discuția ca fiind sigură. Această opțiune este importantă pentru modul în care funcționează ulterior sistemul de avertizare.

După marcarea conversației drept sigură, inteligența artificială nu va mai genera pe viitor avertismente pentru mesajele primite de la persoana respectivă.

Noua funcție WhatsApp este disponibilă inițial în versiune beta

Scam Alert nu este impusă automat tuturor utilizatorilor. Meta a lansat instrumentul în versiune beta, ceea ce permite testarea funcției înaintea unei eventuale disponibilități mai extinse.

Funcția este opțională și trebuie activată de utilizator din meniul de configurare al aplicației. Prin urmare, mecanismul de detectare și avertizare asociat Scam Alert va putea fi folosit de persoanele care aleg să îl pornească din setările WhatsApp.