TikTok a anunțat concedieri masive în echipele de moderare. Compania mizează tot mai mult pe inteligența artificială

TikTok intenționează să reducă sute de posturi din cadrul echipelor sale de încredere și siguranță (trust and safety), în contextul unei reorganizări globale prin care compania își propune să se bazeze într-o măsură tot mai mare pe instrumente de moderare bazate pe inteligență artificială.

TikTok pregătește concedieri masive în echipele de moderare

Platforma de socializare a anunțat miercuri că va reduce numărul angajaților din Irlanda cu aproximativ 300 de posturi. Compania a precizat pentru The Independent că procesul de consultare va include și echipe din alte piețe, fără a specifica însă țările care vor fi afectate de restructurări.

Moderatorii de conținut au rolul de a identifica și elimina materialele periculoase sau dăunătoare de pe platformă. Pe TikTok, conținutul este distribuit pentru moderare în funcție de limbă și nu de regiune, ceea ce înseamnă că reducerea numărului de moderatori poate avea efecte asupra utilizatorilor din întreaga lume, nu doar asupra celor dintr-o anumită țară.

Compania a explicat că aceste reduceri de personal fac parte dintr-o reorganizare menită să consolideze modelul operațional global pentru siguranță și încredere, inclusiv prin utilizarea celor mai noi inovații tehnologice.

Anul trecut, peste 400 de angajați din echipa de trust and safety a TikTok au părăsit birourile din Londra

Anunțul vine după ce, anul trecut, peste 400 de angajați din echipa de trust and safety a TikTok au părăsit birourile companiei din Londra. Aceste plecări au determinat parlamentarii britanici să analizeze impactul pe care reducerile de personal îl pot avea asupra siguranței online. În luna noiembrie, președinta comisiei guvernamentale pentru știință, inovare și tehnologie din Marea Britanie, Dame Chi Onwurah, a avertizat că reducerile de personal de la TikTok ar putea reprezenta un risc real pentru siguranța utilizatorilor și a pus sub semnul întrebării capacitatea platformei de a-i proteja.

De asemenea, unii moderatori au atras atenția că diminuarea echipelor responsabile de siguranță și moderare ar putea expune utilizatorii la conținut dăunător, inclusiv materiale de tip deepfake și diferite forme de abuz online.

Potrivit datelor prezentate de TikTok, în perioada ianuarie-aprilie a acestui an, 97% dintre materialele eliminate de pe platformă au fost identificate și șterse cu ajutorul tehnologiilor automate. Totodată, compania susține că 99% dintre conținuturile eliminate prin intermediul inteligenței artificiale au fost șterse înainte de a fi raportate de utilizatori.

Sistemele de inteligență artificială utilizate pentru moderare nu sunt încă pregătite pentru implementarea pe scară largă

Cu toate acestea, unii moderatori care au discutat anterior cu publicația menționată au afirmat că sistemele de inteligență artificială utilizate pentru moderare nu sunt încă pregătite pentru implementarea pe scară largă. Un angajat a declarat că instrumentele AI fac frecvent erori în identificarea conținutului problematic.

Potrivit acestuia, modelele de inteligență artificială dezvoltate pentru detectarea armelor pot interpreta greșit anumite gesturi realizate cu mâinile, identificându-le în mod eronat ca arme de foc. De asemenea, sistemele destinate recunoașterii imaginilor cu sânge ar putea clasifica în mod greșit pete sau urme de pe pereți drept conținut violent.

Probleme apar și în secțiunile de comentarii, unde moderatorii susțin că inteligența artificială întâmpină dificultăți în identificarea așa-numitelor jocuri de tip „cat and mouse”, prin care utilizatorii folosesc anumite combinații de emoji-uri pentru a evita detectarea automată și pentru a încălca regulile comunității.

Anunțul privind noile concedieri vine într-un context în care platformele de socializare sunt supuse unor presiuni tot mai mari pentru a proteja copiii de conținutul dăunător din mediul online. Luna trecută, premierul britanic Sir Keir Starmer a anunțat că utilizatorii cu vârsta sub 16 ani vor avea interzis accesul la rețelele sociale începând cel mai devreme din primăvara anului 2027.

Ca reacție la această măsură, TikTok a transmis că intenționează să colaboreze cu autoritățile britanice în privința acestei inițiative.

Un purtător de cuvânt al companiei a precizat că reorganizarea propusă urmărește consolidarea modelului operațional global pentru siguranță și încredere, menținerea unor echipe flexibile și scalabile, crearea a sute de noi posturi specializate în Dublin, identificarea unor oportunități de redistribuire a angajaților și îmbunătățirea siguranței platformei prin utilizarea celor mai noi tehnologii.