Conținutul generat de AI. ANCOM: Oamenii ar trebui să poată raporta direct platformelor online

ANCOM a precizat că primul pas în combaterea materialelor generate sau manipulate cu ajutorul IA, care nu sunt etichetate în mod clar, este raportarea acestora pe platformele unde au fost publicate.

ANCOM a atras atenția asupra riscului crescut pe care îl prezintă utilizarea deepfake-urilor rău-intenționate, în special în perioade sensibile precum alegerile.

Instituția a subliniat că utilizatorii trebuie să aibă posibilitatea de a semnala conținutul suspect, iar platformele ar trebui să ofere interfețe prietenoase și instrumente accesibile pentru a adăuga etichete clare privind originea artificială a materialului.

De asemenea, a fost recomandată ajustarea termenilor și condițiilor de utilizare, precum și aplicarea riguroasă a acestora pentru a limita răspândirea dezinformării.

ANCOM crede că deepfake-urile, în cazul alegerilor, reprezintă un risc sistemic

ANCOM a menționat că, potrivit Regulamentului european privind inteligența artificială, deepfake-ul este definit ca un conținut vizual, audio sau video generat ori manipulat de IA, care poate induce în eroare privitorul, creând impresia de autenticitate.

În sprijinul furnizorilor de platforme online și motoare de căutare foarte mari, Comisia Europeană a emis recent un set de orientări pentru diminuarea riscurilor sistemice în timpul proceselor electorale. Acestea includ recomandări privind acțiuni care să fie implementate înainte, în timpul și după alegeri, pentru a preveni manipularea opiniei publice prin conținut generat artificial.

Ghiduri pentru utilizatori și supraveghere europeană

Pentru a facilita acțiunile utilizatorilor împotriva conținutului problematic, ANCOM a publicat pe site-ul său informații detaliate despre cum se pot semnala neregulile către marile platforme.

În același timp, Directoratul Național de Securitate Cibernetică (DNSC) a lansat un ghid destinat identificării deepfake-urilor, iar Autoritatea Electorală Permanentă (AEP) a elaborat un set de recomandări pentru combaterea dezinformării în rândul alegătorilor.

ANCOM a reamintit, în final, că platformele online mari sunt supuse supravegherii Comisiei Europene sau a autorităților din statele în care își desfășoară activitatea, acestea având obligația de a respecta reglementările europene privind IA, chiar înainte ca acestea să intre în vigoare oficial.

Care sunt, de fapt, atribuțiile ANCOM