Recunoaștere facială, „deepfakes”, ChatGPT: Parlamentul European votează azi reglementarea Inteligenței Artificiale

Uniunea Europeană intenționează să stabilească primul cadru legal din lume împotriva exceselor inteligenței artificiale (IA). În sesiune plenară la Strasbourg, Parlamentul European trebuie să adopte, miercuri, 14 iunie, poziția sa cu privire la „Legea Inteligenței Artificiale”, propunere de regulament depusă în aprilie 2021 de Comisia Europeană.

Textul va face apoi obiectul unei serii de negocieri între diferitele instituții în vederea ajungerii la un acord. Dacă va fi adoptat înainte de sfârșitul anului, proiectul va intra în vigoare „cel mai devreme la sfârșitul lui 2025”, a declarat pentru AFP comisarul european pentru Digital, Thierry Breton, la începutul lunii iunie.

Limite stricte ale recunoașterii faciale

Proiectul european se bazează pe o clasificare a inteligenței artificiale în funcție de nivelul de „risc” pe care îl prezintă. UE intenționează astfel să interzică sistemele care prezintă un „risc inacceptabil” deoarece constituie o „amenințare pentru oameni”, scrie site-ul Parlamentului European. Această categorie include în special „sisteme de identificare biometrică în timp real și de la distanță”, cum ar fi recunoașterea facială în locuri publice.

Proiectul de regulament prezentat de Comisia Europeană prevede însă excepții pentru ca poliția să poată avea acces la aceste dispozitive de identificare, sub rezerva deținerii unei autorizații judiciare sau administrative, pentru prevenirea unui atac terorist, pentru căutarea copiilor dați dispăruți sau a unei persoane supuse la un mandat european după o „crimă gravă”. Eurodeputații au modificat aceste excepții pentru a autoriza utilizarea sistemelor de identificare doar „a posteriori”, și numai „pentru urmărirea penală a infracțiunilor grave și numai după autorizarea judiciară”.

În plus, Uniunea Europeană intenționează să interzică sistemele de rating social, care au ca scop clasificarea persoanelor în funcție de comportamentul lor sau de statutul lor socio-economic. Un astfel de dispozitiv există deja în China pentru a accesa anumite servicii, precum transportul.

Tehnologiile care vizează manipularea persoanelor vulnerabile, cum ar fi copiii sau persoanele cu dizabilități, sunt, de asemenea, vizate de regulament. Acestea includ, de exemplu, jucării echipate cu asistenți vocali care ar încuraja un comportament periculos, se spune în prezentarea proiectului de Regulament. În cele din urmă, această categorie include și sisteme care utilizează „manipulări subliminale” (prin ultrasunete de exemplu) care pot duce la pericol fizic sau psihologic pentru utilizatorii care sunt expuși la acesta.

Controale pentru tehnologiile cu „risc ridicat”

Uniunea Europeană dorește să impună și o serie de reguli privind inteligența artificială considerată „de risc ridicat”. Această categorie include „toate sistemele care vor trebui evaluate de agențiile naționale înainte de implementarea lor”, a declarat pentru Franceinter Nathalie Devillier, doctor în drept și expert pentru Comisia Europeană în probleme de inteligență artificială.

Inteligența artificială utilizată în domenii sensibile, cum ar fi gestionarea și operarea infrastructurii critice, educația, resursele umane, aplicarea legii sau chiar gestionarea migrației și controlului la frontieră, sunt deosebit de preocupante. Eurodeputații au adăugat la această listă și sistemele folosite „pentru a influența alegătorii în timpul campaniilor politice” , precum și dispozitivele „sisteme de recomandare folosite de platformele de social media”, se spune într-un comunicat de presa al Parlamentului.

Aceste tehnologii vor fi supuse mai multor obligații, inclusiv necesitatea de a asigura controlul uman sau de a înființa un sistem de management al riscurilor. Respectarea regulilor va fi monitorizată de autoritățile de supraveghere desemnate din fiecare țară membră. Deputații europeni doresc, de asemenea, să susțină dreptul cetățenilor de a depune plângeri împotriva sistemelor de inteligență artificială și de a primi explicații cu privire la deciziile bazate pe tehnologii clasificate drept „risc ridicat”.

Reguli de transparență pentru IA cu „risc limitat”

În sectoarele în care riscurile sunt considerate „limitate” , Comisia și Parlamentul European pledează pentru reguli de „transparență minimă” . Utilizatorii vor trebui anunțați că se confruntă cu o IA. Aceasta include în special aplicațiile care generează sau manipulează conținut audiovizual, cum ar fi deepfakes.

Cu toate acestea, aceste tehnologii nu vor face obiectul unei evaluări prealabile înainte de a fi introduse pe piață. „ Operatorul va putea să-și opereze sistemul imediat, dar are o obligație de transparență, trebuie să explice cum funcționează sistemul”, rezumă Nathalie Devillier.

În cele din urmă, în zonele în care riscurile sunt considerate „minime”, textul nu prevede „nici un cadru specific” . Obiectele conectate ale vieții de zi cu zi ale casei, precum mașinile de spălat, frigiderele, precum și ceasurile conectate, ar intra în această categorie.

Cerințe specifice pentru AI generative precum ChatGPT

Regulamentul intenționează, de asemenea, să ia mai bine în considerare AI-urile de conținut generativ, cum ar fi ChatGPT sau Midjourney, prin impunerea unor reguli de transparență asupra acestora. Pe lângă necesitatea de a informa în mod clar utilizatorul că acesta este în contact cu un sistem IA, aplicațiile vor mai trebui să precizeze că un conținut (imagine, sunet, text) a fost creat artificial.

De asemenea, trebuie precizat că aceste tehnologii nu pot fi „utilizate greșit pentru a falsifica realitatea sau pentru a-i induce în eroare pe cei care le respectă”, spune Geoffroy Didier, vicepreședinte al comisiei pentru inteligența artificială din Parlamentul European, pentru France info.

Deputații mai doresc ca toate companiile din spatele acestor sisteme să fie forțate să elaboreze un model care să împiedice generarea de conținut ilegal. În plus, aceștia vor fi obligați să publice datele care, protejate prin drepturi de autor (texte științifice, muzică, fotografii etc.), au fost folosite pentru dezvoltarea algoritmilor lor.