EXCLUSIV. Tehnologia deepfake a schimbat regulile în securitatea video. Autenticitatea imaginilor devine tot mai greu de garantat

Tehnologia deepfake a devenit în ultimii ani una dintre cele mai discutate provocări în domeniul securității digitale și al supravegherii video. Andrei Gavriliu, Sales Engineer în cadrul AXIS Communications, a explicat pentru Capital cum evoluția rapidă a conținutului generat cu ajutorul inteligenței artificiale schimbă fundamental modul în care este privit materialul video în investigații, justiție și securitate publică.

Potrivit explicațiilor oferite de reprezentantul AXIS Communications pentru Capital, deepfake-ul a trecut de la o tehnologie experimentală la o amenințare concretă, cu utilizări tot mai sofisticate, inclusiv impersonare în timp real sau modificarea conținutului video existent. Organizații internaționale precum Europol și NIST au atras deja atenția că diferențierea dintre conținutul autentic și cel generat artificial devine din ce în ce mai dificilă.

Tehnologia deepfake schimbă regulile în securitatea video

Această evoluție are un impact direct asupra sistemelor de supraveghere video, unde materialele înregistrate reprezintă adesea probe esențiale. Convergența dintre amenințările cibernetice și manipularea conținutului video ridică probleme privind încrederea în integritatea imaginilor utilizate în anchete sau în spațiul public.

Multe dintre sistemele tradiționale de supraveghere sunt vulnerabile la manipulări bazate pe inteligență artificială, mai ales atunci când nu există mecanisme de securizare încă din momentul captării imaginii. În numeroase configurații, verificarea autenticității se realiza abia după procesarea sau transmiterea materialului, ceea ce îngreunează trasabilitatea și lanțul de custodie.

„Tehnologia deepfake a evoluat rapid în ultimii ani, trecând de la o poziționare de nișă la o preocupare reală și în creștere în materie de securitate. Observăm deja cazuri de utilizare tot mai sofisticate, de la impersonare în timp real până la manipularea sau eliminarea unor elemente din conținutul video. Instituții precum Europol și NIST (National Institute of Standards and Technology) au subliniat deja că aceste evoluții fac semnificativ mai dificilă diferențierea între conținut autentic și cel sintetic.

Din perspectiva supravegherii, acest lucru creează noi provocări, mai ales în contextul în care materialele video continuă să joace un rol esențial în investigații și în asigurarea siguranței publice. Așa cum a subliniat și colegul nostru Andrea Sorri, implicat în dezvoltarea soluțiilor Smart City, preocupările legate de deepfake cresc în paralel cu amenințările cibernetice mai ample care vizează sistemele video. Această convergență este deosebit de importantă, deoarece afectează direct autenticitatea probelor vizuale și nivelul de încredere pe care atât autoritățile, cât și publicul îl pot avea în acestea”, a explicat specialistul pentru Capital.

Situația este agravată de limitele actuale ale instrumentelor de detecție AI

Această situație este agravată de limitele actuale ale instrumentelor de detecție AI, care pot fi ineficiente în scenarii reale, în special dacă materialul video a fost editat sau comprimat.

În acest context, industria se îndreaptă către soluții care securizează conținutul video direct la sursă. Un exemplu este tehnologia Axis Signed Video, care introduce o semnătură criptografică în momentul captării imaginii, direct în fluxul video. Aceasta este legată de dispozitivul de înregistrare și integrată în formatele H.264 și H.265 prin cadre SEI (Supplemental Enhancement Information), ce transportă metadate fără a afecta redarea video. Astfel, orice modificare ulterioară a conținutului poate fi detectată, iar originea materialului poate fi verificată.

„Sistemele de supraveghere video pot fi vulnerabile la manipulări bazate pe AI, în special atunci când autenticitatea imaginilor nu este securizată încă din momentul captării. În multe configurații tradiționale, mecanismele de verificare erau aplicate abia după ce materialul video fusese deja procesat sau transmis. Acest lucru face mai dificilă trasabilitatea imaginilor până la un anumit dispozitiv, ceea ce slăbește atât proveniența, cât și lanțul de custodie — două elemente esențiale în investigații. Această problemă este amplificată de limitările actuale ale instrumentelor de detecție AI, care pot întâmpina dificultăți în condiții reale și devin mai puțin fiabile odată ce conținutul a fost editat sau comprimat.

De aceea, industria se îndreaptă către securizarea materialului video chiar la sursă. Tehnologii precum Axis Signed Video integrează o semnătură criptografică direct în fluxul video, în momentul captării, utilizând o cheie unică pentru fiecare dispozitiv, stocată în siguranță în interiorul camerei, ca parte a formatului codec video (H264 și H265), prin intermediul cadrelor SEI (Supplemental Enhancement Information – unități de date din fluxul video care transportă metadate suplimentare fără a afecta decodarea de bază a imaginii) ce conțin metadate. Deoarece semnătura este legată de dispozitivul specific și este aplicată înainte ca materialul video să părăsească camera, devine posibilă atât verificarea autenticității imaginilor, cât și a originii acestora, precum și detectarea oricăror modificări ulterioare”, a explicat Andrei Gavriliu.

Există deja situații în care instanțele au fost nevoite să analizeze autenticitatea materialelor video

Deși jurisprudența privind deepfake-ul este încă în dezvoltare, există deja situații în care instanțele au fost nevoite să analizeze autenticitatea materialelor video. Un caz timpuriu menționat de National Center for State Courts a implicat probe considerate generate de AI, nu autentice, ceea ce confirmă că fenomenul a intrat deja în zona juridică reală.

Totodată, apare tot mai frecvent ceea ce este numit „apărarea deepfake”, prin care autenticitatea unor înregistrări reale este contestată pe baza suspiciunii că ar fi fost manipulate. Europol avertizează că această tendință poate pune presiune suplimentară pe autorități și pe sistemele judiciare, care vor trebui să demonstreze nu doar conținutul unei înregistrări, ci și credibilitatea sa.

„Există deja exemple timpurii, deși jurisprudența specifică privind probele video deepfake rămâne încă limitată. Unul dintre primele cazuri raportate, menționat de National Center for State Courts (NCSC), a implicat probe video pe care o instanță le-a identificat ca fiind generate de AI, și nu autentice. Acest lucru arată că problema nu mai este una teoretică — începe să apară în contexte juridice reale. În același timp, asistăm la apariția a ceea ce este adesea numit „apărarea deepfake”, în care autenticitatea unor înregistrări reale este pusă sub semnul întrebării prin sugestia că ar fi putut fi manipulate. Europol a avertizat, de asemenea, că această tendință ar putea pune presiune suplimentară asupra forțelor de ordine și a sistemelor judiciare, deoarece acestea vor trebui tot mai des să demonstreze nu doar ceea ce este prezentat într-un material video, ci și faptul că acel material poate fi de încredere.

Această schimbare este importantă, deoarece modifică rolul probelor video — de la ceva considerat în mod general fiabil, la ceva care necesită, în mod explicit, verificare.”, a subliniat acesta.

Soluțiile bazate pe semnare criptografică la sursă leagă autenticitatea direct de dispozitivul de captare

Un aspect important este diferența dintre noile metode de autentificare și soluțiile tradiționale. Potrivit AXIS Communications, abordările mai vechi marcau sau verificau materialul video abia după ce acesta părăsea camera, ceea ce reducea nivelul de încredere în lanțul de custodie.

În schimb, soluțiile bazate pe semnare criptografică la sursă leagă autenticitatea direct de dispozitivul de captare, oferind o dovadă tehnică a integrității materialului. În clasificările NIST, metode precum watermarking-ul sau detecția conținutului sintetic sunt considerate utile, dar probabilistice, în timp ce semnarea criptografică oferă un nivel mai ridicat de certitudine privind autenticitatea.

„Diferența esențială este că Axis Signed Video reprezintă un mecanism criptografic de autentificare aplicat chiar în momentul captării, nu doar un pas ulterior de detecție. Potrivit Axis, metodele mai vechi semnau materialul video abia după ce acesta părăsea camera, în timp ce Axis și ONVIF (standard deschis pentru interoperabilitatea echipamentelor de supraveghere video IP – camere, NVR-uri – Open Network Video Interface Forum) descriu semnarea la nivel de sursă, care leagă autenticitatea direct de dispozitivul care a realizat captarea. În clasificarea NIST, alte abordări, precum: urmărirea provenienței, watermarking-ul sau detecția conținutului sintetic, rămân utile, însă detecția este, prin natura sa, probabilistică, în timp ce semnarea media este concepută pentru a oferi o dovadă criptografică directă că materialul captat nu a fost modificat ulterior”, a mai spus Andrei Gavriliu.

Un alt aspect important este ușurința de utilizare a acestor instrumente

Un alt aspect important evidențiat de specialist este ușurința de utilizare a acestor instrumente. AXIS Communications a dezvoltat un tool gratuit, accesibil direct din browser, numit Signed Media Verifier. Acesta permite verificarea autenticității unui fișier video fără instalări sau autentificări suplimentare.

Procesul este simplu: utilizatorul încarcă fișierul video, iar verificarea este realizată local, în browser, fără ca materialul să fie transmis către servere externe. Această abordare asigură atât securitatea datelor, cât și accesibilitatea pentru utilizatori fără pregătire tehnică.

Instrumentul este conceput astfel încât să poată fi utilizat de categorii diverse de profesioniști, de la investigatori și jurnaliști până la specialiști din domeniul juridic, oferind un răspuns rapid privind autenticitatea materialului video.

„Instrumentul este conceput pentru a fi foarte ușor de utilizat, chiar și pentru persoane fără pregătire tehnică. Axis Signed Video poate fi verificat folosind un tool gratuit, disponibil în browser, numit Signed Media Verifier. Nu necesită instalare sau autentificare, iar procesul în sine este simplu — trebuie doar să încarci fișierul și primești rezultatul în câteva secunde. Un aspect important este că verificarea se face local, în browser, astfel încât materialul video nu părăsește dispozitivul utilizatorului.

Din perspectiva utilizatorului, experiența este intenționat simplificată. Aspectele mai tehnice sunt gestionate „în spate”, în special în ceea ce privește asigurarea păstrării datelor de integritate pe tot parcursul procesului de înregistrare și export.

În practică, acest lucru înseamnă că oricine — de la investigatori la jurnaliști sau profesioniști din domeniul juridic — poate verifica rapid dacă un material video este autentic, fără a avea nevoie de instrumente sau cunoștințe specializate”, a conchis acesta.