OpenAI introduce marcaje invizibile în conținutul ChatGPT pentru respectarea normelor europene

Compania americană OpenAI a anunțat introducerea marcajelor invizibile „textGrain” în conținutul ChatGPT și lansarea open-source a detectorului aferent.

OpenAI introduce marcaje invizibile în conținutul ChatGPT pentru respectarea normelor europene

Compania americană OpenAI a anunțat introducerea unui sistem de marcaje digitale invizibile în textele și codul de programare generate de ChatGPT, în vederea conformării la noile reglementări privind inteligența artificială din Uniunea Europeană. Urmând modelul adoptat anterior de compania Anthropic, tehnologia denumită „textGrain” are scopul de a permite identificarea conținutului sintetic și diferențierea acestuia de materialele redactate de oameni.

Procesul de verificare se bazează pe utilizarea unui detector specializat, conceput pentru a recunoaște amprenta invizibilă integrată în structura textelor sau a secvențelor de cod. Această unealtă va analiza conținutul la recepție pentru a confirma dacă a fost generat de sistemele de inteligență artificială.

Deși OpenAI susține că tehnologia textGrain oferă performanțe superioare în comparație cu alte soluții de marcare existente pe piață, compania admite că nu poate garanta o precizie absolută în toate circumstanțele. Prin urmare, rămâne posibilă apariția unor erori de evaluare, cum ar fi eșecul depistării conținutului generat automat sau clasificarea eronată a textelor scrise de oameni drept produse ale inteligenței artificiale.

OpenAI publică gratuit detectorul de texte din cauza erorilor la textele scurte

Potrivit reprezentanților companiei, cele mai mari dificultăți de identificare sunt preconizate în cazul textelor de dimensiuni reduse, unde rata de succes a detectării este estimată la aproximativ 80%. Eficiența instrumentului scade și mai mult atunci când conținutul generat automat este supus unei prelucrări umane ulterioare, fapt ce complică procesul de verificare.

În acest context, OpenAI a anunțat că va publica sistemul de detecție sub o licență open-source. Măsura are ca scop stimularea colaborării cu alți dezvoltatori și organizații terțe, oferindu-le posibilitatea de a optimiza și adapta tehnologia pentru scenarii specifice de utilizare.