Cine poate citi conversațiile tale cu ChatGPT și ce se întâmplă cu informațiile personale

Conversațiile purtate cu ChatGPT pot fi analizate de persoane reale, iar unele dialoguri pot ajunge la evaluatori umani. Mai exact, potrivit unei informații publicate de 404 Media, OpenAI a angajat sute de oameni pentru a studia conversații reale purtate de utilizatori cu ChatGPT și pentru a evalua răspunsurile generate de rețeaua neuronală.

Ce nu știai despre conversațiile cu ChatGPT: oameni reali pot vedea dialogurile

Evaluatorii pot avea acces la conversații complete, inclusiv la informații personale care apar în mesajele utilizatorilor. Analizarea acestor dialoguri are ca scop îmbunătățirea modului în care funcționează programul și evaluarea răspunsurilor oferite de inteligența artificială.

Accesul unor persoane reale la aceste conversații ridică însă întrebări legate de protejarea vieții private. Criticii se tem că informațiile introduse de utilizatori în discuțiile cu ChatGPT ar putea ajunge la persoane din afara cercului direct al utilizatorului, chiar dacă există măsuri pentru eliminarea datelor personale.

Cum sunt protejate informațiile personale

OpenAI susține că încearcă să elimine automat datele personale din conversații înainte ca acestea să fie transmise pentru evaluare. Potrivit companiei, persoanele care verifică dialogurile nu văd numele utilizatorilor.

Mecanismul automat de filtrare nu este însă infailibil. OpenAI recunoaște că unele detalii private pot trece de acest filtru și pot rămâne vizibile pentru cei care analizează conversațiile.

Acest lucru înseamnă că un dialog selectat pentru verificare poate conține, în anumite situații, informații care permit identificarea unor date personale. Evaluatorii analizează astfel de conversații pentru a verifica modul în care răspunde sistemul și pentru a identifica anumite comportamente ale modelului.

Datele analizate nu sunt folosite, potrivit informațiilor prezentate, pentru a discuta despre utilizatori în sine, ci pentru evaluarea și îmbunătățirea sistemului. Totuși, posibilitatea ca persoane reale să poată vedea conversații complete reprezintă elementul care a atras atenția asupra modului în care sunt tratate aceste date.

Ce este „Project Lily”

Programul prin care sunt analizate astfel de conversații a primit denumirea internă „Project Lily”. Pentru acest proiect, colaboratorii sunt angajați, printre alții, prin intermediul Mercor și Crossing Hurdles.

Sarcina lor este să examineze comportamentul modelului și răspunsurile acestuia la solicitările utilizatorilor. O parte a activității urmărește să identifice și să reducă anumite tipare considerate nedorite în modul de interacțiune al ChatGPT.

Evaluatorii trebuie, printre altele, să descurajeze modelul să fie excesiv de amabil în răspunsurile sale. De asemenea, aceștia urmăresc ca sistemul să nu încerce să se „umanizeze” și să nu adopte alte obiceiuri nedorite.

Prin analizarea conversațiilor reale, evaluatorii pot observa felul în care modelul reacționează la situații și solicitări diferite. Informațiile rezultate din aceste verificări sunt folosite pentru evaluarea răspunsurilor și pentru ajustarea comportamentului sistemului.

Posibilitatea ca astfel de verificări să includă conversații întregi, precum și faptul că filtrarea automată a datelor personale poate permite trecerea unor detalii private, rămân aspecte importante ale procesului descris în informațiile despre „Project Lily”.