OpenAI înăsprește regulile ChatGPT pentru adolescenți. Accesul la informații despre arme și violență va fi limitat

OpenAI înăsprește regulile de utilizare a ChatGPT pentru adolescenți, limitând accesul la informații practice despre arme, sisteme de securitate și atacuri violente. Măsurile urmăresc prevenirea unor posibile acte de violență și protejarea minorilor.

OpenAI înăsprește regulile ChatGPT pentru adolescenți. Accesul la informații despre arme și violență va fi limitat

OpenAI a anunțat vineri înăsprirea restricțiilor privind informațiile despre arme și sisteme de securitate oferite adolescenților prin intermediul ChatGPT. Noile reguli urmăresc să prevină utilizarea acestor informații în scopuri periculoase și se vor aplica inclusiv conversațiilor în care întrebările par inofensive, dar răspunsurile ar putea avea consecințe în lumea reală.

Astfel, utilizatorii cu vârsta sub 18 ani vor avea acces limitat la informații practice despre arme și sisteme de securitate care ar putea fi folosite în scopuri periculoase, chiar dacă discuțiile nu indică intenții violente. Măsurile sunt introduse pe fondul preocupărilor tot mai mari legate de riscurile pe care chatboturile bazate pe inteligență artificială le pot reprezenta pentru minori.

Noile restricții vor viza și utilizatorii adulți. ChatGPT va putea încheia automat conversațiile în care o persoană manifestă un interes persistent pentru violență. OpenAI ar putea suspenda temporar conturile celor care inițiază în mod repetat astfel de discuții.

Compania a anunțat și îmbunătățirea sistemului de estimare a vârstei, pentru a identifica mai eficient utilizatorii care au probabil sub 18 ani. Conturile acestora vor fi transferate către versiunea ChatGPT destinată adolescenților, care include măsuri suplimentare de protecție.

În cazul minorilor, părinții vor fi informați dacă un cont este suspendat ca urmare a unor discuții repetate despre violență.

OpenAI limitează informațiile despre atacurile armate în masă

OpenAI va reduce, de asemenea, nivelul de detaliu al informațiilor oferite despre atacurile armate în masă din trecut. Restricțiile vor viza inclusiv informațiile despre armele folosite și modalitățile prin care autorii atacurilor le-au procurat. Noile măsuri vor fi introduse treptat în următoarele săptămâni, urmând să fie ajustate ulterior.

Anunțul vine într-un context în care companiile de inteligență artificială sunt supuse unei supravegheri tot mai stricte în privința protecției minorilor și a identificării comportamentelor care ar putea indica riscuri de vătămare.

La începutul lunii octombrie, OpenAI a publicat primul raport privind utilizarea ChatGPT de către adolescenți. Potrivit documentului, aceștia petrec, în medie, mai puțin de 15 minute pe zi pe platformă.

Separat, organizația nonprofit Common Sense Media a constatat că versiunea ChatGPT destinată adolescenților nu a oferit întotdeauna avertizări prompte părinților atunci când minorii au purtat conversații despre sinucidere, autovătămare sau tulburări alimentare. În unele cazuri, notificările au fost transmise cu întârziere, iar în altele nu au fost trimise deloc.