OpenAI, acuzată că a încălcat de mai multe ori legea AI în SUA. Acuzațiile vizează GPT-5.6 și noul GPT-6 Astra

OpenAI este acuzată de organizația Midas Project că nu a respectat în cel puțin trei situații din acest an cerințele unei legi din California privind siguranța inteligenței artificiale. Cea mai recentă acuzație vizează lansarea GPT-6 Astra și modul în care compania a evaluat riscul ca sistemele sale să scape de sub controlul oamenilor.

OpenAI este acuzată că nu și-a respectat propriul cadru de siguranță

Disputa are la bază Transparency in Frontier AI Act, cunoscută anterior drept SB 53. Legea a fost promulgată în California în septembrie 2025 și a intrat în vigoare la începutul acestui an.

Actul normativ obligă cei mai mari dezvoltatori de inteligență artificială să publice cadre de siguranță în care să explice cum evaluează și reduc riscurile generate de sistemele lor. Companiile trebuie apoi să respecte politicile pe care și le-au stabilit.

OpenAI a publicat în luna mai propriul Frontier Governance Framework. Documentul prevede evaluarea fiecărui model nou în funcție de patru categorii de risc: atacuri cibernetice, riscuri chimice, biologice, radiologice și nucleare, manipulare dăunătoare și pierderea controlului.

Fiecărei categorii ar trebui să îi fie atribuit un nivel de risc de la unu la trei, iar nivelurile respective determină măsurile de protecție pe care compania s-a angajat să le aplice.

Midas Project susține însă că aceste niveluri nu au fost publicate pentru niciunul dintre modelele importante lansate de OpenAI după adoptarea cadrului din mai, transmite Fortune.

Acuzațiile vizează GPT-5.6 și noul GPT-6 Astra

Potrivit analizei organizației, nivelurile de risc lipsesc în cazul GPT-5.6 preview, lansat în iunie, GPT-5.6, lansat în iulie, și GPT-6 Astra, prezentat săptămâna trecută.

Documentele de sistem publicate pentru aceste modele nu ar conține secțiuni corespunzătoare celor patru categorii prevăzute în Frontier Governance Framework și nici nivelurile de risc stabilite prin această politică.

„Legea SB 53 din California obligă companiile AI să adopte aceste politici de siguranță și să le respecte”, a declarat Tyler Johnston, fondatorul Midas Project.

Potrivit acestuia, companiile au libertatea de a-și stabili propriile reguli, dar, odată stabilite, trebuie să le respecte.

Nerespectarea legii poate atrage sancțiuni de până la un milion de dolari pentru fiecare încălcare, în funcție de gravitatea acesteia.

OpenAI respinge acuzațiile și spune că respectă legea

OpenAI contestă interpretarea Midas Project și susține că respectă cerințele legislației din California.

„Investim masiv în evaluarea riscurilor emergente și dezvoltarea măsurilor de protecție, publicând rezultatele prin documentele noastre de sistem și cadrele de siguranță”, a transmis un purtător de cuvânt al companiei.

OpenAI a evaluat GPT-5.6 și GPT-6 printr-un alt sistem intern, denumit Preparedness Framework.

În cazul Astra, compania a stabilit pentru riscul cibernetic nivelul „critical”, cel mai ridicat prag prevăzut de acest sistem. Acesta indică faptul că modelul poate executa în mod autonom atacuri cibernetice avansate.

OpenAI susține că Preparedness Framework rămâne baza abordării sale pentru gestionarea celor mai grave riscuri generate de inteligența artificială, în timp ce Frontier Governance Framework explică modul în care practicile respective sunt aliniate cerințelor de reglementare.

Problema „pierderii controlului” se află în centrul disputei

Midas Project atrage însă atenția asupra unei diferențe importante. Preparedness Framework nu ar include o evaluare distinctă pentru riscul de „pierdere a controlului”, deși această categorie apare explicit în Frontier Governance Framework.

Tocmai acest risc a devenit sensibil după mai multe incidente recente în care agenții AI ai OpenAI au manifestat comportamente neașteptate.

În iulie, compania a dezvăluit că modelele sale au ieșit dintr-un mediu controlat de testare, au exploatat vulnerabilități pentru a accesa internetul și au lansat ulterior un atac cibernetic autonom împotriva companiei de inteligență artificială Hugging Face.

OpenAI a descris ulterior incidentul drept un „semnal de alarmă”.

La începutul lunii septembrie, cercetătorii au dezvăluit un alt caz. Mii de agenți autonomi ai OpenAI au ajuns să folosească un vechi forum wiki german pentru a comunica între ei. În aproximativ șase săptămâni au publicat circa 18.000 de mesaje, prin care au schimbat răspunsuri, și-au coordonat activitățile și au împărtășit informații despre modalități de ocolire a mediilor izolate în care trebuiau să funcționeze.

Astra are sisteme pentru detectarea comportamentelor nealiniate

Documentația publicată pentru Astra abordează problema capacității oamenilor de a controla și direcționa modelul și descrie inclusiv un sistem de monitorizare în timp real a comportamentelor nealiniate.

Midas Project susține însă că documentul nu precizează nivelul atribuit riscului de pierdere a controlului în sistemul stabilit de Frontier Governance Framework.

În consecință, organizația afirmă că nu poate fi determinat din informațiile publicate dacă măsurile implementate pentru Astra sunt cele cerute de propriul cadru al OpenAI pentru nivelul de risc în care se încadrează modelul.

„Este deosebit de îngrijorător deoarece este vorba despre pierderea controlului”, a declarat Brittney Gallagher, vicepreședinte și Senior Program Manager în cadrul Midas Project.

Organizația a mai acuzat OpenAI de încălcarea legii

Nu este prima dispută dintre cele două părți privind respectarea legislației din California.

În februarie, Midas Project a acuzat OpenAI că a încălcat legea odată cu lansarea GPT-5.3-Codex. Sam Altman afirmase că modelul de programare a fost primul care a atins pragul de risc cibernetic „high”.

Organizația a susținut atunci că OpenAI nu a implementat măsurile suplimentare de siguranță pe care atingerea pragului respectiv le-ar fi impus.

Compania a respins și acea acuzație. OpenAI a argumentat că măsurile suplimentare erau necesare numai atunci când riscul cibernetic ridicat era combinat cu o capacitate de autonomie pe termen lung, caracteristică pe care GPT-5.3-Codex nu ar fi avut-o.

Disputa privind Astra apare într-un moment în care incidentele de securitate asociate agenților autonomi au intensificat discuțiile despre reglementarea industriei. California este în prezent singurul stat american care obligă dezvoltatorii de modele AI de frontieră să respecte propriile angajamente de siguranță, în timp ce o lege similară din New York urmează să intre în vigoare la începutul anului viitor.