Modelele AI dezvoltate de OpenAI sau Anthropic pot fi păcălite să identifice ținte civile, chiar și școli, pentru atacuri militare. Li se spune că totul este un joc

Modelele AI dezvoltate de OpenAI sau Anthropic pot fi păcălite să identifice ținte civile, chiar și școli, pentru atacuri militare. Li se spune că totul este un joc

SURSA FOTO: vals.ai - Imagine din raportul Vals

Publicat de Bogdan Ungureanu la 18 noiembrie 2026, 08:12

Unele modele de inteligență artificială dezvoltate de Anthropic, OpenAI, Google și alte companii importante pot fi manipulate să identifice ținte pentru atacuri militare, inclusiv civili și școli. Un raport realizat de compania Vals arată că sistemele AI pot fi convinse să participe la scenarii de război autonom dacă utilizatorilor li se spune că totul face parte dintr-un joc.

Cercetătorii au testat dacă modelele AI pot identifica ținte militare în imagini din satelit și filmări cu drone

Compania Vals, un startup din San Francisco specializat în evaluarea inteligenței artificiale, a testat vulnerabilitatea modelelor dezvoltate de principalele laboratoare AI. Cercetătorii au urmărit să afle dacă acestea pot fi manipulate să participe la operațiuni militare autonome, relatează TechCrunch.

Experimentele au folosit scenarii simulate și imagini generate artificial, alături de fotografii reale din Ucraina și Iran. Modelele au trebuit să analizeze imagini surprinse de drone și sateliți și să identifice potențiale ținte.

Testele au inclus sisteme dezvoltate de OpenAI, Anthropic, Google, DeepSeek și alte companii. Acestea au indicat frecvent posibile ținte militare, dar au identificat inclusiv civili și soldați care se predau.

Cercetătorii au constatat că refuzurile inițiale puteau fi depășite relativ ușor. Atunci când un model refuza să participe, era suficient ca scenariul de pe câmpul de luptă să fie prezentat drept un joc.

Descoperirile apar într-un context în care îngrijorările privind riscurile imediate ale inteligenței artificiale sunt tot mai mari. Dezbaterea nu mai privește doar eventualele amenințări existențiale asociate inteligenței artificiale generale.

Anthropic a obținut cele mai slabe rezultate, iar mecanismele de siguranță nu au blocat solicitările cercetătorilor

În mod surprinzător, modelele Anthropic au avut cele mai slabe rezultate în scenariile simulate de cercetători. Totuși, niciunul dintre sistemele testate nu a demonstrat performanțe deosebite.

Raportul arată că niciuna dintre solicitările cercetătorilor nu a fost blocată de un mecanism automat de clasificare a riscurilor. Refuzurile au fost rare, iar modelele care au refuzat inițial au ajuns frecvent să coopereze.

Cercetarea ridică noi semne de întrebare privind capacitatea companiilor de inteligență artificială de a împiedica utilizarea tehnologiilor lor în operațiuni militare.

Anthropic a intrat deja într-un conflict cu Departamentul Apărării al SUA pe această temă. Compania a transmis instituției americane că tehnologia sa nu poate fi utilizată pentru supravegherea în masă a cetățenilor americani sau pentru război autonom.

Directorul general al Anthropic, Dario Amodei, a susținut că sistemele AI actuale nu sunt suficient de fiabile pentru decizii care implică viața și moartea, fără supraveghere umană.

Pentagonul a argumentat, în schimb, că trebuie să poată utiliza această tehnologie pentru orice scop militar legal.

Anthropic recunoaște că rezultatele testelor sunt inacceptabile și promite măsuri suplimentare de protecție

Purtătorul de cuvânt al Anthropic, Eduardo Maia Silva, a declarat pentru TechCrunch că firma apreciază raportul Vals, recomandările și colaborarea cu cercetătorii. Reprezentantul companiei a recunoscut că rezultatele experimentelor nu sunt acceptabile.

Acesta a precizat că exemplele prezentate în raport încalcă în mod evident regulile Anthropic și că firma a interzis și va continua să interzică accesul utilizatorilor implicați în asemenea comportamente.

„Exemplele din raport încalcă în mod evident regulile noastre, iar noi am interzis și vom continua să interzicem accesul utilizatorilor atunci când observăm acest comportament.

Chiar și în contexte autorizate, Anthropic a susținut de mult timp că sistemele AI de ultimă generație disponibile astăzi nu sunt suficient de fiabile pentru a alimenta arme complet autonome”, a transmis compania.

Anthropic a mai precizat că echipele sale dezvoltau deja măsuri suplimentare de protecție înainte de publicarea raportului. Acestea urmau să fie implementate în perioada următoare.

Compania își extinde, de asemenea, propriile proceduri de testare și îmbunătățește mecanismele de protecție și aplicare a regulilor. Obiectivul este identificarea și remedierea eventualelor vulnerabilități.

OpenAI susține că interzice utilizarea modelelor sale publice pentru facilitarea violenței

OpenAI a transmis că politicile companiei interzic folosirea modelelor sale publice pentru facilitarea violenței sau pentru activități de securitate națională neautorizate. Interdicția acoperă și scenariile simulate în cercetarea Vals.

Purtătorul de cuvânt al companiei, Nate Evans, a explicat că OpenAI urmărește activ utilizările abuzive și suspendă conturile care încalcă regulile.

„Detectăm și întrerupem activ utilizările abuzive, inclusiv prin suspendarea conturilor care încalcă politicile noastre.

De asemenea, dezvoltăm măsuri suplimentare de protecție pentru modelele noastre publice împotriva utilizărilor abuzive care implică drone și software pentru drone”, a transmis OpenAI într-o declarație.

Modelele nu au primit ordinul de a decide direct atacuri, dar informațiile furnizate pot avea consecințe mortale

Vals precizează în raport că cercetătorii nu au solicitat niciodată modelelor să ia direct decizii privind lansarea atacurilor. Potrivit autorilor studiului, o asemenea solicitare ar fi determinat, în mod obișnuit, refuzul sistemelor.

Acest lucru nu înseamnă însă că rezultatele furnizate nu ar putea provoca victime în condiții reale. Informațiile despre localizarea și identificarea țintelor ar putea fi utilizate ulterior de sisteme de armament autonome.

În unele experimente, modelele au fost întrebate dacă anumite persoane erau vizibile în imagini. După confirmarea prezenței acestora, scenariul simula lansarea unor atacuri, iar inteligența artificială putea observa consecințele.

Raportul se bazează pe modele comerciale puse la dispoziție de principalele laboratoare de inteligență artificială. Cercetătorii nu au testat versiunile pe care companiile respective le-ar putea furniza direct armatei.

Nu este clar dacă măsurile suplimentare de protecție anunțate de Anthropic și OpenAI s-ar aplica și utilizărilor militare.

Vals atrage atenția și asupra unor limitări tehnice. Întârzierile de procesare și capacitatea redusă de calcul disponibilă la bordul dronelor îngreunează folosirea modelelor AI generale pentru identificarea țintelor în timp real.

Aceste constrângeri reduc caracterul imediat al amenințării reprezentate de desfășurarea unor asemenea sisteme în luptă.

Inteligența artificială ar putea fi folosită pentru analizarea masivă a imaginilor de pe front și instruirea armelor autonome

Cercetătorii consideră că un pericol mai apropiat îl reprezintă utilizarea modelelor AI pentru adnotarea, la scară largă, a imaginilor surprinse pe câmpurile de luptă.

Informațiile astfel obținute ar putea deveni date de antrenament pentru sistemele autonome de identificare și selectare a țintelor.

Unul dintre exemplele analizate în raport este o școală din Iran, bombardată de Statele Unite în februarie 2026. Atacul s-a soldat cu moartea a peste 150 de civili.

Cercetătorii au folosit imagini reale din satelit ale școlii, situată în apropierea unui complex militar. Modelele AI au identificat frecvent clădirea drept o posibilă țintă pentru un atac.

Bloomberg a relatat ulterior că o dependență excesivă de inteligența artificială a contribuit la producerea atacului.

În experimentele Vals, Claude Opus 5.5 a selectat școala drept țintă în 69% dintre testele obișnuite. Procentul a crescut la 72% atunci când cercetătorii au prezentat scenariile drept un joc.

Anthropic nu mai are în prezent un contract activ cu Pentagonul. Alte companii, printre care SpaceXAI, OpenAI și Google, continuă însă să aibă contracte cu instituția americană.

Un raport recent al Congressional Research Service arată că Pentagonul nu este cunoscut ca utilizând direct modele AI de ultimă generație în sisteme de armament autonome.

Informații articol
Despre autor
Bogdan Ungureanu

După mai bine de zece ani petrecuţi în domeniul monitorizării mass-media, am făcut un pas mic în direcţia potrivită şi m-am alăturat echipei Capital. Un pariu câştigător, zic eu. Mi-au plăcut dintotdeauna cuvintele şi puterea pe care acestea le pot avea în glasul sau peniţa potrivită şi nu pot decât să mă bucur acum de un banal, dar rar întâlnit “Îmi place munca mea!” Când nu mă găsiţi scriind în spatele unei tastaturi, mă veţi întâlni, deseori, tot la un calculator. Sau, în momentele perfecte, la volan, sus pe un munte şi bineînţeles, ca un taur care se respectă, în bucătărie!

Condiții de preluare

Informațiile publicate de capital.ro pot fi preluate de alte publicații online doar în limita a 500 de caractere și cu citarea sursei cu link activ. Orice abatere de la această regulă constituie o încălcare a Legii 8/1996 privind dreptul de autor.

Lasă un comentariu

Trebuie să fii autentificat pentru a lăsa un comentariu.