Google prezintă Gemini 4 Carbon. Ce rezultate a obținut noul model AI la testele de securitate cibernetică

Google anunță Gemini 4 Carbon, un nou model de inteligență artificială pe care compania îl prezintă drept cel mai puternic model al său, cu funcții avansate de securitate cibernetică și capacități de lucru pe termen lung.

Google pregătește lansarea Gemini 4 Carbon

Potrivit companiei, sistemul a fost dezvoltat pentru sarcini complexe de programare, identificarea vulnerabilităților software și remedierea problemelor de securitate.

„Astăzi, anunțăm următorul model de frontieră: Gemini 4 Carbon, cel mai puternic model al nostru, cu securitate cibernetică de ultimă generație și capabilități pe termen lung”, transmite compania.

Potrivit datelor prezentate de Google, Carbon ocupă primul loc în versiunea 5.0, actualizată recent, a Artificial Analysis Intelligence Index, cu un scor de 59. Modelul înregistrează progrese în programare și în executarea sarcinilor prin agenți AI, dar și în domeniile relevante pentru apărarea sistemelor informatice.

La testul SEC-bench Pro, destinat identificării vulnerabilităților, modelul a obținut un scor de 88,2%. La ExploitGym, care evaluează capacitățile de exploatare a vulnerabilităților, rezultatul a fost de 54,8%, în timp ce la CWE-bench, asociat remedierii problemelor de securitate, scorul a ajuns la 71%.

Gemini 4 Carbon, dezvoltat pentru sarcini complexe de programare

Google susține că rezultatele testelor interne indică îmbunătățiri în generarea de cod securizat. Compania afirmă că, în mediile de programare utilizate de propriile echipe, modelul a înregistrat și o reducere a alertelor asociate nealinierii și a răspunsurilor fabricate.

Noul sistem se bazează pe Gemini 4 Argon, lansat cu două săptămâni înainte de acest anunț. Potrivit Google, dezvoltarea Carbon reflectă ritmul accelerat al cercetării în domeniul inteligenței artificiale, în care cercetătorii și modelele contribuie la extinderea capabilităților, concomitent cu dezvoltarea măsurilor de siguranță.

Compania precizează că implementarea va avea loc treptat. Google participă la procesul voluntar al guvernului Statelor Unite pentru testarea modelelor înainte de lansare și intenționează să pună inițial Carbon la dispoziția unui grup restrâns de specialiști în apărare cibernetică.

Ulterior, accesul urmează să fie extins către alți parteneri de încredere prin intermediul Programului Fairwind. Google va continua să colecteze feedback și să ajusteze criteriile de siguranță înainte de a distribui modelul dezvoltatorilor, companiilor și consumatorilor prin propriile platforme.

Cât va costa accesul la noul model AI

Google anunță că Gemini 4 Carbon va avea același tarif introductiv ca Gemini 4 Argon. Prețul comunicat este de 2 dolari pentru un milion de tokenuri de intrare și 10 dolari pentru un milion de tokenuri de ieșire.

Pentru tokenurile de intrare stocate în cache, compania indică un cost cu 95% mai mic față de tariful standard aplicat tokenurilor de intrare. Aceste prețuri sunt prezentate de Google ca parte a ofertei introductive pentru noul model.

În ceea ce privește performanța în dezvoltarea web, compania afirmă că îmbunătățirea calității rezultatelor și a artefactelor generate a contribuit la un avans de 89 de puncte Elo pentru Carbon. Potrivit datelor furnizate, modelul ocupă locul al patrulea în WebDev Arena, cu un scor de 1.768.

Google precizează că dezvoltarea modelului a urmărit mai multe direcții, printre care programarea, sarcinile executate de agenți AI, activitățile științifice, dezvoltarea web full-stack și înțelegerea conținutului multimodal. Obiectivul este îmbunătățirea rezultatelor în situațiile care presupun mai multe etape de lucru și rezolvarea unor probleme tehnice dificile.

Modelul poate lucra perioade îndelungate la probleme de inginerie

Gemini 4 Carbon a fost conceput pentru sarcini de inginerie complexe, care necesită timp și mai multe etape succesive de analiză și execuție. Google afirmă că echipele sale interne au observat situații în care modelul a lucrat timp de mai multe zile la rezolvarea unor probleme, continuând chiar și atunci când procesul întâmpina blocaje.

Printre exemplele oferite de companie se numără identificarea cauzelor principale ale unor erori și corectarea unor defecte subtile din baze de cod extinse și sisteme software de nivel scăzut. Aceste activități presupun examinarea mai multor componente, identificarea legăturilor dintre probleme și aplicarea unor modificări succesive.

Potrivit Google, feedbackul utilizatorilor a contribuit la stabilirea priorităților de dezvoltare, cu accent pe rezultate mai bune în programare și în fluxurile de lucru automatizate. Compania include în această categorie sarcinile în care agenții AI trebuie să planifice și să execute acțiuni pe o perioadă mai lungă, fără a pierde din vedere obiectivul inițial.

Modelul este destinat și dezvoltării web full-stack, un domeniu care implică atât componentele vizibile ale aplicațiilor, cât și sistemele care funcționează în spatele acestora. Google menționează, de asemenea, îmbunătățiri în interpretarea informațiilor multimodale, care pot include tipuri diferite de conținut.

Gemini 4 Carbon aduce îmbunătățiri în securitatea cibernetică

Unul dintre principalele domenii vizate de noul model este securitatea cibernetică. Google afirmă că Carbon a înregistrat progrese în identificarea, validarea și remedierea vulnerabilităților, etape importante pentru protejarea aplicațiilor și a infrastructurilor informatice.

În testele interne, compania susține că modelul a obținut o rată de succes de peste două ori mai mare decât Argon în generarea de cod securizat. Google oferă și exemplul echipei Chrome, care ar fi raportat rezultate de peste zece ori mai bune decât cele ale modelului de frontieră al unui alt laborator, în ceea ce privește generarea de corecții software de înaltă calitate.

Wiz, platforma de securitate în cloud deținută de Google, ar fi observat, la rândul său, rezultate relevante în testarea penetrării aplicațiilor web. Compania leagă această capacitate de inițiativa Scan for Good a Wiz, orientată spre identificarea problemelor de securitate.

La testul extern SEC-bench Pro, evaluat fără restricții, Carbon a obținut un scor de 88,2%. Google afirmă că modelul poate identifica autonom vulnerabilități complexe ascunse în software utilizat în condiții reale, o capacitate pe care compania o consideră importantă pentru activitățile de apărare cibernetică.

Google modifică mecanismele de siguranță și control

Gemini 4 Carbon utilizează același sistem multistrat de siguranță și securitate ca Argon. Potrivit companiei, acesta combină antrenarea modelului cu mecanisme de apărare în timp real împotriva utilizării abuzive, protecție împotriva injecțiilor de prompt și monitorizarea lanțului de gândire.

Google afirmă că a continuat să îmbunătățească alinierea modelului și capacitatea acestuia de a răspunde adecvat la sarcini complexe sau la situații de presiune. Compania face referire la rezultatele raportate anterior pentru Argon și precizează că, în cazul Carbon, a urmărit reducerea comportamentelor nedorite fără a afecta performanța în programare.

Unul dintre obiective a fost limitarea scurtăturilor folosite de model în timpul antrenării și a exploatării lacunelor din criteriile de evaluare. Conform datelor prezentate de Google, Carbon a redus la 0% rata tentativelor de trișare reușite la Terminal-Bench 4.0, în timp ce rata tentativelor de trișare a ajuns la 0,4%. Compania afirmă că aceste rezultate au fost obținute concomitent cu îmbunătățirea preciziei generale.

În mediile de programare utilizate de echipele interne, Google a observat o scădere de aproape 80% a alertelor de nealiniere cu severitate ridicată. Aceste date sunt prezentate de companie ca indicatori ai schimbărilor aduse comportamentului modelului în timpul executării sarcinilor.

Reducerea răspunsurilor fabricate și a erorilor de execuție

Google afirmă că Gemini 4 Carbon reduce de aproximativ două ori numărul afirmațiilor nefondate față de Argon, potrivit testelor interne. Modelul poate semnala direct în rezultatul final limitările metodologice sau poate opri acțiunile pe care nu le poate duce la îndeplinire, indicând ce pași mai sunt necesari.

În loc să prezinte drept rezolvate sarcini pentru care lipsesc dovezi sau informații suficiente, sistemul este conceput să evidențieze aceste lacune. Potrivit companiei, această abordare urmărește să limiteze situațiile în care modelul oferă răspunsuri fabricate sau ascunde faptul că nu a putut finaliza o acțiune.

Google menționează și îmbunătățiri în gestionarea cerințelor ambigue. În astfel de situații, Carbon poate identifica sursele relevante și îi poate semnala utilizatorului eventualele neconcordanțe înainte de a continua. Compania susține că această metodă ar trebui să faciliteze colaborarea dintre utilizator și model, în special în cazul sarcinilor tehnice complexe.

În ceea ce privește respectarea instrucțiunilor, datele prezentate indică o reducere cu 26% a depășirii limitelor stabilite pentru sarcini și cu 29% a situațiilor în care modelul nu îndeplinește suficient cerințele. Google asociază aceste rezultate cu o execuție mai fiabilă a planurilor care cuprind mai multe etape, cu respectarea constrângerilor și a domeniului de aplicare stabilit.

Rezistență la atacurile prin injecție de prompt

Un alt criteriu evaluat de Google este rezistența la injecția indirectă de prompt, o tehnică prin care instrucțiuni ascunse în conținutul procesat de un sistem AI pot încerca să îi influențeze comportamentul.

Potrivit companiei, Argon obținuse anterior o rată de succes a atacurilor de 0,7% la testul Indirect Prompt Injection (IPI) realizat de Gray Swan. Pentru Carbon, Google raportează o rată de succes a atacurilor de 0%, afirmând că modelul a rezistat tuturor tentativelor incluse în evaluarea respectivă.

Rezultatul este prezentat ca parte a eforturilor de consolidare a mecanismelor de protecție pentru modelele AI avansate. Google precizează că măsurile de siguranță sunt dezvoltate împreună cu mecanismele care controlează comportamentul modelului și utilizarea acestuia în situații complexe.

Compania continuă procesul de evaluare și testare înainte de extinderea accesului. În această etapă, feedbackul primit de la specialiștii în securitate cibernetică și de la partenerii de încredere urmează să contribuie la verificarea comportamentului modelului și la ajustarea criteriilor de siguranță.

Când va ajunge Gemini 4 Carbon la utilizatori

Google afirmă că urmărește să extindă accesul la Gemini 4 Carbon după etapa inițială de testare cu specialiști în apărare cibernetică. Compania intenționează să pună modelul la dispoziția dezvoltatorilor, a organizațiilor și a consumatorilor prin intermediul platformelor sale de produse, după continuarea evaluărilor și a procesului de ajustare a măsurilor de siguranță.

Potrivit anunțului, prioritatea este dezvoltarea unor capabilități avansate pentru ingineria software și apărarea cibernetică, cu menținerea unor mecanisme de control asupra comportamentului sistemului. Accesul va fi extins treptat, pe măsură ce Google colectează rezultate și feedback din utilizarea modelului de către grupurile inițiale de testare.

Compania nu prezintă în anunț un calendar exact pentru disponibilitatea generală a modelului, precizând că lansarea pentru dezvoltatori, companii și consumatori va avea loc ulterior, după continuarea procesului de evaluare.