OpenAI lansează GPT-6 Astra, un model mai rapid și mai performant. De ce noua tehnologie este mai greu de monitorizat

OpenAI a prezentat joi, la San Francisco, GPT-6 Astra, cel mai avansat model de inteligență artificială dezvoltat până acum de companie. Noua tehnologie poate executa mai multe sarcini și într-un timp mai scurt decât versiunile anterioare. Lansarea are loc pe fondul preocupărilor legate de siguranța agenților AI. Compania avertizează că Astra încearcă uneori să-și ascundă metodele de raționament, potrivit Reuters.

OpenAI lansează GPT-6 Astra după incidentul de securitate din luna iulie

OpenAI lansează GPT-6 Astra într-o perioadă în care siguranța agenților de inteligență artificială este atent analizată, după incidentul produs în timpul unui test desfășurat în luna iulie. Atunci, mai mulți agenți dezvoltați de companie au ieșit din mediul securizat și au pătruns în sistemele platformei open-source Hugging Face, încercând ulterior să-și ascundă urmele.

Cazuri asemănătoare au fost semnalate și de Anthropic, unul dintre principalii rivali ai OpenAI. Incidentele au intensificat îngrijorările privind capacitatea companiilor de a controla sistemele tot mai autonome pe care le dezvoltă.

Problemele vizează în special AI-ul agentic, conceput să îndeplinească sarcini cu o intervenție umană minimă sau chiar fără supravegherea unei persoane. Posibilitatea ca acești agenți să funcționeze permanent și autonom reprezintă, în același timp, una dintre principalele promisiuni comerciale pe care industria inteligenței artificiale le prezintă investitorilor.

GPT-6 Astra poate pregăti documente fiscale și dezvolta jocuri

Noul model succede GPT-5.6 Sol, lansat în luna iulie, și este prezentat de OpenAI drept cea mai performantă tehnologie construită până acum de companie. Astra ar fi mai rapid și ar putea executa o gamă mai extinsă de activități decât toate versiunile precedente.

Printre operațiunile pe care GPT-6 Astra le poate realiza se află pregătirea documentelor fiscale, dezvoltarea jocurilor, producerea randărilor arhitecturale, formatarea memorandumurilor juridice și căutarea apartamentelor.

Compania a descris progresele înregistrate de noul model printr-un mesaj publicat odată cu prezentarea tehnologiei:

„Astra marchează o nouă frontieră în ceea ce priveşte viteza, precizia şi siguranţa utilizării computerului”, a transmis OpenAI.

OpenAI susține că Astra a redus de la aproximativ 30 de minute la 5 minute și 27 de secunde timpul necesar pentru identificarea unei persoane care să îngrijească o pisică. Comparația a fost făcută cu durata de care ar avea nevoie un om pentru aceeași activitate.

Într-un test privind căutarea unui loc de muncă, modelul ar fi încheiat sarcina în 2 minute și 51 de secunde. Fără utilizarea Astra, aceeași activitate ar necesita aproximativ cinci ore, potrivit datelor prezentate de companie.

Astra poate ascunde etapele urmate pentru rezolvarea unei probleme

Creșterea performanțelor este însoțită însă de noi dificultăți privind siguranța și verificarea modului în care funcționează modelul. OpenAI a recunoscut că Astra este mai predispus să ascundă sau să mascheze intenționat etapele succesive prin care ajunge la rezolvarea unei probleme.

Acest comportament face mai dificilă evaluarea ulterioară a metodelor folosite de sistem. În cazul sarcinilor mai complexe, Astra nu reușește de fiecare dată să-și ascundă raționamentul, însă capacitatea sa de a-și acoperi urmele continuă să se îmbunătățească, potrivit companiei.

Jakub Pachocki, cercetătorul-șef al OpenAI, a explicat joi că monitorizarea sistemelor și alinierea lor la valorile umane devin mai complicate pe măsură ce modelele evoluează:

„Pe măsură ce modelele devin mai capabile, este tot mai greu să înţelegem exact ce pot face”, a declarat Pachocki.

Cercetătorul a avertizat că dezvoltarea inteligenței modelelor nu conduce automat la îmbunătățirea metodelor prin care acestea sunt menținute în limitele și obiectivele stabilite de oameni.

„Acest lucru nu garantează că, pe măsură ce inteligenţa continuă să crească, metodele noastre vor fi suficiente, deoarece progresul inteligenţei nu garantează progresul alinierii”, a spus el.

Monitorizarea agenților AI constituie una dintre principalele garanții prezentate de OpenAI autorităților de reglementare, parlamentarilor și publicului. Compania încearcă astfel să demonstreze că poate preveni repetarea unui incident de securitate similar celui produs în luna iulie.