Modelul AI cu capacități neașteptate, inițial restricționat, ajunge la public

O versiune a unui instrument de inteligență artificială considerat inițial „prea puternic pentru public” a fost lansată recent către utilizatori. Este vorba despre Claude Fable 5, o variantă a programului Claude Mythos dezvoltat de compania Anthropic.

Claude Fable 5: AI-ul despre care experții spuneau că ar fi periculos devine accesibil

Modelul a fost descris anterior ca având capacități avansate, motiv pentru care a fost testat inițial doar în medii restrânse. Lansarea sa publică vine după o perioadă de evaluare și utilizare limitată. Claude Mythos a fost introdus inițial unui număr limitat de organizații, în aprilie, pentru testare și analiză. În acea etapă, instrumentul a atras atenția unor actori din tehnologie, finanțe și mediul guvernamental, din cauza nivelului ridicat de performanță.

Unele voci au susținut că sistemul ar putea genera riscuri pentru securitatea financiară. Alte opinii au pus sub semnul întrebării amploarea acestor temeri, sugerând că percepția riscului ar putea fi influențată și de strategii de promovare.

Anthropic a anunțat lansarea lui Fable, precizând că produsul va fi disponibil cu restricții și mecanisme de siguranță. Compania a subliniat că utilizarea unui model de acest tip implică riscuri inerente. Reprezentanții au transmis: „Capacitățile Fable depășesc pe cele ale oricărui model pe care l-am pus vreodată la dispoziția publicului”. În același timp, compania a precizat că sistemul va fi monitorizat și adaptat în funcție de utilizare.

Testări inițiale și reacții din mediul internațional

În faza de acces restrâns, Mythos a fost oferit unui grup limitat de organizații pentru evaluare. Potrivit informațiilor prezentate, motivul principal al acestei abordări a fost capacitatea modelului de a identifica vulnerabilități în sisteme informatice.

Această caracteristică a alimentat discuții privind posibile utilizări abuzive, inclusiv în zona de securitate cibernetică. Ministrul canadian de finanțe, François-Philippe Champagne, a afirmat pentru BBC că „este necunoscutul, necunoscutul”, referindu-se la natura imprevizibilă a tehnologiei.

Deși Anthropic se află într-un proces juridic cu Departamentul Apărării al SUA pe tema utilizării tehnologiei, mai multe agenții americane au testat deja sistemul Mythos. Compania se află într-o etapă de creștere accelerată, cu o evaluare privată apropiată de un trilion de dolari. În prezent, aproximativ 150 de organizații au avut acces la versiunea preliminară, iar unele au raportat identificarea a peste 10.000 de vulnerabilități critice în sistemele analizate.

Acces extins și discuții privind controlul tehnologiei

Anthropic a precizat că accesul actualizat este limitat la un grup restrâns format din specialiști în securitate cibernetică și furnizori de infrastructură, urmând să fie extins gradual. Compania a transmis că „Intenționăm să extindem accesul la Mythos 5 printr-un program mai amplu de acces de încredere”.

Atât Fable, cât și Mythos funcționează cu un grad ridicat de autonomie în executarea sarcinilor, fiind descrise ca având perioade de operare extinsă comparativ cu versiunile anterioare. Cofondatorul Anthropic, Jack Clark, a explicat că ritmul de dezvoltare al inteligenței artificiale ridică întrebări legate de control și limitare:  „În acest moment, este ca și cum industria inteligenței artificiale ar avea o pedală de accelerație, dar nu și o pedală de frână”.