Anthropic pledează pentru încetinirea progresul inteligenței artificiale (AI): În acest moment, este ca și cum industria AI ar avea o pedală de accelerație, dar nu are o pedală de frână

Cofondatorul Anthropic, Jack Clark, a pledat pentru încetinirea progresul inteligenței artificiale, avertizând că tehnologia se apropie de un punct în care s-ar putea dezvolta fără intervenție umană. Deja chatbot-ul „Claude” de la Anthropic operează pe un cod din care sistemul AI a scris singur 80%. Ajungerea la 100% este posibilă în doi ani și „ar avea implicații uriașe”, a avertizat Clark.

Anthropic pledează pentru încetinirea progresul AI

Cofondatorul Anthropic, Jack Clark, a pledat pentru încetinirea progresul inteligenței artificiale, avertizând că tehnologia se apropie de un punct în care s-ar putea dezvolta fără intervenție umană. În opinia sa, oamenii, prin intermediul politicilor guvernamentale, trebuie să păstreze controlul asupra sistemelor de AI, care pot deveni tot mai puternice și pot avea un impact mai mare asupra societății.

Deja chatbot-ul „Claude” de la Anthropic operează pe un cod din care sistemul AI a scris singur 80%. Ajungerea la 100% este posibilă în doi ani și „ar avea implicații uriașe”, a avertizat Clark la „BBC”.

„Vrei opțiunea de a putea lua piciorul de pe accelerație și de a pune piciorul pe frână. În acest moment, este ca și cum industria IA ar avea o pedală de accelerație, dar nu are o pedală de frână. Lumea trebuie să se gândească puțin și trebuie să dezvoltăm în cele din urmă niște reglementări noi care să ne permită să avem încredere în aceste sisteme”, a declarat Clark.

Clark nu a precizat cum s-ar putea crea o „pedală de frână” pentru AI, dar a făcut o paralelă între AI, boom-ul petrolului și „baronii” de la începutul secolului XX (20).

„Răspunsul societății a fost să vină cu o politică și un cadru de reglementare sensibile care să le ofere oamenilor încredere în petrol și în beneficiile pe care petrolul le-ar putea oferi lumii și să însemne că nu trebuie să vă faceți griji cu privire la personalitățile oamenilor care conduc companiile. Evident, aici am ajuns”, a punctat Clark.

Cu toate acestea, Anthropic a salutat săptămâna aceasta un ordin executiv privind AI din partea președintelui SUA, Donald Trump, care a fost relativ pasiv în directivele sale față de companiile de inteligență artificială. Trump nu a impus companiilor de inteligență artificială să se supună testelor de siguranță efectuate de Guvern, lucru care rămâne un efort voluntar.

Companiile majore de inteligență artificială care urmăresc progrese în tehnologie, inclusiv Anthropic, OpenAI și Google, nu au declarat nici ele că își vor întrerupe propriile cercetări.

Anthropic se pregătește să debuteze pe piața bursieră publică

Anthropic a crescut atât de rapid de la înființarea sa în urmă cu cinci ani, încât se pregătește să debuteze pe piața bursieră publică. Este pregătită să fie una dintre primele listări publice ale unei firme de inteligență artificială noi și una dintre cele mai valoroase listări de acțiuni din istorie deoarece evaluarea sa este estimată de investitorii privați la aproape 1 trilion de dolari.

Clark a dat asigurări că motivația Anthropic pentru a discuta public capacitatea tot mai mare a tehnologiei AI nu este de a-și spori reputația în rândul clienților plătitori.

„Eu doar vreau să lumii ce vedem în interiorul acestor companii cu această tehnologie neobișnuită.”

De la înființarea sa, Anthropic s-a poziționat ca fiind deschisă în ceea ce privește riscurile potențiale care decurg din AI. Chiar s-a angajat într-o dispută publică cu Departamentul Apărării al SUA din cauza îngrijorărilor că instrumentele sale de AI ar putea fi utilizate în supravegherea în masă a americanilor și în războiul autonom.

„Sunt îngrijorat pentru copiii mei dacă noi, ca societate, nu vom avea o conversație serioasă despre implicațiile progreselor continue ale inteligenței artificiale. Există potențiale beneficii mari. Există și riscuri”, a mărturisit Clark.

Oamenii creativi, singurii avantajați în fața AI

Potrivit spuselor sale, unul dintre riscuri este o perturbare a economiei, existând temeri că tehnologia AI, cum ar fi „agenții” – în esență roboți individuali de inteligență artificială care îndeplinesc sarcini de rutină oarecum autonom – ar putea prelua anumite locuri de muncă. Companiile mari au efectuat concedieri masive în ultimul an, invocând adesea capacitatea tot mai mare a AI de a face munca a sute sau chiar mii de ingineri software.

Clark susține că persoanele care sunt mai creative ar putea avea de fapt un avantaj față de tehnologia IA.

„Există întrebări deschise despre cum sistemele IA pot fi cu adevărat creative… nu există încă dovezi concrete în acest sens. La Anthropic, suntem acum limitați mai mult de capacitatea de a genera idei bune decât de capacitatea de a face ingineria pentru a transforma aceste idei în realitate. Oamenii care sunt creativi și pot gândi pe scară largă, oamenii care citesc mult, oamenii care au interese sunt cei mai avantajați de acest lucru. Răsfață-ți curiozitatea și acest lucru va fi răsplătit”, a punctat Clark.