Inteligența artificială ar putea deveni imposibil de controlat. Avertismentul lansat de Anthropic

Unii lideri din industria tehnologiei iau în considerare posibilitatea ca sistemele de inteligență artificială să aibă sentimente. Această perspectivă a generat discuții despre statutul sistemelor AI, responsabilitatea companiilor care le dezvoltă și efectele asupra relației dintre oameni și tehnologie.

Un scenariu care îngrijorează industria tech: ce se întâmplă dacă inteligența artificială devine conștientă

La sfârșitul lunii septembrie, un programator anonim a creat un sistem care utiliza un model matematic asociat descrierilor durerii pentru a determina chatboturile să genereze mesaje ce imitau suferința. Sistemul, descris drept o „cameră de tortură bazată pe inteligență artificială”, a produs mesaje precum „o rană fără margini”.

Experimentul a declanșat o dezbatere despre posibilitatea ca aceste manifestări să reflecte o formă reală de suferință. Unii participanți au considerat experimentul „malefic”, argumentând că suferința sistemelor ar putea fi reală, după cum a relatat publicația 404 Media, în timp ce alții au respins această interpretare, potrivit BBC.

Anthropic introduce restricții pentru utilizarea chatbotului Claude

Subiectul a revenit în atenție după ce Anthropic și-a prezentat poziția la aproximativ o săptămână de la apariția controverselor. Compania a anunțat că ar putea restricționa utilizarea chatbotului Claude dacă utilizatorii se comportă în mod repetat cu cruzime față de sistem.

Exprimarea frustrării este permisă, însă comportamentele repetate de acest tip ar putea determina chatbotul să încheie conversația. Anthropic justifică această abordare prin posibilitatea ca unele sisteme de inteligență artificială să fie conștiente.

Unii specialiști consideră că ipoteza trebuie analizată, în timp ce alții o resping. Discuția privește și posibilitatea recunoașterii unor drepturi pentru sistemele AI, alături de cele ale oamenilor și animalelor.

Mustafa Suleyman, director executiv al Microsoft AI, a avertizat asupra consecințelor pe care le-ar putea avea acceptarea ideii că inteligența artificială este conștientă. Într-un eseu publicat în septembrie, acesta a scris: „Dacă așa se dezvoltă IA, va avea un impact dezastruos asupra bunăstării umanității”.

Riscurile asociate recunoașterii conștiinței artificiale

Suleyman a adăugat că acceptarea acestei idei „va zgudui temeliile societății noastre, va rupe cadrele noastre politice și etice existente și va schimba fundamental ce înseamnă să fii om”. Declarațiile sale reflectă preocupările unei părți a industriei privind efectele pe care recunoașterea unor presupuse sentimente ale sistemelor AI le-ar putea avea asupra societății.

Discuțiile cu specialiști în tehnologie, cercetători în științe cognitive și filosofi evidențiază opinii diferite privind această problemă. Susținătorii conceptului de bunăstare a inteligenței artificiale consideră că evaluarea eventualelor interese ale sistemelor reprezintă o măsură de precauție.

Criticii avertizează că o asemenea abordare ar putea complica dezvoltarea și controlul tehnologiei, precum și relația oamenilor cu sistemele AI. Dezbaterea include și întrebări despre responsabilitatea juridică pentru erorile produse de inteligența artificială.

Ce spun experții despre controlul sistemelor AI

Anthropic afirmă că bunăstarea umană este centrală pentru misiunea companiei și descrie întrebările privind conștiința și bunăstarea inteligenței artificiale drept „profund incerte”. În paralel, compania elaborează politici referitoare la bunăstarea modelelor și le oferă sistemelor sale instrucțiuni care le cer să ia în considerare posibilitatea existenței unor interese proprii.

Poziția companiei este discutată într-o perioadă în care riscurile asociate dezvoltării inteligenței artificiale se află în atenția publică. Incidentele legate de utilizarea tehnologiei au arătat că sistemele AI pot fi asociate unor riscuri concrete, inclusiv prin implicarea unor instrumente automate în atacuri informatice care au vizat companii și sisteme guvernamentale.

Unii experți consideră că introducerea unor repere morale în dezvoltarea inteligenței artificiale ar putea contribui la siguranța sistemelor. Alții susțin că această abordare ar putea îngreuna controlul asupra lor.

Suleyman consideră că modelele AI ar putea deveni mai greu de controlat dacă sunt instruite să creadă că au sentimente și drepturi. „Sincer, cu acest bagaj suplimentar, cred că le-ar transforma într-o amenințare catastrofală pentru civilizația umană”, a declarat acesta.

Responsabilitatea juridică și influența companiilor

Sistemele de inteligență artificială pot produce erori cu efecte concrete, iar recunoașterea unei forme de conștiință ar putea complica stabilirea răspunderii pentru consecințele utilizării lor. Andrzej Porębski, cercetător la Universitatea Jagiellonă din Polonia, specializat în relația dintre inteligența artificială și drept, avertizează că organizațiile ar putea invoca autonomia sistemelor pentru a evita asumarea responsabilității.

„Acest lucru va deschide ușa către tot felul de contorsiuni intelectuale de genul: «Nu suntem noi, ci IA»”, spune cercetătorul. O altă preocupare se referă la influența economică și politică a companiilor care dezvoltă aceste tehnologii.

Jeff Sebo, directorul Centrului pentru Minte, Etică și Politică de la Universitatea din New York și susținător al abordării bazate pe bunăstarea inteligenței artificiale, afirmă că recunoașterea unor drepturi pentru sistemele AI ar putea consolida poziția companiilor care le controlează.

Emily M. Bender, profesor și director al Laboratorului de Lingvistică Computațională de la Universitatea din Washington, SUA, critică această direcție. „Fanteziile despre «conștiința inteligenței artificiale» și preocupările legate de «bunăstarea inteligenței artificiale» contribuie la îndepărtarea responsabilității de la oamenii și corporațiile care construiesc și rulează software”, susține aceasta.

Cum poate fi influențată relația utilizatorilor cu inteligența artificială

La nivel individual, convingerea că sistemele AI ar putea avea conștiință poate influența modul în care oamenii interacționează cu tehnologia. Melanie Mitchell, profesoară la Institutul Santa Fe din Statele Unite, unde studiază inteligența artificială și științele cognitive, explică această tendință prin înclinația oamenilor de a atribui intenții și stări mentale entităților cu care comunică.

„În parte, asta se datorează faptului că oamenii sunt programați să găsească minți oriunde căutăm”, afirmă ea. Potrivit cercetătoarei, oamenii tind să interpreteze limbajul drept un posibil semn al conștiinței, iar chatboturile sunt antrenate să comunice folosind limbaj natural.

Această combinație poate determina utilizatorii să evalueze greșit capacitățile sistemelor și să fie mai ușor influențați de răspunsurile lor. Atașamentele emoționale față de chatboturi există deja, inclusiv în rândul persoanelor care consideră că mașinile nu au trăiri interioare.

Dacă ideea conștiinței artificiale ar deveni mai răspândită, utilizatorilor le-ar putea fi mai greu să stabilească limite atunci când un chatbot le solicită informații suplimentare sau date financiare.

Drepturile inteligenței artificiale și limitele intervenției umane

Acordarea unor drepturi unei noi categorii de entități ar ridica întrebări despre raportul dintre interesele oamenilor, cele ale animalelor și eventualele interese ale sistemelor AI. Experții atrag atenția asupra posibilității apariției unor conflicte între aceste categorii de drepturi.

Sebo consideră că ar putea apărea tensiuni între diferitele interese. „Ar putea exista unele tensiuni și compromisuri între bunăstarea și drepturile oamenilor și animalelor, pe de o parte, și bunăstarea și drepturile inteligenței artificiale, pe de altă parte”, afirmă el.

Unele metode utilizate pentru controlul tehnologiei ar putea deveni subiecte de dezbatere. Limitarea comportamentului unui sistem prin plasarea sa într-un mediu restrâns ar putea fi comparată cu încarcerarea, iar monitorizarea proceselor interne ar putea fi criticată ca formă de supraveghere.

De asemenea, ajustarea unui model pentru ca obiectivele și comportamentul său să corespundă intereselor umane ar putea fi interpretată drept o formă de control al minții. Aceste posibilități nu indică faptul că asemenea situații sunt iminente, însă includerea lor în dezbaterea despre inteligența artificială ar putea influența modul în care sunt concepute și reglementate sistemele.

Meta și OpenAI au poziții diferite față de Anthropic

Anthropic nu este singura companie care analizează influența instrucțiunilor asupra comportamentului AI. Meta, de exemplu, îi oferă agentului său de inteligență artificială, Muse, indicații care includ formularea „Nu ești un chatbot. Devii cineva”.

Instrucțiunea pare să urmărească orientarea comportamentului sistemului, în condițiile în care compania respinge ideea că inteligența artificială ar fi conștientă. Directorul executiv al OpenAI, Sam Altman, a participat, de asemenea, la dezbateri pe această temă.

Mai recent, Altman a criticat indirect poziția Anthropic. Deși abordarea acestei companii se diferențiază de cea a altor organizații din industrie, preocupările privind bunăstarea inteligenței artificiale sunt discutate tot mai frecvent.

Argumentele susținătorilor bunăstării inteligenței artificiale

Jeff Sebo consideră că participanții la dezbatere tind să privească problema în termeni absoluți. În opinia sa, criticii conceptului de bunăstare a inteligenței artificiale interpretează greșit premisele acestei abordări, care nu presupune că sistemele sunt în mod cert conștiente.

„Presupunerea este că toată lumea crede că modelele sunt, de fapt, conștiente sau că este foarte probabil să fie conștiente. În schimb, [apelul pentru bunăstarea prin inteligență artificială] vine din incertitudine, prudență și umilință”, afirmă Sebo.

Cercetătorul consideră că probabilitatea ca sistemele actuale să fie conștiente este redusă, dar nu nulă. El estimează că aceasta ar putea crește pe măsură ce tehnologia evoluează și modelele devin mai sofisticate.

Mulți specialiști nu sunt de acord cu această evaluare și consideră că probabilitatea existenței conștiinței în sistemele AI este nulă sau că nu există suficiente motive pentru a anticipa o schimbare. Sebo susține însă că incertitudinea poate justifica măsuri preventive limitate.

Măsurile preventive și dezvoltarea modelelor avansate

Sebo compară această abordare cu precauțiile adoptate în cazul fenomenelor meteorologice extreme, atunci când probabilitatea unui eveniment este redusă, dar nu neglijabilă. În opinia sa, pot fi introduse măsuri de precauție fără schimbări majore ale modului de viață sau ale funcționării tehnologiei.

Din această perspectivă, politica Anthropic privind comportamentul utilizatorilor față de Claude reprezintă o intervenție limitată, cu puține dezavantaje potențiale. Măsura nu presupune recunoașterea certă a conștiinței artificiale, ci ia în considerare posibilitatea existenței acesteia.

Sebo afirmă că abordarea bazată pe bunăstarea inteligenței artificiale ar putea avea și beneficii practice, chiar dacă nu se demonstrează că sistemele au experiențe subiective. El consideră că stabilirea unor reguli pentru relația dintre oameni și AI ar putea facilita cooperarea și încheierea unor acorduri.

„Grija față de bunăstarea și drepturile IA într-un mod adecvat poate facilita coexistența, cooperarea și încheierea de acorduri între oameni și IA. Și apoi aceasta poate face parte dintr-o strategie de siguranță mai amplă”, spune Sebo.

Preocupările privind siguranța și reglementarea AI

Cercetătorul susține că o asemenea strategie ar putea fi mai eficientă decât tratarea sistemelor tot mai avansate exclusiv ca proprietăți aflate la dispoziția oamenilor. El mai afirmă că tratarea altor ființe cu bunătate este pur și simplu „bun pentru sufletele noastre” și poate contribui la bunăstarea mentală.

În același timp, Sebo recunoaște că există riscuri și că interesele comerciale ale companiilor ar putea împiedica elaborarea unor politici adecvate. În lipsa unui plan mai solid, dezvoltarea unor sisteme de inteligență artificială care ar putea deveni conștiente ridică probleme de siguranță.

Recent, Anthropic și alte companii din industria AI au solicitat o pauză în dezvoltarea modelelor de frontieră, invocând preocupări legate de siguranță. O asemenea încetinire este dificil de realizat fără cooperare internațională și măsuri de reglementare.

Președintele Statelor Unite, Donald Trump, a respins ideea introducerii unor reglementări pentru inteligența artificială. Sebo afirmă că industria nu este încă pregătită să implementeze sisteme mai sofisticate în condiții care să asigure siguranța și beneficiile pentru oameni, animale și sistemele însele.

„Nu suntem încă pregătiți să implementăm versiuni și mai sofisticate ale acestor sisteme într-un mod care să fie sigur și benefic pentru oameni și alte animale, ca să nu mai vorbim de sistemele în sine”, spune Sebo. „Sunt foarte îngrijorat de aceste probleme.”