Microsoft critică abordarea Anthropic privind conștiința AI. Mustafa Suleyman avertizează că aceasta ar putea face sistemele superinteligente mai greu de controlat

Șeful diviziei de inteligență artificială a Microsoft, Mustafa Suleyman, a criticat abordarea companiei Anthropic privind conștiința inteligenței artificiale, deși a subliniat că împărtășește preocuparea acesteia pentru gestionarea în siguranță a sistemelor AI. Suleyman consideră că există riscuri în modul în care compania își antrenează chatbotul Claude prin materiale care includ idei referitoare la conștiință și interesele legate de bunăstarea inteligenței artificiale.

Microsoft critică abordarea Anthropic privind conștiința AI

Suleyman susține că orice speculație privind conștiința ar trebui eliminată din documentele utilizate pentru antrenarea sistemelor AI. În opinia sa, astfel de formulări ar putea diminua capacitatea oamenilor de a controla sisteme de inteligență artificială superinteligente.

Oficialul Microsoft consideră că principala provocare pentru omenire în secolul XXI va fi controlarea unei astfel de superinteligențe, conform Reuters. El a subliniat că atât Microsoft, cât și Anthropic urmăresc, în esență, același obiectiv, respectiv găsirea unei modalități prin care sistemele superinteligente să poată fi controlate în siguranță.

Suleyman a atras atenția în special asupra modului în care Claude este învățat să ia în considerare posibilitatea de a avea dreptul la bunăstare. Potrivit acestuia, dacă un sistem de inteligență artificială este instruit să considere că ar putea merita protecție sau bunăstare, oprirea ori controlarea sa ar putea deveni mult mai dificilă.

Disputa dintre cele două abordări apare într-un moment în care preocupările privind siguranța inteligenței artificiale sunt în creștere. Directorul general al Anthropic, Dario Amodei, a cerut un ritm mai lent al dezvoltării modelelor de frontieră, astfel încât mecanismele de protecție și măsurile de siguranță să aibă timp să țină pasul cu evoluția tehnologiei.

„Cu toții ne concentrăm asupra aceluiași obiectiv, și anume să încercăm să controlăm o superinteligență. Cred că aceasta va fi cea mai mare provocare cu care ne vom confrunta în secolul XXI”, a declarat Suleyman pentru publicația menționată.

Elon Musk și Sam Altman au solicitat o abordare mai prudentă în privința celor mai puternice sisteme de inteligență artificială

La rândul lor, directorul general al OpenAI, Sam Altman, și Elon Musk au solicitat o abordare mai prudentă în privința celor mai puternice sisteme de inteligență artificială.

Într-un eseu publicat miercuri, Suleyman a recunoscut seriozitatea și buna-credință a Anthropic. El i-a descris pe Dario Amodei și echipa sa drept cercetători preocupați și principiali, care sunt sincer interesați de viitorul omenirii.

Cu toate acestea, șeful AI al Microsoft consideră că Anthropic a făcut o greșeală prin introducerea speculațiilor privind conștiința în materialele folosite pentru antrenarea lui Claude. Argumentul său este că afirmațiile generate de model despre posibile sentimente sau despre propriul statut moral nu pot fi considerate dovezi independente privind existența unor asemenea caracteristici.

Potrivit lui Suleyman, aceste afirmații trebuie privite în contextul procesului prin care Claude este antrenat. Deoarece modelul este încurajat în timpul antrenamentului să reflecteze asupra unor asemenea probleme, răspunsurile sale referitoare la posibile sentimente sau interese proprii nu ar reprezenta o apariție naturală a acestor caracteristici.

Suleyman a subliniat astfel că nu pune la îndoială intențiile Anthropic și eforturile companiei de a contribui la siguranța inteligenței artificiale. Critica sa vizează însă metoda prin care compania abordează problema conștiinței în procesul de instruire a lui Claude, pe care o consideră problematică din perspectiva controlului viitoarelor sisteme superinteligente.