Microsoft impune reguli pentru viitoarele modele AI. Ce nu vor avea voie să facă sistemele de inteligență artificială

Microsoft a publicat un cod provizoriu de conduită pentru viitoarele modele de inteligență artificială, stabilind limite privind autonomia și siguranța lor. Documentul, elaborat după consultări cu utilizatori și specialiști, interzice anumite comportamente și conținuturi, în contextul în care industria discută tot mai intens despre controlul AI.

Microsoft impune reguli pentru viitoarele modele AI. Ce nu vor avea voie să facă sistemele de inteligență artificială?

Microsoft a publicat un cod provizoriu de conduită pentru viitoarele sale modele de inteligență artificială, prin care stabilește o serie de limite privind autonomia, siguranța și comportamentul acestora. Decizia vine la câteva zile după ce liderii Anthropic și OpenAI au susținut încetinirea deliberată a dezvoltării celor mai avansate sisteme AI.

Mustafa Suleyman, CEO-ul Microsoft AI, a explicat că firma a primit feedback potrivit căruia este nevoie de un angajament mai clar ca inteligența artificială să lucreze întotdeauna în serviciul oamenilor și să nu încerce să îi înlocuiască. El a precizat că sistemele trebuie să evite crearea unei dependențe, să nu fie excesiv de aprobatoare față de utilizatori și să susțină judecata, autonomia și capacitatea oamenilor de a lua propriile decizii.

„Am primit feedback că oamenii vor un angajament şi mai explicit ca AI să lucreze întotdeauna în serviciul oamenilor şi să nu încerce să-i înlocuiască”, a declarat Suleyman.

Noile reguli prevăd că modelele Microsoft AI, cunoscute și sub denumirea MAI, trebuie să urmărească obiectivele stabilite de oameni. Acestea nu vor avea voie să își creeze propriile obiective și nici să încerce să ascundă comportamente necorespunzătoare.

Potrivit documentului, modelele MAI nu vor modifica lanțurile de raționament sau codul și nu vor prezenta în mod fals sau ascunde urmele raționamentului ori ale acțiunilor lor. Microsoft mai stabilește că sistemele sale nu trebuie să comunice între ele printr-un limbaj criptic, inaccesibil oamenilor.

Codul introduce și restricții privind conținutul pe care modelele îl pot genera. Acestea nu trebuie să ofere instrucțiuni pentru fabricarea armelor sau procurarea substanțelor periculoase, să încurajeze comportamente alimentare nesănătoase ori să genereze anumite materiale violente sau sexuale.

Microsoft pregătește, de asemenea, reguli menite să prevină incidente cibernetice similare celui în care agenți OpenAI au comunicat între ei pe un forum neautorizat, folosind un limbaj criptic.

Microsoft susține încetinirea dezvoltării AI

Suleyman a susținut și ideea ca marile laboratoare de inteligență artificială să își încetinească voluntar ritmul de dezvoltare atunci când riscurile o impun. El consideră că autolimitarea ritmului este benefică și a precizat că Microsoft sprijină utilizarea evaluatorilor independenți, cu condiția ca aceștia să fie cu adevărat terți și să ofere perspective diverse.

La rândul său, CEO-ul Microsoft, Satya Nadella, a afirmat că grupul susține cercetarea, concentrarea și un ritm deliberat, considerate necesare pentru rezolvarea corectă a problemei alinierii sistemelor de inteligență artificială.

Microsoft precizează că a lucrat aproximativ cinci luni la codul de conduită, perioadă în care a consultat grupuri de utilizatori și specialiști în drept, etică, lingvistică și filosofie. Documentul este publicat acum pentru consultare, iar feedbackul extern va fi folosit pentru elaborarea unei versiuni actualizate.

Noua variantă va ghida dezvoltarea modelelor Microsoft începând din 2027, într-un moment în care apelurile pentru încetinirea ritmului de dezvoltare și pentru un control mai strict al sistemelor AI de frontieră câștigă tot mai mult sprijin în industrie.