Avertismentul venit de la Microsoft: ce reguli îi lipsesc inteligenței artificiale

Brad Smith, președintele Microsoft, susține că inteligența artificială are nevoie urgentă de reguli de siguranță la nivel global și de mecanisme independente care să evalueze evoluția acestei tehnologii.

Un detaliu ignorat despre inteligența artificială a ajuns în centrul unei dezbateri globale

Oficialul a atras atenția că sistemele de inteligență artificială sunt supuse unor cerințe de siguranță mai puțin stricte decât produse obișnuite, precum laptele sau aparatele electrocasnice. Mai exact, într-un interviu acordat BBC și publicat luni, Smith a pledat pentru introducerea unor standarde internaționale care să permită identificarea și gestionarea riscurilor asociate agenților de inteligență artificială.

Printre măsurile propuse se numără notificarea persoanelor afectate atunci când un agent IA neautorizat compromite un sistem, precum și existența unui mecanism de oprire de urgență.

Președintele Microsoft consideră că firmele care dezvoltă și utilizează astfel de tehnologii ar trebui să aibă și obligația legală de a întocmi rapoarte privind incidentele de securitate sau comportamentele nedorite ale sistemelor.

Reguli de siguranță inspirate din alte domenii

Brad Smith a subliniat că există deja proceduri consacrate pentru supravegherea și controlul riscurilor asociate altor categorii de produse, iar experiența acumulată ar putea fi valorificată și în domeniul inteligenței artificiale.

„Știm cum să facem asta și pentru alte produse”, a declarat oficialul Microsoft. „Ar trebui să ne bazăm pe aceste cunoștințe și să ne gândim cum să le aplicăm în domeniul inteligenței artificiale.”

Pentru a evidenția diferențele dintre nivelurile actuale de reglementare, Smith a făcut referire la cerințele impuse aparatelor electrocasnice și produselor alimentare. „În acest moment, mașina ta de spălat este supusă mai multor reguli de siguranță decât inteligența artificială. Fiecare cutie de lapte pe care o vezi în magazinul alimentar este supusă regulilor de siguranță și inspecției.”

Declarațiile sale vin într-o perioadă în care industria tehnologică încearcă să identifice modalități de prevenire a utilizării necorespunzătoare a agenților IA și de limitare a riscurilor generate de dezvoltarea accelerată a acestor sisteme.

Companii precum Anthropic și OpenAI au început să facă publice informații despre comportamente neautorizate sau nedorite ale agenților de inteligență artificială. Aceste dezvăluiri se înscriu într-o dezbatere internațională mai amplă privind implicațiile tehnologiei, inclusiv avertismentele unor cercetători referitoare la posibilitatea ca dezvoltarea IA să ajungă să reprezinte o amenințare existențială pentru umanitate.

Dezbaterea privind limitele dezvoltării inteligenței artificiale

O parte dintre companiile din sectorul tehnologic au susținut încetinirea ritmului de dezvoltare a inteligenței artificiale, însă propunerile au generat discuții despre motivele din spatele unor astfel de inițiative.

Printre preocupările exprimate se numără posibilitatea ca anumite firme să susțină reguli care să consolideze poziția companiilor deja consacrate pe piață, să reducă riscul unor reacții politice mai ample sau să limiteze presiunea financiară provocată de investițiile tot mai mari în dezvoltarea tehnologiei.

În acest context, Brad Smith a indicat Marea Britanie drept țara care ar avea cea mai bună poziție pentru a conduce eforturile de reglementare a inteligenței artificiale. Argumentul său se bazează pe existența Institutului pentru Siguranța Inteligenței Artificiale, lansat în perioada în care Rishi Sunak ocupa funcția de prim-ministru.

Potrivit președintelui Microsoft, oficialii americani privesc diferit inițiativele britanice față de abordarea Uniunii Europene, care reglementează inteligența artificială în funcție de nivelul de risc prin intermediul Legii privind inteligența artificială.

Rolul institutului britanic și posibile noi reglementări

Institutul britanic pentru Siguranța Inteligenței Artificiale poate evalua capacitățile și riscurile modelelor avansate înainte de lansarea acestora, pe baza unor acorduri voluntare încheiate cu principalii dezvoltatori de sisteme IA. Acest acces anticipat permite examinarea tehnologiilor înainte ca ele să fie puse la dispoziția publicului.

Autoritățile britanice au lăsat deschisă posibilitatea introducerii unor măsuri suplimentare, dacă mecanismele voluntare existente nu vor asigura un nivel suficient de protecție.

Ministrul britanic responsabil de inteligența artificială, Kanishka Narayan, a declarat pentru Reuters că guvernul va lua în considerare reglementarea modelelor avansate dacă sistemul actual se va dovedi insuficient. Poziția indică disponibilitatea autorităților de a interveni prin măsuri legislative, în funcție de eficiența garanțiilor aplicate în prezent de companiile din domeniu.