Reprezentanții Upvance au oferit mai multe explicații pentru Capital despre această situație. Potrivit acestora, utilizarea AI fără reguli clare aduce o serie de riscuri semnificative pentru companii. În lipsa unor politici interne, organizațiile pierde controlul asupra procesului decizional zilnic, în special în zona operațională. Astfel, modelele AI pot ajunge să ia decizii sensibile legate de relațiile cu clienții, alocarea bugetelor sau evaluarea angajaților, fără o intervenție umană responsabilă.
Un alt risc major este compromiterea confidențialității datelor
Un alt risc major identificat este compromiterea confidențialității datelor. Fără o reglementare internă, angajații pot introduce în instrumente comerciale informații sensibile, cum ar fi date financiare, strategice sau de resurse umane, fără a conștientiza consecințele posibile.
De asemenea, absența unor standarde interne poate duce la generarea de conținut inexact sau erori grave, cu impact negativ asupra reputației brandului. Un caz relevant menționat de Upvance este cel al unei companii din Big 4, care a pierdut sute de milioane de dolari din cauza unei erori provocate de utilizarea necontrolată a unui instrument AI.
„Atunci când organizațiile folosesc AI fără politici clare, pierd controlul asupra modului în care se iau deciziile zilnice, mai ales în zona operațională. Fără un cadru clar, putem ajunge să delegăm modelelor AI decizii care țin de relația cu clienții, de prioritizarea bugetelor sau chiar de evaluarea oamenilor din echipă.
Un alt risc major este compromiterea confidențialității. În lipsa unor reguli, angajații pot introduce în modele comerciale informații sensibile (financiare, strategice sau de resurse umane) fără să conștientizeze consecințele”, au explicat reprezentanții Upvance pentru Capital.
Pe termen lung, utilizarea haotică a AI poate duce la o dependență inconștientă
Pe termen lung, utilizarea haotică a AI poate duce la o dependență inconștientă, întrucât angajații ajung să manifeste încredere oarbă în răspunsurile generate de modele, fără verificarea surselor sau a logicii din spatele acestora. Astfel, arată specialiștii, inteligența artificială încetează să mai fie un instrument strategic și devine un risc operațional.
„În plus, lipsa unor standarde interne poate genera conținut inexact sau erori majore care afectează reputația brandului. Un exemplu recent: o companie din Big 4 a pierdut sute de milioane de dolari din cauza unei erori generate de utilizarea necontrolată a unui instrument AI.
Pe termen lung, acest haos se transformă într-o dependență inconștientă, pentru că oamenii ajung să aibă încredere oarbă în răspunsurile AI, fără să mai verifice sursele sau logica din spate. În acel moment, AI-ul încetează să mai fie un instrument strategic și devine un risc operațional”, subliniază reprezentanții Upvance.
În privința cadrului legislativ, studiul arată că doar 16% dintre respondenți sunt familiarizați cu EU AI Act, noul regulament european privind utilizarea responsabilă a inteligenței artificiale. Lipsa de cunoștințe în acest domeniu este considerată de experți o amenințare majoră la adresa competitivității. În următorii doi ani, se va observa o diferență clară între companiile care tratează EU AI Act ca pe o oportunitate de profesionalizare și cele care îl ignoră până când va fi prea târziu, potrivit explicațiilor oferite de reprezentanții Upvance.
„În următorii 2 ani vom vedea o diferență clară între companiile care tratează EU AI Act ca pe o oportunitate de profesionalizare și cele care îl ignoră până e prea târziu. Lipsa de cunoaștere înseamnă expunere la riscuri legale și pierderea competitivității în licitații, parteneriate sau audituri internaționale.
Este esențial ca organizațiile să trateze această reglementare cu seriozitate, pentru a evita un nou val de implementări grăbite și superficiale, așa cum am văzut la intrarea în vigoare a GDPR sau acum, în contextul legislației privind transparența salarială.
Avem la dispoziție mai puțin de 2 ani să punem la punct strategiile de compliance pentru EU AI Act și ar fi bine să profităm de acest timp pentru a integra instrumentele într-o manieră coerentă în procesele și produsele pe care le oferim. Companiile care înțeleg cum să demonstreze că utilizează instrumentele AI într-un mod responsabil vor atrage clienți, investitori și talente mai rapid”, au mai spus aceștia.
Necunoașterea prevederilor directivei europene poate duce la expunerea organizațiilor la riscuri legale
Necunoașterea prevederilor directivei europene poate duce la expunerea organizațiilor la riscuri legale, dar și la pierderi în competitivitate în cadrul licitațiilor, parteneriatelor sau auditurilor internaționale, spun reprezentanții Upvance.
Specialiștii atrag atenția că organizațiile trebuie să folosească perioada de până la intrarea în vigoare completă a regulamentului pentru a elabora strategii coerente de conformare. Conform analizei Upvance, organizațiile care vor reuși să adopte și să demonstreze un mod responsabil de utilizare a AI vor atrage mai ușor clienți, investitori și talente.
„Lipsa de familiaritate cu EU AI Act afectează și profesioniștii care lucrează deja cu instrumente de inteligență artificială. Fiecare dintre noi va trebui să înțeleagă principiile de bază ale reglementării (transparență, acuratețe, nediscriminare), exact la fel cum cunoaștem principiile de bază ale Excel-ului sau ale Outlook-ului.
În același timp, lipsa de cunoștințe legate de legislația AI va amplifica decalajul de competențe. Profesioniștii care știu să folosească AI conform standardelor europene vor deveni mai valoroși pe piața muncii, mai ales în roluri cu expunere internațională. Deja vedem în job-urile publicate o creștere dramatică a cerințelor legate de familiaritatea cu instrumentele de tip AI, chiar și spre 20% din roluri au astfel de cerințe, în funcție de domeniu. EU AI Act este un adevărat test de alfabetizare digitală pentru întreaga piață a muncii, iar acum România are șansa să treacă de la o piață de outsourcing la una de inovație”, au completat reprezentanții Upvance.
Raportul realizat de Upvance Global poate fi vizualizat aici.
studiu-ai
