Goldman Sachs trage un semnal de alarmă: AI ar putea afecta gândirea angajaților de pe Wall Street

Inteligența artificială promite să transforme radical munca de pe Wall Street, însă ritmul accelerat al automatizării ridică și întrebări neașteptate. Un director al Goldman Sachs avertizează că dependența excesivă de AI ar putea afecta capacitatea angajaților de a gândi independent, în timp ce banca se confruntă și cu limitele tehnologiei.

Goldman Sachs avertizează asupra riscului ca AI să afecteze capacitatea de gândire a angajaților

Unul dintre directorii implicați în principalele proiecte de inteligență artificială ale Goldman Sachs avertizează asupra unui efect nedorit al utilizării excesive a AI pe Wall Street. În opinia sa, angajații din sectorul financiar riscă să-și piardă treptat capacitatea de analiză și raționament dacă transferă către modelele de inteligență artificială o parte tot mai mare din procesul de gândire.

Chris Churchman, partener al Goldman Sachs și șef al platformei digitale Marquee, destinată clienților instituționali, consideră că există un risc major ca profesioniștii din domeniul financiar să ajungă să se bazeze prea mult pe AI. El a avertizat, în podcastul „Exchanges” al Goldman Sachs, citat de CNBC, că această dependență ar putea duce la o formă de „atrofie cognitivă”, care să afecteze capacitatea oamenilor de a analiza problemele pornind de la principii fundamentale.

Problema nu se limitează la înlocuirea unor sarcini repetitive. Potrivit lui Churchman, o parte importantă din pregătirea profesioniștilor de pe Wall Street are loc prin experiență directă, inclusiv prin activități de rutină pe care inteligența artificială le poate automatiza.

Băncile de investiții folosesc tot mai intens AI în tranzacționare, analiză și diverse activități bancare. Tehnologia poate crește productivitatea și profitabilitatea, însă automatizarea ar putea reduce oportunitățile prin care angajații aflați la începutul carierei învață să analizeze situații complexe și să ia decizii.

Churchman a dat exemplul traderilor juniori, care învață să răspundă solicitărilor de preț ale clienților sub supravegherea colegilor mai experimentați. Deși acest proces poate fi automatizat, el atrage atenția că rămâne neclar dacă viitorii traderi seniori vor mai dobândi aceeași înțelegere aprofundată a piețelor și a riscurilor.

El subliniază că experiența practică are un rol esențial în formarea profesională, deoarece o mare parte dintre cunoștințele acumulate de angajații experimentați sunt tacite și nu au fost niciodată consemnate în scris.

Inteligența artificială ar putea schimba inclusiv structura forței de muncă din marile bănci. Instituțiile de pe Wall Street analizează deja posibilitatea utilizării AI pentru a reduce raportul dintre bancherii juniori și angajații seniori.

În acest context, Churchman consideră că băncile trebuie să găsească un echilibru între automatizare și menținerea modelului tradițional de formare profesională. Goldman Sachs trebuie să evite pierderea cunoștințelor intuitive acumulate de angajații cu experiență și să identifice modalități prin care acestea să fie transmise generațiilor următoare.

În special în situațiile cu miză ridicată și un grad mare de incertitudine, sistemele ar trebui concepute astfel încât oamenii să păstreze rolul principal în luarea deciziilor, în loc să devină simpli operatori ai instrumentelor de inteligență artificială.

Churchman recunoaște că nici Goldman Sachs nu a stabilit încă exact cum va realiza această tranziție și cum va putea beneficia de avantajele AI fără să afecteze procesul prin care angajații își dezvoltă experiența și capacitatea de judecată.

„Există un pericol uriaş ca, în era AI, să ne externalizăm raţionamentul către aceste modele şi să ajungem la o atrofie cognitivă care ne împiedică să mai raţionăm singuri pornind de la principii fundamentale”, a declarat Churchman.

„Înveţi făcând, iar o mare parte din cunoştinţe sunt tacite, nu au fost niciodată scrise”, a adăugat el.

Goldman Sachs testează AI în finanțe, dar se lovește de problema răspunsurilor eronate

Goldman Sachs experimentează utilizarea inteligenței artificiale inclusiv în cadrul Marquee, platforma destinată fondurilor speculative și altor clienți instituționali. Aceasta oferă acces la date de piață, cercetare, instrumente pentru analiza riscurilor și servicii de tranzacționare. Deocamdată, versiunea Marquee AI este disponibilă exclusiv angajaților Goldman Sachs.

Potrivit lui Chris, una dintre cele mai dificile probleme tehnice este asigurarea faptului că răspunsurile generate de inteligența artificială sunt corecte și pot fi verificate ulterior. În aplicațiile financiare profesionale, toleranța pentru informații inventate sau eronate este mult mai redusă decât în cazul chatboturilor destinate publicului larg.

În procesul de dezvoltare a sistemului, echipa Goldman Sachs a testat intens modelul pentru a-i identifica limitele și eventualele erori. La un moment dat, sistemul AI ar fi oferit chiar o explicație sugestivă cu privire la propria vulnerabilitate, potrivit lui Churchman.

El a relatat că modelul a recunoscut, în esență, că este mai bun la a da impresia de rigoare decât la a fi cu adevărat riguros, evidențiind astfel una dintre principalele provocări ale utilizării inteligenței artificiale în domeniul financiar.

„Până la urmă, sunt mai bun la a părea riguros decât la a fi riguros”, ar fi răspuns sistemul AI, potrivit lui Churchman.