CEO-ul Microsoft lansează un avertisment pentru companiile care folosesc AI: Plătiți de două ori, o dată cu bani și încă o dată cu ceva și mai valoros

Directorul general al Microsoft, Satya Nadella, a lansat un avertisment adresat companiilor care folosesc modele de inteligență artificială dezvoltate de marii furnizori din industrie. Potrivit acestuia, pe lângă costurile financiare pentru utilizarea acestor servicii, firmele riscă să ofere fără să își dea seama informații valoroase despre propriile afaceri.

CEO-ul Microsoft lansează un avertisment pentru companiile care folosesc inteligența artificială

Dezbaterea privind riscurile asociate inteligenței artificiale este tot mai intensă, iar una dintre principalele preocupări ale specialiștilor din Silicon Valley este legată de faptul că marile laboratoare AI care dezvoltă modele proprietare pot ajunge să acumuleze informații sensibile despre clienții lor.

Pe măsură ce startup-urile și companiile utilizează modele dezvoltate de firme precum OpenAI sau Anthropic, acestea furnizează modelelor date despre procesele interne, strategiile și modul de funcționare al afacerilor. Există temeri că aceste informații ar putea fi folosite ulterior chiar de dezvoltatorii modelelor, care ar putea deveni concurenți ai propriilor clienți.

Printre cei care au exprimat astfel de îngrijorări se numără investitorul Jason Calacanis și directorul general al Palantir, Alex Karp. Acum, și Satya Nadella s-a alăturat acestor avertismente printr-o postare publicată pe blogul său.

Satya Nadella avertizează  că utilizatorii plătesc de două ori pentru inteligența artificială

Șeful Microsoft avertizează  că utilizatorii plătesc de două ori pentru inteligența artificială. O dată prin costurile generate de utilizarea modelelor și a doua oară prin informațiile valoroase pe care trebuie să le ofere pentru ca modelele să furnizeze rezultate cât mai bune.

Potrivit lui Nadella, cu cât o companie dorește răspunsuri mai precise și mai adaptate activității sale, cu atât trebuie să introducă mai multe informații proprii în sistemele AI.

„În esență, plătiți de două ori pentru inteligență: o dată cu bani și încă o dată cu ceva și mai valoros – cunoștințele proprii pe care trebuie să le dezvăluiți pentru ca acea inteligență să fie cu adevărat utilă. Cu cât doriți ca modelul să ofere rezultate mai bune, cu atât trebuie să îi furnizați mai multe dintre aceste cunoștințe”, a explicat Nadella.

Acesta avertizează că modelele învață permanent din interacțiunile utilizatorilor. Solicitările introduse, instrumentele utilizate de agenții AI și mai ales corecturile făcute de oameni atunci când modelele greșesc contribuie la acumularea unui volum important de cunoștințe despre modul de funcționare al unei organizații.

„Modelele învață din urmele pe care le lasă utilizatorii: din solicitările pe care oamenii le introduc, din instrumentele folosite de agenții AI și, mai ales, din corecturile pe care oamenii le fac atunci când modelul greșește. Fiecare corectură este transformată în know-how instituțional”, a mai spus acesta.

În opinia sa, aceste informații reprezintă un tip de know-how pe care concurenții nu l-ar putea cumpăra în mod obișnuit, însă companiile îl oferă involuntar prin utilizarea modelelor AI.

Satya Nadella susține că, dacă dezvoltatorii de inteligență artificială beneficiază de dreptul de a antrena modelele folosind date publice disponibile pe internet, atunci și companiile ar trebui să poată analiza și utiliza rezultatele generate de aceste modele pentru a dezvolta propriile soluții.

Acesta face referire la procesul numit „distillation”, prin care ieșirile unui model sunt folosite pentru a înțelege modul său de funcționare și pentru a crea modele noi, mai ieftine și mai eficiente.

„Deși este necesară inovația pe care o aduce dreptul furnizorilor de modele de a folosi în mod echitabil date publice pentru antrenarea sistemelor AI, mi se pare ironic că aceeași situație duce apoi la impunerea unor condiții restrictive privind distilarea modelelor”, a mai scris Satya Nadella.

Subiectul a generat deja controverse. În februarie, Anthropic a acuzat dezvoltatorii unor modele open-source din China că au trimis milioane de solicitări către modelul Claude pentru a-și îmbunătăți propriile sisteme și a cerut autorităților americane înăsprirea controalelor privind exporturile.

Este contradictoriu ca dezvoltatorii modelelor AI să invoce dreptul de a folosi date publice pentru antrenare, dar să impună în același timp restricții privind utilizarea propriilor modele pentru procese similare

Satya Nadella consideră că este contradictoriu ca dezvoltatorii modelelor AI să invoce dreptul de a folosi date publice pentru antrenare, dar să impună în același timp restricții privind utilizarea propriilor modele pentru procese similare.

De asemenea, CEO-ul Microsoft își exprimă îngrijorarea față de situațiile în care furnizorii de modele își rezervă dreptul de a învăța din datele generate de utilizatori și din interacțiunile acestora cu sistemele AI.

Ca soluție, Nadella recomandă companiilor să păstreze controlul asupra propriilor date, inclusiv asupra solicitărilor, răspunsurilor și feedback-ului oferit modelelor de inteligență artificială.

În acest sens, el încurajează dezvoltarea unor medii proprii de învățare în cloud și implementarea unor straturi de orchestrare care să permită schimbarea rapidă a furnizorilor de modele AI, fără dependență de un singur dezvoltator. Astfel de instrumente, cunoscute și sub denumirea de gateway-uri AI, devin tot mai populare.

Deși Nadella nu menționează explicit modelele open-source, mesajul său este interpretat ca un sprijin indirect pentru acestea.

Tot mai multe companii aleg să instaleze modele open-source pe propriile infrastructuri informatice

În paralel, tot mai multe companii aleg să instaleze modele open-source pe propriile infrastructuri informatice, în loc să utilizeze exclusiv modele comerciale găzduite de furnizori externi.

Idit Levine, fondatoare și director general al companiei Solo.io, afirmă că observă această tendință în rândul clienților săi. Potrivit acesteia, după ce testează modele proprietare, multe companii ajung la concluzia că pot utiliza modele open-source instalate local, care oferă aproximativ 90% din performanțele soluțiilor comerciale, la costuri mult mai reduse și cu un control mult mai mare asupra datelor.

Solo.io dezvoltă soluții de rețelistică și securitate pentru administrarea sistemelor AI și are printre clienți companii precum T-Mobile, ADP și SAP. Tehnologia firmei a fost selectată anul trecut pentru proiectul Agentgateway al Linux Foundation.

Și alte companii din industrie observă aceeași evoluție. Vercel, cunoscută pentru platforma de dezvoltare și găzduire de site-uri web, precum și OpenRouter, care permite direcționarea solicitărilor către diferite modele AI, raportează o creștere puternică a utilizării modelelor open-source.

Potrivit datelor Vercel, modelele open-source au reprezentat 29% din întregul trafic direcționat prin gateway-ul companiei în luna precedentă.

Având în vedere că și CEO-ul Microsoft, companie care a investit atât în OpenAI, cât și în Anthropic, recomandă companiilor să fie prudente în utilizarea modelelor proprietare și să își păstreze controlul asupra propriilor date, analiștii apreciază că interesul pentru soluțiile open-source ar putea continua să crească.