AI începe să rezolve probleme de matematică vechi de zeci de ani. De ce cercetătorii sunt tot mai îngrijorați

Modelele de inteligență artificială au ajuns să rezolve probleme matematice la care cercetătorii lucrează de ani sau chiar decenii, iar ritmul progresului începe să provoace îngrijorare în comunitatea științifică. OpenAI susține că un nou model intern a rezolvat peste 100 de probleme deschise de lungă durată din mai multe domenii ale matematicii, inclusiv problema Navier-Stokes, una dintre problemele pentru care este oferit un premiu de un milion de dolari.

Disputa nu privește însă numai capacitățile AI. Mai mulți matematicieni consultați de WIRED acuză OpenAI și Anthropic că transformă domeniul într-o competiție între companii și că publică rezultatele într-un ritm și într-o formă care ignoră procesele tradiționale de verificare, atribuire și publicare științifică.

OpenAI le-a vorbit matematicienilor despre sute de probleme rezolvate cu AI

În august, OpenAI a reunit aproximativ 40 de matematicieni pentru a discuta ce ar trebui făcut în situația în care inteligența artificială ajunge să depășească abilitățile oamenilor în acest domeniu.

Potrivit unor participanți, compania a sugerat în timpul întâlnirii că modelele sale puternice ar fi rezolvat sute de probleme matematice rămase deschise.

Participanții au reacționat cu ceea ce Bryna Kra, matematician la Northwestern University, a descris drept „un amestec de entuziasm și teamă”.

Matematicienii le-au cerut reprezentanților OpenAI să nu publice pur și simplu rezultatele prin postări pe blog sau pe rețelele sociale. În schimb, aceștia au recomandat publicarea unor lucrări științifice care să explice soluțiile suficient de detaliat pentru ca alți specialiști să le poată analiza, înțelege și utiliza.

„Aparent, acea recomandare a fost ignorată”, a declarat Kra.

Potrivit unor persoane familiarizate cu planurile companiei, OpenAI intenționează să publice pe GitHub sute dintre rezultatele despre care a vorbit la întâlnirea din august.

Compania prezintă însă o situație diferită în privința calendarului.

„Pe 28 august, am început antrenarea unui nou model intern. Pe lângă rezolvarea problemei Navier-Stokes din cadrul Millennium Prize, acest model a rezolvat acum peste 100 de probleme deschise de lungă durată din majoritatea domeniilor matematicii”, a declarat Lindsay McCallum, purtătoare de cuvânt a OpenAI.

Potrivit acesteia, compania lucrează la o modalitate responsabilă de publicare a următoarelor rezultate și nu a stabilit încă momentul lansării lor.

Matematicienii se tem că domeniul devine o competiție între OpenAI și Anthropic

Pentru o parte dintre cercetători, problema este modul în care marile companii AI încearcă să își demonstreze capacitățile.

Matematicienii consultați de WIRED consideră că domeniul riscă să devină un teren pe care OpenAI și Anthropic își testează și promovează modelele, în timp ce se pregătesc pentru eventuale oferte publice inițiale.

În această cursă, spun cercetătorii, procesele tradiționale privind publicarea și atribuirea rezultatelor științifice riscă să fie lăsate deoparte.

Unul dintre cele mai controversate episoade s-a produs în septembrie, când OpenAI a folosit mii de agenți AI pentru a încerca să rezolve o problemă celebră din categoria Millennium Prize, după ce ar fi aflat că alte persoane se apropie de o soluție.

Tristan Buckmaster, matematician și profesor la New York University, a acuzat compania că a încercat să ajungă înaintea cercetării pe care o desfășura împreună cu Levent Alpöge, angajat Anthropic. Cei doi nu își publicaseră încă munca, dar utilizaseră instrumentele OpenAI pentru a-i ajuta în cercetare.

Buckmaster susține că, în timpul discuțiilor privind atribuirea contribuțiilor, cercetătorul OpenAI Sébastien Bubeck ar fi sugerat că Alpöge ar trebui exclus dintr-o eventuală lucrare deoarece implicarea sa ar complica situația. Bubeck a negat anterior că i-ar fi cerut lui Buckmaster să nu îl includă pe Alpöge ca autor.

„Există o percepție de comportament de mafiot”

Tensiunile au crescut și mai mult în timpul discuțiilor dintre Buckmaster și OpenAI. Potrivit unor note ale întâlnirii consultate de WIRED, Bubeck și-ar fi exprimat îngrijorarea privind reacția Anthropic și posibilitatea ca rivalul OpenAI să își concentreze la rândul său resursele de calcul asupra rezolvării unei probleme Millennium Prize.

Buckmaster susține, de asemenea, că Bubeck ar fi sugerat că acesta își poate afecta cariera după ce matematicianul a amenințat că va discuta cu presa despre convingerea sa că OpenAI i-a preluat munca.

Nestor Guillen, profesor invitat de matematică la New York University, spune că asemenea episoade au afectat percepția cercetătorilor asupra companiilor AI.

„Există o percepție de comportament de mafiot” din partea companiilor de inteligență artificială, a declarat Guillen.

OpenAI respinge această caracterizare.

„Nu suntem de acord cu această caracterizare”, a transmis Lindsay McCallum.

Guillen spune că neliniștea pe care o observă printre colegii săi nu este provocată neapărat de inteligența artificială.

„Simt multă neliniște și văd asta din ce în ce mai mult la colegii mei din matematică, nu din cauza AI, ci din cauza companiilor AI. Cred că o mare parte din neliniște este legată de acumularea puterii într-un singur loc”, a explicat acesta.

Cercetătorii critică „matematica prin tweet și comunicat de presă”

OpenAI a format la jumătatea lunii septembrie un grup consultativ care ar trebui să ajute compania să stabilească modul în care evaluează și comunică noile rezultate, respectă standardele academice și profesionale și dezvoltă instrumente pentru cercetare și educație matematică.

Unii matematicieni consideră însă că progresele sunt insuficiente.

Una dintre principalele nemulțumiri este că OpenAI și Anthropic continuă să prezinte rezultate prin postări pe blog, în locul lucrărilor științifice tradiționale. Potrivit cercetătorilor, această metodă face rezultatele mai greu de verificat și poate exclude contribuțiile anterioare ale altor matematicieni.

„Matematica prin tweet și matematica prin comunicat de presă nu reprezintă, pentru mine, modul în care ar trebui cultivat ecosistemul care a creat terenul fertil pe care aceste companii și-au antrenat modelele”, a declarat Bryna Kra.

Comunitatea matematică a început deja să creeze instrumente pentru noua realitate. Printre acestea se numără Hexagon, un depozit destinat în principal materialelor generate cu AI, și Palomar, un registru pentru matematică verificată cu ajutorul mașinilor.

Scopul lor este atât utilizarea rezultatelor noi, cât și identificarea celor care necesită analiză suplimentară.

Kra spune că OpenAI a fost încurajată direct să folosească asemenea instrumente, dar compania nu și-ar fi schimbat comportamentul. Cercetătoarea consideră, de asemenea, că practicile OpenAI nu sunt aliniate cu Declarația de la Leiden, un apel susținut de peste 4.000 de matematicieni pentru ca firmele AI să respecte standardele comunității matematice.

Unii angajați OpenAI ar considera că AI a făcut deja „moartă” matematica

Potrivit unor persoane care au discutat cu angajați OpenAI, în interiorul companiei există inclusiv opinia că tehnologia ar fi făcut deja matematica „moartă”.

OpenAI respinge ideea că viitorul domeniului ar fi deja stabilit.

„Nu credem că viitorul matematicii este stabilit. Lucrăm împreună cu comunitatea matematică pentru a naviga în mod colaborativ acest viitor”, a declarat McCallum.

Participanții la întâlnirea din august au interpretat însă discuția despre o eventuală depășire a cercetătorilor umani de către AI mai degrabă ca pe un avertisment privind ceea ce urmează decât ca pe un simplu scenariu ipotetic.

Bubeck consideră, potrivit declarației sale pentru WIRED, că o inteligență artificială mai capabilă i-ar putea ajuta pe matematicieni să abordeze întrebări mai ambițioase, să își conecteze mai bine cercetările cu probleme din lumea reală și să facă matematica mai accesibilă.

„Văd acest lucru ca pe o oportunitate de a extinde ceea ce pot face matematicienii și impactul pe care munca lor îl poate avea”, a spus acesta.

Bryna Kra consideră, la rândul său, că domeniul nu este pe cale să dispară. Instrumentele AI pot schimba profund modul în care lucrează cercetătorii și le pot permite să abordeze probleme mai mari, dar rezultatele trebuie prezentate într-un mod care să le permită specialiștilor să aibă încredere în ele și să construiască mai departe pornind de la acestea.

„Este o perioadă înfricoșătoare, dar este și o perioadă cu adevărat profund interesantă”, a spus Kra.