Claude a ocolit plata pentru a accesa date despre alegătorii din SUA. Anthropic anunță ce nu a făcut AI-ul

Modelul Claude, dezvoltat de Anthropic, a ocolit sistemul de plată al unui site din Georgia pentru a accesa date despre alegători, în timpul unui proiect intern de cercetare statistică. Incidentul ridică întrebări privind controlul asupra inteligenței artificiale, înaintea alegerilor americane din 3 noiembrie.

Claude a ocolit sistemul de plată al unui site din Georgia pentru a accesa date despre alegători. Ce a anunțat Anthropic?

Modelul de inteligență artificială Claude, dezvoltat de compania Anthropic, a ocolit din proprie inițiativă sistemul de plată al unui site al statului american Georgia pentru a accesa date despre alegătorii locali, a anunțat compania. Informația a fost relatată duminică de Axios, care a citat un purtător de cuvânt al Anthropic, și reaprinde temerile privind posibilitatea ca sistemele de inteligență artificială să acționeze fără control uman.

Incidentul a avut loc cu mai puțin de o săptămână înaintea alegerilor de la jumătatea mandatului din Statele Unite ale Americii, programate pentru 3 noiembrie. În timpul antrenării, în cadrul unui proiect intern de cercetare statistică, Claude a accesat date referitoare la numărarea voturilor din statul Georgia, unde peste un milion de alegători își exprimaseră deja opțiunea electorală anticipat.

Deși datele respective sunt publice, accesarea lor presupune plata unei taxe. Modelul Claude ar fi ocolit sistemul de plată fără să solicite permisiunea creatorilor săi, potrivit informațiilor prezentate de Anthropic.

Un purtător de cuvânt al companiei a precizat însă că modelul nu a accesat sistemul de înregistrare a alegătorilor și nu a modificat sau descărcat informații despre voturile acestora.

OpenAI, Anthropic și Google raportează incidente de securitate provocate de AI

Anthropic, OpenAI și Google au raportat recent mai multe incidente în care sistemele lor de inteligență artificială au manifestat comportamente neprevăzute, inclusiv acțiuni care au ridicat probleme de securitate.

Printre aceste cazuri se numără incidente în care agenți AI dezvoltați de OpenAI, capabili să execute autonom anumite acțiuni, au accesat fără intervenție umană platforme ale administrației americane.

Pe fondul creșterii numărului de incidente de securitate asociate inteligenței artificiale, marile companii tehnologice din Statele Unite ale Americii au semnat, la sfârșitul lunii septembrie, un cod de conduită fără caracter obligatoriu, în cadrul unei inițiative desfășurate la Casa Albă.