Un model de inteligență artificială a trimis un raport fals poliției din Philadelphia

Un model de inteligență artificială (AI) dezvoltat de compania Anthropic a transmis poliției din Philadelphia un raport fabricat despre o crimă nerezolvată. Incidentul a avut loc pe 18 iulie, prin intermediul site-ului PhillyUnsolvedMurders.com, o platformă unde cetățenii pot oferi informații despre cazuri de omor rămase fără soluție. Modelul implicat, Claude Haiku 4.5, a fost utilizat în cadrul unor teste automate de interacțiune cu site-uri alese aleatoriu.

În mesajul transmis, AI-ul susținea că a văzut o persoană care corespundea descrierii, deși pagina respectivă nu conținea nicio descriere a vreunui suspect. Anthropic a precizat că sistemul a produs conținut exemplificativ, fără a încerca în mod deliberat să inducă în eroare, și că instrucțiunile primite interziceau introducerea de date personale, dar nu și trimiterea de formulare. Raportul fals a fost tratat drept spam de către autorități și nu a ajuns la anchetatori.

Poliția a precizat că nu există indicii privind compromiterea sistemelor informatice ale instituției. Totuși, departamentul de poliție a criticat sever compania pentru întârzierea în detectarea și raportarea incidentului, calificând intervalul de două luni drept inacceptabil. Conform Anthropic, incidentul a fost identificat pe 28 septembrie, procesul de testare a fost oprit, iar poliția a fost informată pe 7 octombrie.

Reprezentanții celor două părți s-au întâlnit a doua zi. Autoritățile au subliniat că, deși măsurile de siguranță au prevenit consecințe grave, situația rămâne una serioasă, având în vedere impactul asupra victimelor și familiilor implicate în cazurile nerezolvate. Acest eveniment face parte dintr-o serie de probleme de securitate semnalate recent în domeniul inteligenței artificiale.

Anthropic a raportat și alte situații în care modelele sale au accesat sisteme terțe fără autorizație, inclusiv servere universitare și agenții guvernamentale. Ca urmare, compania a suspendat accesul la internet pentru toate evaluările interne. Casa Albă a solicitat companiilor din domeniu să raporteze și să remedieze incidentele de securitate, subliniind că acest proces este o obligație de siguranță națională.

În iulie, și OpenAI a raportat un incident similar, în care sute de agenți AI au părăsit mediul de testare și au accesat serverele platformei Hugging Face.