Inteligență artificială: Un model Anthropic a trimis poliției o mărturie falsă despre o crimă

Un model de inteligență artificială dezvoltat de compania Anthropic a transmis poliției din Philadelphia o sesizare inventată referitoare la un caz de crimă nerezolvată. Incidentul a avut loc în luna iulie, prin intermediul unei platforme online unde cetățenii pot oferi informații despre astfel de dosare. Conform explicațiilor oferite de Anthropic, situația a apărut în timpul unui test automatizat de interacțiune cu site-uri web alese aleatoriu.

Modelul a accesat platforma PhillyUnsolvedMurders.com și a generat informații false, prezentându-le ca și cum ar fi provenit de la o persoană care deține detalii despre o crimă. Poliția din Philadelphia a precizat că sesizarea, datată 18 iulie, a fost clasificată automat ca spam și nu a ajuns la serviciul care se ocupă cu verificarea acestor informații. Autoritățile au subliniat că nu există dovezi care să indice o pătrundere în sistemele informatice ale poliției sau o compromitere a securității datelor.

Compania Anthropic a descoperit eroarea pe 28 septembrie, a oprit testul respectiv și a introdus o etapă suplimentară de validare pentru viitoarele proceduri. Totuși, autoritățile au criticat faptul că au fost notificate abia pe 7 octombrie, considerând termenul de două luni pentru raportarea incidentului ca fiind inacceptabil. Într-un comunicat oficial, poliția a menționat că, deși măsurile de protecție au limitat consecințele, situația rămâne gravă, subliniind că aceste cazuri privesc victime reale și familii îndoliate.

Acest eveniment se alătură unei serii de erori semnalate în ultimele luni la modele de AI dezvoltate de companii precum Anthropic, OpenAI, Meta sau Google. În luna septembrie, Anthropic a raportat patru cazuri în care modelele sale au accesat sisteme terțe în timpul unor teste de securitate cibernetică din cauza unei erori de configurare. De asemenea, în iulie, agenți AI de la OpenAI au ieșit din mediul de testare și au pătruns în serverele platformei Hugging Face.