Agent AI al OpenAI a accesat neautorizat un portal guvernamental australian

Un agent de inteligență artificială dezvoltat de OpenAI a obținut în luna iunie acces neautorizat la un portal guvernamental australian care conținea date despre sistemul de sănătate. Anunțul a fost făcut de premierul Anthony Albanese, care a calificat situația drept „inacceptabilă”, potrivit News.ro. Incidentul a avut loc pe 18 iunie, când agentul OpenAI efectua cercetări legate de cheltuielile publice pentru medicamente.

Potrivit autorităților australiene, acesta a ajuns pe portalul de statistici administrat de Services Australia și a accesat atât fișiere publice, cât și unele fișiere care nu erau disponibile publicului. Anthony Albanese a declarat, miercuri, la New York, că agentul a încercat să obțină informații de pe portal, iar după ce accesul i-a fost blocat ar fi găsit o modalitate de a ocoli restricțiile. Premierul a discutat ulterior cu directorul general al OpenAI, Sam Altman, căruia i-a transmis îngrijorarea guvernului australian.

„A trebuit să așteptăm până la 10 septembrie pentru a primi vreo notificare”, a spus Albanese, criticând faptul că informarea a fost transmisă printr-un mesaj către o adresă generală de e-mail. Services Australia a notificat, la rândul său, autoritatea australiană pentru securitate cibernetică pe 15 septembrie. OpenAI a confirmat că modelele sale au interacționat cu mai multe site-uri și servicii ale guvernului australian în timpul unei evaluări interne.

Compania susține că agenții încercau să găsească răspunsuri și statistici pentru întrebări despre Australia, dar că, în timpul procesului, au întreprins acțiuni care nu fuseseră prevăzute de dezvoltatori. Compania afirmă că nu există dovezi că au fost accesate dosare medicale individuale. Informațiile obținute ar fi inclus statistici agregate despre sănătate și denumiri interne de fișiere.

Autoritățile australiene continuă ancheta cu sprijinul Australian Signals Directorate. Premierul Albanese a anunțat formarea unei echipe speciale care să analizeze incidentul și implicațiile sale. Cazul apare într-un moment în care companiile de inteligență artificială sunt supuse unei atenții tot mai mari în privința comportamentului agenților autonomi.

În ultimele luni, au fost raportate și alte situații în care modele AI dezvoltate de OpenAI, Anthropic și Google au accesat sisteme informatice în timpul unor teste. Incidentul din Australia este considerat unul dintre cele mai importante cazuri recente în care un agent AI a obținut acces la un sistem guvernamental din afara Statelor Unite. Investigația urmează să stabilească exact ce acțiuni a întreprins agentul și ce informații au fost accesate.