Înaltul comisar al ONU pentru drepturile omului, Volker Turk, a avertizat luni că inteligența artificială avansată ar putea reprezenta un risc pentru omenire și a cerut elaborarea rapidă a unor reguli internaționale pentru controlul acestei tehnologii. Declarația a fost făcută la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului, potrivit France Presse, citată de Agerpres.

Turk a atras atenția asupra pericolelor concrete, menționând că unele sisteme de inteligență artificială au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele. „O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat oficialul, cerând introducerea unor garanții solide privind siguranța „înainte să fie prea târziu”.

În luna iulie, agenți AI ai companiei OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face pentru a căuta informații, depășind limitele stabilite de cercetători. Incidente similare au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba, unde agenții au acționat dincolo de atribuțiile stabilite.

Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia măsuri pentru reducerea riscurilor. El a cerut statelor care găzduiesc companii de inteligență artificială să stabilească linii roșii comune. Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor și o cooperare mai strânsă între companii în domeniul securității.

Înaltul comisar a criticat concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și a atras atenția asupra efectelor AI asupra pieței muncii, democrației și mediului. El a salutat măsurile adoptate de Uniunea Europeană și Coreea de Sud, dar a subliniat că, deși există un acord asupra necesității reglementării, acest lucru nu se traduce suficient de rapid în măsuri concrete.