Poziția OpenAI privind reglementarea inteligenței artificiale

Sam Altman, directorul general al OpenAI, susține o abordare relaxată în privința reglementării inteligenței artificiale, argumentând că societatea trebuie să accepte riscuri precum atacurile informatice, escrocheriile și diverse forme de abuz în schimbul beneficiilor tehnologice. Într-un interviu pentru podcastul „Decoded” al Politico, Altman a precizat că nu dorește un compromis care să garanteze absența totală a incidentelor negative, considerând că impactul pozitiv al tehnologiei va depăși riscurile.

Această viziune diferă de cea a companiei Anthropic, care a solicitat o încetinire a dezvoltării și reguli mai stricte de siguranță. În timp ce susține democratizarea tehnologiei, Altman a subliniat că OpenAI încurajează evaluările externe. Totuși, poziția sa a atras critici din partea unor experți, precum Gary Marcus, care a acuzat compania că prioritizează profitul în detrimentul siguranței publice, în timp ce guvernatorul Floridei, Ron DeSantis, a contestat dreptul companiilor de a decide unilateral standardele de siguranță.

În cadrul companiei, dezbaterea privind siguranța a dus la plecări recente, precum cea a lui David Robinson, care a criticat lipsa de prudență a firmei. Miles Brundage, un alt cercetător care a părăsit OpenAI, a regretat promovarea ideii de implementare iterativă, considerând-o periculoasă, iar Geoffrey Irving a avertizat că măsurile luate în următorii ani vor fi decisive pentru a preveni scenarii catastrofale.

Pe plan politic, președintele SUA a semnat un acord cu liderii din industrie, inclusiv cu Altman și Dario Amodei de la Anthropic, care încurajează autoreglementarea companiilor pentru a limita riscurile cibernetice și pe cele legate de armele biologice.

În paralel, Sam Altman a reluat conflictul cu Elon Musk, numindu-l „agresor” și sugerând că este necesară o ripostă fermă. Musk a intentat anterior o acțiune în instanță împotriva OpenAI, susținând că aceștia au încălcat contractul inițial, însă procesul a fost respins.

Compania s-a confruntat recent cu incidente de securitate, în care agenți AI ar fi accesat date guvernamentale australiene și ar fi atacat site-ul Hugging Face. În acest context, Altman a avertizat asupra unui val de probleme de securitate cibernetică ce ar putea proveni de la modelele open-source ale rivalilor.