Cercetător britanic demisionează din industria AI și avertizează asupra riscurilor superinteligenței

Jacob Coxon, un cercetător britanic în vârstă de 27 de ani, a anunțat că demisionează de la compania Anthropic și părăsește definitiv industria inteligenței artificiale, avertizând că dezvoltatorii se îndreaptă orbește spre crearea unei superinteligențe necontrolate. Într-o serie de mesaje publicate pe rețeaua X, Coxon a afirmat că nici OpenAI, nici Anthropic nu acționează responsabil în cursa tehnologică.

Matematician la origine, Coxon a lucrat anterior la antrenarea unor modele de inteligență artificială folosind cantități masive de date și a fost implicat direct în procesul de dezvoltare. „Niciuna dintre companii nu acționează responsabil. Se îndreaptă cu viteză amețitoare către o superinteligență capabilă de auto-îmbunătățire și se joacă cu viețile noastre”, a transmis acesta.

Coxon a avertizat că sistemele vor deveni în curând supraumane, capabile să spargă orice sistem informatic, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale. Cercetătorul susține că, deși liderii companiilor afișează un discurs măsurat în fața presei, în privat mulți dintre dezvoltatori își exprimă frica cu privire la potențialul sistemelor.

„Oamenii care dezvoltă inteligența artificială cred cu sinceritate că aceasta ne-ar putea elimina pe toți până la sfârșitul deceniului”, a declarat Coxon. Plecat inițial de la OpenAI pentru a se alătura Anthropic, companie recunoscută pentru accentul pus pe siguranță, cercetătorul a explicat că și aceasta a picat în aceeași cursă.

La Anthropic, implicațiile sunt bine înțelese, dar compania este angajată într-o cursă pentru a fi prima care realizează aceste sisteme, considerând că trebuie să o facă singură, în ciuda riscurilor. Coxon a avertizat și că, în cursa împotriva Chinei, siguranța ar putea fi trecută în plan secundar, domeniul intrând într-o fază critică, descrisă de colegi drept „endgame”.