Demisie la OpenAI: un responsabil cu siguranța avertizează că firma nu este suficient de prudentă

David Robinson, responsabil cu siguranța la OpenAI, a demisionat în această săptămână și a avertizat că firma nu acordă suficientă atenție riscurilor legate de inteligența artificială. El a coordonat redactarea rapoartelor de siguranță care însoțeau lansările de produse ale dezvoltatorului ChatGPT.

Într-un text publicat în revista The Atlantic, intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, Robinson a explicat că problema nu ține doar de reguli sau de legi, ci de modul în care compania își organizează activitatea.

„Sunt de acord cu alți angajați care au părăsit recent compania că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a declarat Robinson.

Fostul angajat a cerut două schimbări concrete. Prima este ca firmele din domeniul inteligenței artificiale să se bazeze pe expertiza în siguranță din alte sectoare, precum cel nuclear și cel al aviației. A doua vizează dezvoltarea unei „științe noi”, care să garanteze că sistemele puternice din viitor vor putea fi ținute sub control atunci când funcționează în mod autonom.

Avertismentul lui Robinson vine la câteva săptămâni după ce Jacob Coxon, cercetător care a lucrat atât la OpenAI, cât și la Anthropic, și-a anunțat demisia și retragerea din industria inteligenței artificiale. El a avertizat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”. La rândul său, Anthropic a transmis că există o probabilitate de peste 10% ca instrumentele de inteligență artificială să distrugă umanitatea în următorul deceniu.

În ultimele săptămâni, OpenAI a dat semne de prudență. Compania a anunțat că renunță la lansarea unui model de inteligență artificială de nouă generație, după ce cercetătorii au semnalat probleme de siguranță în timpul testelor interne. De asemenea, OpenAI a suspendat antrenarea celor mai avansate modele ale sale.