Sam Altman semnalează că OpenAI este pregătită să încetinească dezvoltarea sistemelor avansate de inteligență artificială
CEO-ul OpenAI, Sam Altman, a declarat în cadrul unei întâlniri cu angajații companiei că este pregătit să încetinească dezvoltarea celor mai avansate sisteme de inteligență artificială, potrivit unor informații publicate de Bloomberg. Altman și-ar dori ca și alte companii din domeniu să adopte o abordare similară. OpenAI este dezvoltatorul platformei ChatGPT.
Anunțul vine pe fondul intensificării discuțiilor despre necesitatea încetinirii dezvoltării inteligenței artificiale. Deși predicții sumbre legate de această tehnologie circulă de mai mulți ani, în ultimele săptămâni dezbaterea a căpătat o amploare considerabilă, iar mai mulți specialiști în siguranța inteligenței artificiale au părăsit recent laboratoare de top.
Un cercetător OpenAI avertizează că a venit momentul pentru o prudență extremă
Directorul științific al OpenAI, Jakub Pachocki, a publicat un eseu pe site-ul companiei în care a scris că „a venit momentul pentru o prudență extremă” în dezvoltarea inteligenței artificiale. El a explicat că, pe măsură ce modelele contribuie din ce în ce mai mult la crearea generațiilor viitoare de modele, cercetătorii pierd treptat capacitatea de a monitoriza și înțelege progresul înregistrat.
Cercetătorul antropolog Jacob Coxon a anunțat pe 9 septembrie că părăsește compania, motivând că nu dorește să participe la dezvoltarea unei „superinteligențe”. „Cei care construiesc IA cred cu adevărat că ne-ar putea ucide pe toți până la sfârșitul deceniului”, a scris el.
Evan Hubinger, șeful departamentului de cercetare privind obiectivele și reglarea comportamentală a inteligenței artificiale la Anthropic, este de acord cu această perspectivă. „Personal, cred că există o șansă mai mare de 10% ca acest lucru să se întâmple în următorul deceniu. Cred că Anthropic face tot ce poate, dar încă nu avem un plan pentru a rezolva problema alinierii superinteligenței cu obiectivele umane și nu am ajuns încă acolo”, a afirmat el. Comentariile sale au devenit virale, acumulând peste 150 de milioane de vizualizări.