Șeful Anthropic cere încetinirea dezvoltării inteligenței artificiale, sprijinit de Sam Altman și Elon Musk
Dario Amodei, directorul executiv al companiei Anthropic, a cerut firmelor de inteligență artificială să încetinească deliberat ritmul de dezvoltare a modelelor tot mai performante, avertizând că măsurile de siguranță trebuie să țină pasul cu noile capacități ale tehnologiei.
Amodei a prezentat un plan în trei etape despre care spune că ar putea reduce ritmul dezvoltării fără a sacrifica avantajul comercial al companiilor sau poziția Statelor Unite în cursa globală pentru inteligență artificială. „Încetinirea nu înseamnă oprirea antrenării modelelor sau a progresului tehnic, ci să ne asigurăm că firmele au suficient timp pentru a-și alinia și proteja modelele”, a explicat el.
Prima etapă, pe care Anthropic s-a angajat deja să o aplice, presupune ca evaluatori independenți să primească un nivel de acces similar angajaților companiei pentru a verifica măsurile de siguranță și a raporta incidentele. A doua etapă vizează coordonarea principalelor companii de inteligență artificială din țările democratice pentru stabilirea unor standarde comune, iar a treia ar necesita acorduri între guvernele democratice și cele autoritare.
Apelul vine după demisia unui cercetător Anthropic
Inițiativa lui Amodei apare după demisia cercetătorului Anthropic Jacob Coxon, care a acuzat compania și OpenAI că „se joacă cu viețile noastre” și a afirmat că unii dintre oamenii care dezvoltă inteligența artificială cred că tehnologia ar putea provoca dispariția omenirii până la sfârșitul deceniului.
Amodei susține că asemenea riscuri trebuie luate acum mult mai în serios decât în 2023, când modelele erau mult mai puțin capabile să acționeze în lumea reală. El consideră că și numai un an sau doi câștigați înainte ca modelele de inteligență artificială să atingă niveluri critice de capacitate ar putea oferi cercetătorilor timpul necesar pentru a îmbunătăți alinierea și a reduce semnificativ riscul ca dezvoltarea tehnologiei să scape de sub control.
Sam Altman și Elon Musk susțin propunerea
Inițiativa a primit rapid sprijinul lui Sam Altman, directorul executiv al OpenAI, care a declarat că încetinirea dezvoltării celor mai avansate capacități de inteligență artificială a devenit un subiect central al discuțiilor din companie. Altman a susținut și ideea evaluatorilor independenți cu acces extins și a anunțat că OpenAI va adopta o măsură similară.
Și Elon Musk a susținut public propunerea, afirmând simplu că „Dario are dreptate”.