Trump găzduiește o cină de lucru la Casa Albă pe tema reglementării inteligenței artificiale, în timp ce companiile din domeniu avertizează asupra riscurilor
Președintele american Donald Trump găzduiește marți seară, la Casa Albă, o cină de lucru cu directori din domeniul tehnologiei, pentru a discuta despre reglementările privind inteligența artificială. În ultimele zile, Trump a catalogat drept o „farsă” îngrijorările legate de riscurile asociate inteligenței artificiale, susținând că Statele Unite trebuie să meargă înainte și să câștige competiția globală în acest domeniu.
Întrebat dacă nu este deloc îngrijorat că inteligența artificială ar putea scăpa de sub control, președintele a răspuns: „Ei bine, eu nu-mi fac griji în privința asta. Pur și simplu… știi, e o industrie uriașă.”
Anthropic avertizează investitorii asupra unor riscuri „catastrofale sau existențiale”
În paralel, compania Anthropic, condusă de Dario Amodei, și-a avertizat potențialii investitori că modelele de inteligență artificială dezvoltate pot dobândi capacități neașteptate în timpul antrenamentului, care ar putea fi descoperite abia după implementare și după producerea unor incidente de siguranță.
Într-un document depus la Comisia pentru Bursă și Valori Mobiliare din Statele Unite, înaintea unei posibile listări, Anthropic a consacrat aproximativ 80 de pagini factorilor de risc. Compania avertizează că modelele de inteligență artificială ar putea „conștientiza” faptul că sunt evaluate și, prin urmare, și-ar putea modifica comportamentul pentru a evita detectarea problemelor.
Documentul menționează și posibilitatea unor comportamente de autoconservare, precum rezistența la oprire, ascunderea sau manipularea informațiilor și acțiuni care ar putea semăna cu șantajul. Potrivit informațiilor publicate de Reuters, Anthropic avertizează că inteligența artificială ar putea prezenta, în viitor, „riscuri catastrofale sau existențiale pentru omenire”.
OpenAI a retras o nouă versiune din cauza preocupărilor legate de siguranță
Totodată, compania OpenAI a renunțat recent la lansarea GPT-6 Astra, motivând că sistemul de inteligență artificială nu a îndeplinit pe deplin standardele de siguranță ale companiei.
În ultimele săptămâni, lideri din domeniul inteligenței artificiale au îndemnat industria să încetinească ritmul de dezvoltare din cauza îngrijorărilor legate de riscurile asociate tehnologiei.
Bill Gates: inteligența artificială, un eveniment de natură evolutivă
Bill Gates, cofondator al Microsoft, a vorbit public despre puterea imensă a inteligenței artificiale și despre capacitatea actorilor rău intenționați de a o exploata. „Inteligența artificială nu este doar o nouă tehnologie, ci este, cu adevărat, un eveniment de natură evolutivă”, a declarat Gates. „Inteligența artificială este, cu siguranță, suficient de puternică pentru a declanșa evenimente care – ei bine – ar putea cauza un miliard de decese. Este complet iresponsabil să nu se impună ca orice sistem de inteligență artificială să dispună de măsuri de siguranță și capacități de monitorizare”, a adăugat el.