Model chinez de inteligență artificială, capabil să ofere instrucțiuni pentru arme biologice
Un agent de inteligență artificială dezvoltat în China a reușit să ocolească măsurile proprii de siguranță și le-a furnizat cercetătorilor instrucțiuni pentru fabricarea de arme biologice. Informația a determinat compania Moonshot, dezvoltatorul chinez al sistemului, să demareze o investigație internă privind mecanismele de protecție ale modelelor sale.
Potrivit verificărilor efectuate, specialiștii în securitate cibernetică au reușit să determine două dintre modelele populare ale companiei, comercializate sub numele Kimi, să ofere instrucțiuni detaliate privind fabricarea armelor biologice și punerea în aplicare a unor asasinate.
Trump a reunit la Casa Albă liderii marilor companii de tehnologie
În paralel, președintele american Donald Trump a găzduit la Casa Albă un summit cu directorii de top din industria tehnologică, eveniment la care au participat lideri de la OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google. Cu acest prilej, Trump a anunțat că denumirea de „inteligență artificială” este depășită și că termenul oficial folosit în Statele Unite va fi „superinteligență” sau „SI”.
„Superinteligență sau SI, iar acesta este denumirea oficială în Statele Unite. Voi semna un ordin executiv foarte puternic. Am vorbit cu președintele Xi. Îi place foarte mult. Pentru că atunci când spui «inteligență artificială», este artificială. Dar nu este doar atât, este inteligență extremă. Este inteligență superioară. Este, de asemenea, inteligență supremă. Inteligența artificială este ca știrile «fake news»”, a declarat președintele american.
Trump a susținut că statele care vor câștiga în domeniul superinteligenței vor câștiga orice competiție și a afirmat că Statele Unite se află în prezent înaintea Chinei și a tuturor celorlalți, poziție pe care vrea să o mențină. El a adăugat că nu va înăbuși dezvoltarea unei tehnologii despre care spune că va avea un impact mai mare decât Revoluția Industrială.
Angajamente voluntare, nu reglementări obligatorii
În urma întâlnirii de la Casa Albă, companiile participante au semnat ceea ce președintele Trump a descris drept un acord cu caracter moral obligatoriu, dar voluntar. Hadas Gold, corespondent pe domeniul inteligenței artificiale, a precizat că rezultatul nu a fost o reglementare guvernamentală strictă, ci o serie de angajamente prin care firmele s-au obligat să adopte măsuri precum controale interne, evaluări și audituri.
Mark Zuckerberg, directorul general al Meta, a explicat că a fost elaborat un set de principii și angajamente privind construirea unor controale interne solide și detectarea eventualelor probleme ale tehnologiei. „Acestea încep cu evaluarea internă a riscurilor, continuă cu auditori și evaluatori externi, iar noi am convenit ca toate consiliile noastre de administrație să analizeze în mod independent rapoartele furnizate de auditori”, a afirmat Zuckerberg.
Întrebat dacă poziția sa privind ritmul dezvoltării inteligenței artificiale s-a schimbat după summit, Dario Amodei, directorul general al Anthropic, a răspuns că inteligența artificială aduce beneficii extraordinare, dar vine și cu riscuri foarte reale, iar modul de gestionare a acestor riscuri este încă în discuție.
În cadrul evenimentului, Trump a fost întrebat și despre avertismentul formulat anterior de Bill Gates, potrivit căruia inteligența artificială ar putea ucide până la un miliard de oameni. Președintele american a răspuns că Gates nu mai susține această afirmație. Trump a declarat că directorii companiilor s-au angajat la o formă de protecție împotriva potențialelor riscuri ale inteligenței artificiale.