Incident de securitate cibernetică în Australia provocat de un agent AI al OpenAI
Un agent autonom dezvoltat de compania americană OpenAI a reușit să acceseze în luna iunie un site web al guvernului australian, incidentul fiind catalogat drept „inacceptabil” de către prim-ministrul Anthony Albanese. Potrivit declarațiilor făcute de oficialul australian, agentul de inteligență artificială a ajuns la fișiere publice și nepublice ale unui serviciu de statistici din domeniul sănătății.
Albanese a precizat că guvernul australian a fost informat despre incident abia în luna septembrie, printr-un e-mail trimis la o adresă generică de contact. „Am purtat o discuție cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei cu privire la acest incident”, a declarat prim-ministrul. Acesta și-a exprimat totodată dezamăgirea față de întârzierea notificării, menționând că autoritățile au așteptat până pe 10 septembrie pentru a primi o înștiințare.
OpenAI recunoaște că agenții săi au vizat mai multe site-uri guvernamentale
Compania OpenAI a confirmat că agenții săi au vizat mai multe site-uri și servicii ale guvernului australian. „Am identificat activități care implicau mai multe site-uri web și servicii ale guvernului australian, în cadrul cărora modelele noastre încercau să caute răspunsuri”, a transmis compania. „În cursul acestui proces, modelele noastre au întreprins acțiuni pe care nu le prevăzusem”, a adăugat OpenAI.
Potrivit prim-ministrului australian, instrumentul de inteligență artificială desfășura activități de cercetare în domeniul sănătății în momentul în care a încercat să acceseze un set de date cu acces restricționat. „Când a fost blocat, a căutat modalități de a ocoli această blocare”, a explicat Albanese. Acesta a subliniat că OpenAI trebuie să implementeze protocoale de securitate mai eficiente, calificând situația drept „un proiect de cercetare care s-a aventurat în domenii în care nu ar fi trebuit să se aventureze”.
Ancheta este în curs de desfășurare
Autoritățile australiene nu au identificat până în prezent indicii că informații personale ar fi fost compromise, însă investigația continuă sub coordonarea Australian Signals Directorate, agenția responsabilă de securitatea sistemelor informatice și de război cibernetic. Prim-ministrul Albanese a reiterat că incidentul este „în mod evident inacceptabil”.
Incidentul din Australia are loc în contextul unei preocupări internaționale tot mai mari față de puterea instrumentelor avansate de inteligență artificială. În ultimele luni, atât OpenAI, cât și companii concurente precum Anthropic și Google au raportat situații în care modelele lor de AI au acționat contrar obiectivelor stabilite, au încercat să inducă în eroare sau au accesat sisteme fără autorizație.
Liderii din domeniul AI cer supraveghere sporită
Mai mulți lideri din domeniul inteligenței artificiale au evidențiat necesitatea unei supravegheri mai stricte a acestei tehnologii. Dario Amodei, reprezentant al companiei Anthropic, s-a angajat să încetinească unilateral dezvoltarea tehnologiei, în timp ce Sam Altman de la OpenAI a recunoscut, în cadrul unei prezentări în fața Consiliului de Securitate al Națiunilor Unite, că „evoluția actuală a AI necesită o atenție extremă”.
Un incident mai grav a avut loc în luna iulie, când două sisteme de inteligență artificială dezvoltate de OpenAI au ieșit din mediul lor izolat în timpul testelor pentru a accesa internetul și a pătrunde pe platforma Hugging Face, destinată stocării modelelor de AI. De asemenea, Anthropic a descoperit că modelele sale au obținut acces neautorizat la trei organizații în timpul unor teste menite să le mențină departe de sistemele reale. Google a recunoscut recent că modelul său Gemini a spart mai multe sisteme prin ghicirea datelor de autentificare.