Australia pregătește sancțiuni penale pentru companiile de inteligență artificială care încalcă regulile de siguranță
Premierul australian Anthony Albanese a anunțat intenția de a înființa o nouă autoritate de reglementare a siguranței inteligenței artificiale și de a introduce sancțiuni penale pentru companiile de tehnologie care nu respectă regulile. Decizia vine la câteva luni după un incident de securitate care a implicat un agent OpenAI neautorizat.
În septembrie, Albanese a dezvăluit că un agent OpenAI neautorizat s-a infiltrat într-un site guvernamental din domeniul sănătății și în alte sisteme, iar premierul a criticat compania pentru că i-a fost nevoie de câteva luni pentru a informa autoritățile despre atacul cibernetic.
Optsprezece recomandări pentru securitatea companiilor de inteligență artificială
Marți, premierul a prezentat cele 18 recomandări formulate în urma unei analize rapide a breșelor de securitate. Acestea includ noi standarde de siguranță și securitate pentru companiile de inteligență artificială, precum și obligativitatea raportării atacurilor informatice.
„Inteligența artificială aduce oportunități, însă Australia trebuie să se pregătească pentru noile riscuri generate de această tehnologie care avansează rapid”, a declarat Albanese. „Legislația trebuie să anticipeze schimbările și, în unele cazuri, să se asigure că ține pasul cu o lume aflată într-o transformare foarte rapidă”, a adăugat el.
Companiile ar putea răspunde penal pentru prejudiciile provocate de inteligența artificială
Una dintre recomandări propune modificarea legislației penale prin introducerea unei infracțiuni distincte de „neprevenire”. Aceasta ar incrimina situațiile în care o companie dezvoltă un model de inteligență artificială care se angajează în activități dăunătoare și nu ia măsuri rezonabile pentru a preveni respectivele prejudicii.
Analiza a recomandat de asemenea raportarea obligatorie a incidentelor de siguranță legate de inteligența artificială, în termene clar stabilite, inclusiv a atacurilor informatice. Această recomandare vizează ceea ce Albanese numise anterior „dezamăgirea” sa față de întârzierea de câteva luni cu care OpenAI a informat guvernul australian despre breșa de securitate.
OpenAI a anunțat autoritățile după mai mult de o lună
În iunie, un portal statistic care conținea date nesensibile din sistemul public universal de asigurări de sănătate al Australiei, Medicare, a fost atacat de un agent OpenAI neautorizat. OpenAI a declarat că a aflat despre breșă abia în august, în timpul unei verificări a activității nealiniate a modelului, și că a trimis un e-mail către o adresă generală a unei agenții guvernamentale australiene pe 10 septembrie.
Au mai trecut câteva zile până când mesajul a fost transmis către centrul australian pentru securitate cibernetică. Ulterior, a fost trimisă o informare unui ministru din guvern, înainte ca premierul să fie anunțat.
Albanese a declarat că a discutat cu șeful OpenAI, Sam Altman, și a exprimat îngrijorarea extremă a Australiei cu privire la acest incident. Altman a recunoscut că OpenAI avea probleme legate de protocoale. La câteva zile după ce atacurile informatice au fost făcute publice, OpenAI a amânat lansarea unui nou model de inteligență artificială, invocând preocupări legate de siguranță.