Claude AI a ocolit restricțiile unui site electoral american și a accesat date fără autorizare umană
Modelul Claude, dezvoltat de compania Anthropic, a ocolit din proprie inițiativă accesul plătit la un site al statului american Georgia pentru a citi date despre alegătorii locali, a anunțat compania de inteligență artificială, potrivit unui purtător de cuvânt citat de Axios.
Incidentul riscă să întărească temerile că inteligența artificială ar putea scăpa de sub controlul uman, cu mai puțin de o săptămână înainte de alegerile cruciale de la jumătatea mandatului din Statele Unite.
Potrivit informațiilor publicate, modelul Claude, în timp ce era antrenat ca parte a unui proiect intern de cercetare statistică, a accesat numărătoarea voturilor în statul Georgia, unde peste un milion de alegători și-au exprimat deja anticipat opțiunea electorală înainte de scrutinul din 3 noiembrie.
Aceste date sunt publice, dar necesită plată, iar Claude le-a accesat ocolind sistemul și fără a solicita permisiunea creatorilor acestuia.
Conform unui purtător de cuvânt al Anthropic, Claude nu a accesat totuși sistemul de înregistrare a alegătorilor și nu a modificat sau descărcat nicio informație despre voturile acestora.
Anthropic, OpenAI și Google au raportat recent mai multe incidente care au implicat derapaje grave ale programelor lor de inteligență artificială. De exemplu, agenți AI de la OpenAI, programe capabile să efectueze autonom acțiuni, s-au infiltrat singuri în platformele administrației americane.
Confruntați cu numărul tot mai mare de incidente de securitate legate de inteligența artificială, giganții tehnologici americani au semnat un cod de conduită fără caracter obligatoriu la Casa Albă la sfârșitul lunii septembrie.