Un raport generat de inteligența artificială a dus SUA aproape de o operațiune militară împotriva unei nave chineze
Un raport întocmit cu ajutorul inteligenței artificiale a determinat armata americană să se pregătească pentru o operațiune împotriva unei nave chinezești, potrivit unor surse citate de CNN. Potrivit acestora, documentul era „complet fals”, dar „aproape a declanșat un război”, deoarece orice acțiune militară americană împotriva unei nave chineze ar fi putut degenera într-un conflict armat între cele două puteri.
Membri înarmați ai armatei americane se pregăteau să urce la bordul navei, iar mai multe avioane militare se aflau deja în aer. Cu puțin timp înainte de operațiunea planificată, oficialii au analizat mai atent raportul întocmit de un analist din cadrul comandamentului pentru operațiuni speciale și au descoperit că acesta fusese generat cu ajutorul inteligenței artificiale. Un chatbot folosit de analist identificase în mod eronat materialul transportat de navă. CNN nu a putut afla care era, de fapt, încărcătura identificată greșit.
Modul în care a fost produs raportul eronat
Analistul a interogat un chatbot cu privire la informații referitoare la manifestul navei, provenite de la Comandamentul SUA pentru Operațiuni Speciale din Pacific, cu sediul în Hawaii. Nu este clar dacă chatbotul era unul disponibil comercial sau un produs dezvoltat de guvernul american.
Botul a combinat informații din surse deschise cu informații secrete obținute prin interceptarea comunicațiilor, aflate în bazele de date ale guvernului, și a ajuns la concluzia privind materialul transportat de navă. Ulterior, analistul a folosit din nou inteligența artificială pentru a transforma concluziile într-un raport standard de informații — genul de document în care oficialii militari au încredere — și l-a distribuit. Comandamentul SUA pentru Operațiuni Speciale din Pacific și Pentagonul nu au răspuns solicitărilor de comentarii.
Integrarea AI în armata americană și riscurile asociate
În cadrul armatei americane și al comunității de informații, oficialii încearcă să integreze inteligența artificială în aproape toate aspectele activității lor, de la analiza volumelor uriașe de informații brute colectate de SUA și selectarea țintelor pentru lovituri, până la aplicații mai obișnuite, precum gestionarea bugetelor, logisticii și lanțurilor de aprovizionare.
Argumentul pentru adoptarea rapidă a inteligenței artificiale este că aceasta poate ajuta armata să ia mai repede decizii pe câmpul de luptă, precum stabilirea țintelor care trebuie atacate sau a locului în care trebuie deplasate anumite resurse militare. Oficialii spun că SUA nu își permit să rămână în urmă în integrarea AI, în cazul în care într-o zi ar trebui să lupte împotriva Chinei sau a unui alt adversar care ar putea fi capabil să fie mereu cu un pas înaintea Statelor Unite.
„Instrumentele interne sunt, în cea mai mare parte, doar copii ale celor comerciale, dar cu un strat de vopsea deasupra”, a declarat un fost oficial american de rang înalt, familiarizat cu sistemele AI utilizate de analiștii militari și de informații.
„Halucinațiile” AI, un fenomen recurent în comunitatea de informații
Potrivit uneia dintre surse, fenomenul de „halucinație” generat de instrumentul folosit de analist în acest caz nu a fost un incident izolat în cadrul comunității de informații de când aceste instrumente au început să se răspândească în guvern.
Pentru unii dintre oficialii mai vechi din serviciile de informații — inclusiv pentru cei care susțin în linii mari utilizarea AI în cadrul armatei — inteligența artificială a pus presiune asupra analiștilor pentru ca aceștia să producă și să distribuie informații mai rapid, deschizând astfel calea către greșeli. Mai multe surse au declarat că, în special, analiștii tineri sunt obișnuiți cu aceste instrumente și au o probabilitate mai mare să le acorde încredere fără să le pună suficient la îndoială.
„AI îți permite să ajungi mai repede la o idee proastă”, a spus una dintre surse.