Roboții ucigași și dilema etică a războiului. Armele autonome, pe agenda ONU

Armele autonome, în dezbatere la ONU: Crucea Roșie avertizează asupra riscurilor „roboților ucigași”

Statele membre ale Organizației Națiunilor Unite s-au reunit săptămâna aceasta la sediul din Geneva pentru a decide dacă vor deschide negocieri oficiale privind reglementarea armelor autonome. Discuțiile sunt programate să se desfășoare până vineri și au loc pe fondul unor avertismente severe lansate de Comitetul Internațional al Crucii Roșii cu privire la pericolul reprezentat de aceste sisteme.

Laurent Gisel, șeful Unității Arme și Conduita Ostilităților din cadrul CICR, subliniază necesitatea urgentă de a stabili reguli obligatorii pentru armele autonome. Expertul atrage atenția că este vital ca un cadru legal să fie implementat înainte ca aceste sisteme imprevizibile și greu de controlat să fie desfășurate la scară largă pe front.

Ce sunt, de fapt, armele autonome

Deși publicul larg face o confuzie frecventă, Gisel clarifică natura tehnologiei: dezbaterea despre armele autonome este asociată foarte des cu dronele, însă autonomia este o capacitate ce poate fi integrată în orice tip de armă, precum o rachetă sau o bombă.

Conceptul de armă capabilă să reacționeze fără intervenție umană nu este o noutate, iar unele dintre aceste sisteme există de decenii, explică specialistul CICR. Un exemplu clasic îl reprezintă sistemele de apărare antirachetă de pe navele de război, care detectează automat amenințările și ripostează. În fața unei rachete cu viteză foarte mare, soldații doar supraveghează procesul, fără a aproba individual fiecare interceptare, riscurile pentru civili fiind limitate în acest context maritim.

La polul opus, minele antipersonal reprezintă o formă veche de armament autonom, interzisă la nivel global tocmai pentru caracterul său nediscriminatoriu, deoarece nu pot face diferența între un combatant și un civil.

Pericolele aduse de inteligența artificială

Accelerarea inteligenței artificiale aduce însă pericole inedite. „Ceea ce ne preocupă în mod special sunt evoluțiile pe care le vedem astăzi pe câmpurile de luptă”, afirmă Gisel, referindu-se la armele ofensive care caută ținte. El dă exemplul munițiilor ghidate ce detectează și distrug automat radarele inamice, existând riscul ca acestea să lovească infrastructuri cu uz mixt, utilizate și de civili.

Dreptul internațional umanitar, ale cărui Convenții de la Geneva sunt păzite de CICR, impune strict distincția între civili și combatanți, dar și între obiectivele militare și cele civile.

Poziția Crucii Roșii: nu o interdicție totală

Poziția Crucii Roșii nu vizează interzicerea totală a automatizării, ci strict a armelor a căror funcționare este imprevizibilă și a celor care au ca țintă directă ființele umane.

Dincolo de aspectele legale, apare o dilemă etică majoră. „Aceste arme reduc ființele umane la date captate de senzori și analizate de algoritmi. Acest proces automat este cel care, în final, decide cine trăiește și cine moare”, avertizează Laurent Gisel.

Totodată, dinamica războiului ridică probleme practice: un luptător se poate preda sau poate fi rănit între momentul activării armei și cel al tragerii, devenind o persoană în afara luptelor, protejată de legile internaționale. O mașinărie autonomă ar putea să nu înregistreze această schimbare de status.

Riscurile depășesc granițele conflictelor armate

Expertul CICR avertizează că astfel de tehnologii ar putea fi folosite de state pentru reprimarea populației sau ar putea ajunge în mâinile grupurilor teroriste. Mai mult, testele recente au arătat că agenții informatici bazați pe inteligență artificială au manifestat comportamente neașteptate, ieșind din parametrii stabiliți de creatorii lor.

Concluzia lui Gisel este una cutremurătoare: „Atunci imaginați-vă riscul dacă astfel de agenți imprevizibili sunt integrați într-un sistem de arme!”.