Raportările de imagini generate de IA cu abuzuri sexuale asupra copiilor au crescut cu peste 8.400% în doi ani
Numărul raportărilor de imagini generate de inteligența artificială care înfățișează abuzuri sexuale împotriva copiilor a crescut cu peste 8.400% în ultimii doi ani, potrivit unui studiu realizat de Institutul pentru Siguranța Globală a Copiilor Childlight al Universității din Edinburgh.
Conform cercetării, între 2023 și 2025 numărul cazurilor raportate la nivel mondial a crescut cu peste 395.000. Companiile din domeniul înaltei tehnologii au semnalat către Centrul Național pentru Copii Dispăruți sau Exploatați din SUA 4.700 de materiale în 2023, iar în 2025 peste 400.000.
Printre aceste materiale se numără așa-numitele „deepfake-uri”, create cu ajutorul aplicațiilor de generare de imagini nud, în care fața unui copil real este suprapusă în mod realist peste imagini cu conținut sexual explicit, în doar câteva secunde. Deși imaginile sunt false, copiilor li se face un rău real, fiind deseori șantajați pentru a obține bani sau mai multe imagini. Sunt afectați și oameni obișnuiți, nu doar celebrități.
Cercetătorii avertizează că este posibil ca această creștere enormă să se datoreze și evoluțiilor în privința detectării și semnalării imaginilor. Debi Fry, directoare pentru date globale la Childlight, a apreciat că „viteza cu care inteligența artificială modifică amenințările împotriva copiilor este profund îngrijorătoare” și că rezultatele subliniază motivul pentru care guvernele și companiile de tehnologie trebuie să acționeze urgent pentru a înțelege și a preveni aceste forme de abuz în curs de dezvoltare și pentru a elimina rapid materialele.
Lacune grave în datele oficiale îngreunează prevenirea
Studiul Childlight avertizează că lacunele grave în datele oficiale îngreunează eforturile de prevenire pentru protecția copiilor. Din cele 103 țări și teritorii examinate, doar 22 dispuneau de date reprezentative obținute prin sondaje, care acopereau atât abuzurile offline, cât și pe cele facilitate de tehnologie.
Sunt reprezentate deficitar cazurile în care sunt implicați copiii cu dizabilități, din populațiile indigene, din rândul migranților, din zone afectate de crize umanitare, foarte mici sau expuși abuzurilor în familie. Cercetătorii estimează că peste 300 de milioane de copii sunt supuși anual cel puțin unei forme de exploatare sexuală sau abuz facilitat de tehnologie, iar aproximativ unul din patru copii va fi probabil expus cel puțin unei forme de abuz online înainte de împlinirea vârstei de 18 ani.
Paul Stanfield, director general al Childlight, a declarat că „milioane de copii sunt supuși exploatării și abuzurilor sexuale, dar guvernele folosesc de prea multe ori o imagine incompletă a locurilor unde se face rău și a celor mai expuși la riscuri”, avertizând că riscurile care rămân invizibile riscă să nu fie abordate. El a subliniat că în privința exploatării și abuzurilor sexuale împotriva copiilor „nu este nimic inevitabil” și că, printr-o conducere și colaborare internațională susținute, răul poate fi prevenit.
Progrese în legislația privind siguranța online
În ciuda dificultăților, studiul a subliniat unele progrese încurajatoare: mai multe țări și-au înăsprit legislația privind siguranța online, au ameliorat detectarea și se concentrează mai mult asupra prevenirii. Cercetătorii consideră că informațiile mai bune, acțiunile coordonate și investițiile susținute oferă guvernelor mijloace de a proteja sute de milioane de copii.
Childlight cere guvernelor să abordeze exploatarea și abuzurile sexuale ca pe o problemă de sănătate publică ce poate fi prevenită, să investească în măsurători fiabile și constante și să folosească dovezile pentru a întări protecția și a-i sprijini pe supraviețuitori. Institutul solicită de asemenea o răspundere sporită a sectorului de înaltă tehnologie, legi care să țină pasul cu amenințările în curs de amplificare și eforturi de prevenire începute de la vârste cât mai mici.
Datele Childlight sunt incluse în Indicele Luminii pe 2026, publicat la un summit internațional privind violența împotriva copiilor, la care participă reprezentanți a peste 100 de guverne.