Giganții tehnologici, sub presiunea proceselor privind siguranța copiilor, în timp ce extind inteligența artificială în școli
Marile companii din domeniul tehnologiei, între care Meta, Google, Snap și OpenAI, se confruntă cu un număr tot mai mare de procese legate de impactul produselor lor asupra sănătății mintale a copiilor și adolescenților, în paralel cu eforturile de a introduce inteligența artificială în școli. Litigiile amplifică presiunile pentru reglementări mai stricte și ar putea genera riscuri financiare importante pentru industrie, potrivit CNBC, citat de News.ro.
Snap a încheiat o înțelegere confidențială
Snap a încheiat săptămâna aceasta o înțelegere confidențială cu doi reclamanți care susțineau că platforma Snapchat le-a provocat suferințe psihologice severe în adolescență. Meta, TikTok și YouTube ajunseseră anterior la acorduri în același proces. Înțelegerea a evitat audierea directorului general al Snap, Evan Spiegel, într-o instanță din Los Angeles.
Meta, aproape 17 miliarde de dolari pentru soluționarea unui litigiu
În august, Meta a acceptat să plătească aproape 17 miliarde de dolari pentru soluționarea unui litigiu cu procurori generali din mai multe state americane privind efectele rețelelor sociale asupra sănătății mintale a minorilor. Compania și rivalii săi se confruntă în continuare cu alte procese, inclusiv cu acțiuni inițiate de districte școlare.
Google, dată în judecată pentru chatbotul Gemini integrat în Google Classroom
Google a fost dată în judecată săptămâna aceasta de părinții unui adolescent care ar fi trecut printr-o criză psihologică severă, cu risc suicidar, după interacțiuni cu chatbotul Gemini, integrat în Google Classroom. Reclamanții acuză compania că a introdus prea rapid tehnologia IA în dispozitivele Chromebook utilizate de elevi, în pofida riscurilor cunoscute.
Google a transmis că analizează acuzațiile și că a colaborat cu specialiști în medicină și educație pentru dezvoltarea unor mecanisme de protecție. Compania a fost criticată și după ce a anunțat că școlile care nu permit utilizarea instrumentelor sale IA de către elevi vor pierde accesul la funcția de căutare Google.
„Este extrem de important ca siguranța copiilor să fie luată în considerare încă din etapa de proiectare a acestor produse, nu ulterior, după apariția problemelor”, a declarat Kate Blocker, psiholog specializat în dezvoltare și reprezentantă a organizației Children and Screens.
Procesele vizează modul de concepere a platformelor
Procesele vizează tot mai frecvent modul în care sunt concepute platformele digitale, inclusiv funcțiile destinate creșterii timpului petrecut online. Această strategie juridică urmărește să depășească protecția oferită companiilor de Secțiunea 230 a legislației americane, care limitează răspunderea pentru conținutul publicat de utilizatori.
OpenAI și Anthropic, vizate de acțiuni în justiție
Și OpenAI se confruntă cu acțiuni în justiție inițiate de procurori generali și reclamanți particulari, care susțin că anumite caracteristici ale ChatGPT pot reprezenta riscuri pentru minori. Rivala Anthropic, care pregătește listarea la bursă, a inclus riscurile juridice privind siguranța utilizatorilor în prospectul său, deși interzice accesul copiilor la chatbotul Claude.
Michele Neitz, profesoară de drept la Universitatea din San Francisco, consideră că amploarea litigiilor arată că firmele tehnologice anticipează riscuri juridice mult mai mari decât în urmă cu un deceniu.
Specialiștii avertizează asupra naturii personalizate a conversațiilor cu sistemele IA
Specialiștii avertizează că natura personalizată a conversațiilor cu sistemele IA face dificilă anticiparea răspunsurilor oferite copiilor. Creșterea numărului de procese ar putea determina atât autoritățile, cât și companiile să introducă reguli și mecanisme de protecție mai stricte încă din faza de dezvoltare a produselor.