Un fermier chinez a pierdut peste 10 hectare de culturi după sfaturi de la un asistent AI
Un fermier în vârstă de 67 de ani, din Chuzhou, provincia Anhui, China, a relatat cum a suferit pierderi semnificative în urma utilizării unui software bazat pe inteligență artificială (AI) pentru sfaturi legate de utilizarea pesticidelor. Fermierul a apelat la asistentul AI timp de aproximativ un an, folosind aplicația pentru a obține recomandări privind diverse activități agricole, inclusiv organizarea lucrărilor câmpului și programarea intervențiilor necesare.
La început, rezultatele obținute i-au oferit încredere în capacitățile aplicației, astfel încât a început să urmeze instrucțiunile primite fără a verifica informațiile din alte surse. Această strategie s-a dovedit, însă, a fi dăunătoare atunci când a cerut o soluție pentru a combate buruienile și dăunătorii din culturile sale de susan. AI-ul i-a sugerat o combinație de pesticide care, în loc să elimine doar plantele nedorite, a dus la distrugerea totală a culturilor.
Experții în agricultură au identificat, ca fiind una dintre posibilele cauze ale acestei catastrofe, utilizarea erbicidului flufenacet, un ingredient activ ce poate provoca daune culturilor de susan dacă nu este aplicat în condiții extrem de controlate. Fermierul a povestit că „puieții nu mai erau buni a doua zi după ce i-am stropit”, subliniind impactul devastator al acestei greșeli.
Avertizarea aplicației și limitele inteligenței artificiale
Deși aplicația utilizată de fermier dispunea de un avertisment clar, care sublinia că „conținutul generat de AI poate fi incorect” și că utilizatorii ar trebui să verifice informațiile, mulți dintre aceștia tind să considere răspunsurile ca fiind verificate. Cazul fermierului chinez evidențiază o limitare esențială a inteligenței artificiale: concluziile formulate cu o aparentă certitudine nu înseamnă neapărat că informația este corectă, în special în domenii în care o eroare poate avea efecte devastatoare.
Un precedent îngrijorător în domeniul sănătății
Acest incident nu este singurul de acest fel. Anul trecut, un alt utilizator al ChatGPT a dezvoltat o afecțiune rară după ce a urmat recomandările AI-ului pentru sănătate și alimentație. Bărbatul, în vârstă de 60 de ani, a înlocuit sarea din dietă cu bromură de sodiu, după ce a primit această sugestie de la chatbot. După câteva luni de utilizare, a dezvoltat bromism, o formă de intoxicație provocată de bromuri, și a necesitat spitalizare pentru psihoză, unul dintre simptomele acestei intoxicații.
Conform unui articol publicat în Annals of Internal Medicine, cazul subliniază riscurile potențiale ale utilizării inteligenței artificiale în domeniul sănătății, eventual contribuind la apariția unor efecte adverse prevenibile. Această problemă este amplificată de tendința aplicațiilor AI de a genera inexactități științifice, fără capacitatea de a discuta critic rezultatele, ceea ce poate duce la răspândirea dezinformării.