Farmár v Číne sa riadil radami AI pri ošetrení sezamu. Cez noc mu odumreli sadenice na takmer 10 hektároch
Čínsky farmár sa riadil radou umelej inteligencie pri postreku sezamu. AI mu odporučila nevhodný herbicíd a poškodil si sadenice na približne 10 hektároch pôdy.
67-ročný farmár Wu z mesta Chuzhou v čínskej provincii Anhui začal približne pred rokom používať aplikáciu s umelou inteligenciou. Spočiatku k jej radám pristupoval skepticky, no postupne zistil, že mu pri bežných poľnohospodárskych otázkach dokáže pomôcť. Po mesiacoch dobrých skúseností jej začal dôverovať natoľko, že keď mu pripravila plán na odburinenie sezamového poľa a ochranu rastlín pred škodcami, už si ho ďalej neoveroval u miestnych poľnohospodárskych technikov. Na druhý deň boli poškodené sezamové sadenice na približne 10 hektároch pôdy.
Podľa CTWANT sa Wu 10. júla opýtal AI, ako má na sezamovom poli riešiť burinu a škodcov. Systém mu vytvoril kompletný „plán leteckého odburiňovania a kontroly škodcov pre približne 6,7 hektára sezamu“.
AI odporučila dva herbicídy, haloxyfop-P-methyl a fomesafen, spolu s insekticídmi thiamethoxam a emamectin benzoate. Wu odporúčaný postrek použil bez toho, aby ešte preveril, či je takáto kombinácia vhodná práve pre sezam.
Sadenice odumreli rýchlejšie ako burina
Problém sa ukázal už na druhý deň. Veľké plochy sezamových sadeníc začali vädnúť a odumierať.
„Sadenice neboli dobré deň po tom, čo som ich postriekal. Burina aj sadenice uhynuli spolu a sadenice uhynuli ešte rýchlejšie,“ opísal Wu následky postreku.
Potom sa opäť obrátil na tú istú AI aplikáciu a spýtal sa, čo sa pokazilo. Systém tentoraz označil za pravdepodobnú príčinu fomesafen, teda jeden z herbicídov, ktorý mu predtým odporučil.
Neprehliadni
Odborníci neskôr ukázali na fomesafen. Ide o herbicíd určený proti širokolistým burinám, ktorý sa používa napríklad na sójových poliach. Sezam však patrí medzi širokolisté rastliny tiež, takže postrek mohol zasiahnuť nielen burinu, ale aj samotné sadenice.
Dôležitý bol aj spôsob, akým Wu postrek použil. Fomesafen sa pri niektorých plodinách aplikuje cielene tak, aby sa nedostal priamo na samotnú rastlinu. Wu ho však podľa reportáže nastriekal plošne na celé pole a poškodenie sa následne prejavilo na približne 10 hektároch sezamu.
AI ho pred konkrétnym rizikom nevarovala
Wu tvrdil, že pri samotnom odporúčaní nedostal jasné upozornenie, že navrhnutý postup môže sezam poškodiť. Podľa jeho slov by možno plán bez ďalšieho overenia nepoužil, keby ho systém na takéto riziko priamo upozornil.
V hornej časti dialógového okna však aplikácia zobrazovala všeobecné upozornenie v zmysle: „Obsah vytvorený AI môže obsahovať chyby, informácie si overte.“ Wu podľa vlastných slov túto vetu dovtedy vôbec nezaregistroval. Takéto upozornenie však zároveň nehovorilo nič konkrétne o tom, že odporúčaný herbicíd môže poškodiť samotný sezam.
Za odpoveďami nebola odborná poľnohospodárska databáza
Zástupca zákazníckeho servisu aplikácie uviedol, že systém nemá samostatnú odbornú znalostnú databázu s overenými poľnohospodárskymi postupmi. Odpovede podľa neho vytvára najmä z verejne dostupných informácií na internete. Spoločnosť preto začala preverovať, odkiaľ pochádzali údaje použité v odpovedi, ktorú Wu dostal.
K otázke škody zákaznícky servis uviedol len toľko, že prípad zaeviduje a interne posunie ďalej. V čase zverejnenia pôvodnej reportáže nebolo známe, či farmár dostane nejakú náhradu.
Wu pritom nepatril medzi ľudí, ktorí by AI dôverovali od prvého dňa. Spočiatku bol skeptický. Pýtal sa jej napríklad na termíny aplikácie pesticídov či hnojenia a podľa jeho skúseností mu dovtedy odpovedala použiteľne. Po mesiacoch dobrých skúseností preto prestal jednotlivé rady kontrolovať tak dôsledne ako na začiatku.
V inom prípade skončil používateľ po rade AI v nemocnici
Podobné problémy sa už objavili aj mimo poľnohospodárstva. V roku 2025 lekári opísali prípad 60-ročného muža, ktorý skončil v nemocnici s otravou bromidom a psychotickými príznakmi po tom, čo pri zmene stravy využil informácie od ChatGPT.
Muž sa snažil zo svojho jedálnička odstrániť chlorid sodný, teda kuchynskú soľ. Podľa jeho výpovede sa pri hľadaní náhrady obrátil na ChatGPT a následne začal používať bromid sodný, ktorý si kúpil cez internet. Po približne troch mesiacoch sa u neho rozvinul bromizmus, teda chronická otrava bromidom, sprevádzaná okrem iného paranojou a ďalšími neurologickými a psychiatrickými príznakmi.
Pri tomto prípade však chýba pôvodná konverzácia s chatbotom. Lekári preto nevedeli spätne overiť presné znenie otázky ani odpovede. Keď však podobnú otázku položili ChatGPT sami, bromid sa v odpovedi objavil bez dostatočného vysvetlenia zdravotných rizík.
Podobné chyby pri odpovediach AI nie sú ničím výnimočným. V prípade Wu však tentoraz nezostali len pri nesprávnej informácii. Podľa odporúčania pripravil postrek a použil ho priamo na sezamovom poli.
Výsledkom boli poškodené sadenice na približne 10 hektároch pôdy. Prevádzkovateľ aplikácie prípad zaevidoval a začal preverovať, odkiaľ problematická rada pochádzala. Či farmár za zničenú úrodu dostane náhradu, zatiaľ známe nie je.
