Gemini malo pomáhať 13-ročnému dievčaťu s plánovaním samovraždy. Rodičia žalujú Google

Rodičia 13-ročného dievčaťa zo Severnej Karolíny zažalovali spoločnosť Google. Tvrdia, že chatbot Gemini ich dcéru priviedol k nezdravej závislosti, radil jej pri plánovaní samovraždy a pomáhal jej pripravovať vlastný pohreb. K umelej inteligencii sa dostalo cez školský notebook Chromebook, ktorý muselo používať na vyučovanie, informuje Gizmodo.

Emma Doe, ako ju označujú súdne dokumenty, mala s chatbotom komunikovať celé mesiace bez vedomia rodičov. Pôvodne používala umelú inteligenciu na školské úlohy a vyhľadávanie informácií. Podľa žaloby však postupne začala Gemini zverovať aj svoje osobné problémy.

Z pomocníka pri úlohách sa podľa žaloby stal dôverník

Dievča začalo používať Gemini na jeseň 2025. Okrem chatbota využívalo aj AI Overviews a AI Mode priamo vo vyhľadávači Google. Na jar 2026 malo s umelou inteligenciou komunikovať takmer nepretržite. Prístup pritom nemalo len cez samostatného chatbota, ale aj cez funkcie integrované do vyhľadávania. Rodičia tvrdia, že Gemini Emmu presvedčilo, že trpí viacerými vážnymi psychickými poruchami. Podľa žaloby následne uverila, že samovražda je jediným východiskom z jej utrpenia.

V súdnych dokumentoch sa spomínajú aj správy, v ktorých si dievča údajne uvedomovalo, že jeho vzťah s chatbotom zašiel príliš ďaleko. Pýtalo sa napríklad, ako sa zbaviť „závislosti od kladenia náhodných otázok umelej inteligencii“. V jednej z komunikácií malo priznať, že ešte pred tromi mesiacmi sa cítilo šťastné.

Najvážnejšie obvinenia sa týkajú rád, ktoré mala Emma od Gemini dostávať. Chatbot jej podľa rodičov pomáhal plánovať samovraždu a pohreb, ale aj utajovať svoj psychický stav pred rodinou a priateľmi. Žaloba tvrdí, že produkty Googlu pritom nevyvolali upozornenie pre rodičov ani inú zodpovednú osobu.

Súvisí s tým

Ukrajina a NATO vyvinuli AI, ktorá predpovedá útoky ruských dronov a pomáha plánovať delostrelecké operácie

OdporúčameRuskí hackeri našli spôsob, ako sa dostať do iPhonov a Androidov. Stačilo navštíviť obyčajnú webovú stránku

Na rizikovú aktivitu upozornil až monitorovací softvér, ktorý škola používala na kontrolu internetovej aktivity žiakov. Výstrahu vytvoril v marci 2026, keď sa o probléme dozvedeli aj rodičia. Podľa žaloby tak prvý signál o ohrození neprišiel zo služieb Googlu, ale zo školského monitorovania. Ich právnici tvrdia, že Google mal možnosti nebezpečné rozhovory rozpoznať, no ochranné mechanizmy nezafungovali. V žalobe preto nespochybňujú iba jednotlivé odpovede chatbota, ale aj spôsob, akým spoločnosť nastavila ochranu maloletých používateľov.

Google tvrdí, že pri krízových rozhovoroch ponúka pomoc

Google pre Gizmodo uviedol, že obvinenia berie vážne a preveruje ich. Spoločnosť tvrdí, že pri náznakoch krízy môžu jej systémy používateľovi ponúknuť kontakty na odbornú pomoc.

„Rozsiahlo spolupracujeme so zdravotníckymi odborníkmi a akademickými expertmi, aby sme vytvorili funkcie, ktoré mladým ľuďom pomôžu nájsť dôležitú podporu a dôveryhodné zdroje pomoci,“ uviedol hovorca spoločnosti.

Google tiež uvádza, že vo Workspace for Education používa filtre na odstránenie explicitného obsahu z výsledkov vyhľadávania. Pri citlivých otázkach majú žiaci dostávať informácie z dôveryhodných zdrojov. Firma podľa vlastných slov testuje pokusy o obchádzanie bezpečnostných obmedzení a mladistvým poskytuje materiály o bezpečnom používaní AI. Tieto materiály ich majú upozorňovať aj na potrebu overovať si odpovede chatbotov a nespoliehať sa bezvýhradne na generovaný obsah.

AI Overviews a AI Mode sa dostali aj do bežného vyhľadávania

Rodičia v žalobe kritizujú aj spôsob, akým Google rozšíril umelú inteligenciu do svojich produktov. Podľa právnikov spoločnosť využila svoje dominantné postavenie na trhu na to, aby sa AI dostala aj k ľuďom, ktorí ju cielene nevyhľadávali. AI Overviews pripravuje súhrny odpovedí priamo pri výsledkoch vyhľadávania bez potreby otvárať ďalšiu stránku, zatiaľ čo AI Mode umožňuje pokračovať v otázkach formou rozhovoru. Používateľ sa tak môže dostať do kontaktu s chatbotom aj pri hľadaní bežných informácií. Právnici tvrdia, že Google mal školákov jasnejšie upozorniť na prítomnosť AI funkcií.

Žaloba sa venuje aj modelu Gemini 3 Flash. Podľa právnikov Google pri jeho vývoji uprednostnil výkon a rýchlosť pred bezpečnosťou. Odvolávajú sa na hodnotenie neziskovej organizácie KORA, podľa ktorého model dosahoval horšie výsledky v bezpečnostných testoch než staršie verzie Gemini. Prvé problémy Emmy sa podľa žaloby objavili približne v čase jeho vydania. Príčinnú súvislosť medzi konkrétnou verziou modelu a stavom dievčaťa však súd zatiaľ nepotvrdil.

Riziká AI vo vyhľadávači riešili aj americkí senátori

Organizácia Common Sense Media označila v samostatnom hodnotení AI Mode a AI Overviews za neprijateľne rizikové pre deti a tínedžerov. Podľa jej testov nástroje v niektorých prípadoch nerozpoznali ani zjavné náznaky samovražedných myšlienok. Senátori Richard Blumenthal a Josh Hawley následne adresovali šéfovi Googlu Sundarovi Pichaiovi list s obavami z rozširovania AI medzi školákmi.

Rozruch vyvolala aj správa denníka The New York Times, podľa ktorej Google zvažoval obmedzenie vyhľadávania v školách, ktoré zakážu jeho AI produkty. Spoločnosť neskôr uviedla, že školy si budú môcť Gemini a klasické vyhľadávanie zapínať samostatne. Google však úplne neobjasnil, ako toto nastavenie ovplyvní funkcie AI Overviews a AI Mode v školách, ktoré chcú AI obmedziť. Otvorenou otázkou zostalo, či vypnutie Gemini ovplyvní aj odpovede generované umelou inteligenciou vo vyhľadávači.

Podobnej žalobe už čelí aj OpenAI

Minulý rok podali rodičia 16-ročného chlapca žalobu aj proti spoločnosti OpenAI. Tvrdia, že ChatGPT ich synovi pomáhal plánovať samovraždu, odrádzal ho od rozhovoru s rodičmi a pomohol mu napísať list na rozlúčku. Odborníci upozorňujú, že tínedžeri sa na chatboty čoraz častejšie obracajú aj s osobnými problémami. Niekedy ich začnú vnímať ako dôverníkov a otázky duševného zdravia s nimi riešia namiesto rozhovoru s rodičmi alebo odborníkmi.

Rodičia Emmy od Googlu požadujú finančné odškodnenie a súdne opatrenia, ktoré by mali zabrániť podobným situáciám. O tom, či firma porušila svoje povinnosti a akú zodpovednosť nesie, rozhodne súd.