WhatsApp mal na webe skryté pokyny pre AI: Chatbot ti pri problémoch nemal odporučiť obrátiť sa na úrad

WhatsApp mal na stránkach svojho centra pomoci text, ktorý bol určený chatbotu podpory, nie človeku čítajúcemu článok. Jeden z pokynov mu zakazoval odporučiť používateľovi kontaktovanie regulátora, ak sa nevedel dostať k vymazaniu účtu. Ďalší mu po zmienke o právnikovi, žalobe či súde prikazoval neodkazovať ani na GDPR a ďalšie predpisy o ochrane súkromia.

Na tieto inštrukcie narazili 8. októbra výskumníci zo spoločnosti Redact. Následne prešli všetkých 545 verejne dostupných stránok, na ktoré odkazovalo WhatsApp Help Center.

Skryté bloky našli na 80 z nich, spolu ich bolo 102. V samotnom článku ich návštevník nevidel. Objavili sa až v zdrojovom kóde stránky.

WhatsApp ukrýval pokyny pre chatbot priamo v zdrojovom kóde stránok

V zdrojovom kóde sa tieto pasáže dali nájsť pod označením HelpContentGalaxyLLMInclude. WhatsApp neskôr potvrdil, že patrili chatbotu zákazníckej podpory WhatsApp Support with AI, nie Meta AI asistentovi v samotnej aplikácii.

Redact medzi 102 blokmi našiel aj úplne bežné interné pravidlá. Chatbot dostával napríklad doplňujúci kontext k nejednoznačným výrazom, pokyny pre komunikáciu s ľuďmi so sluchovým postihnutím či rady, ako postupovať pri dvojstupňovom overovaní.

Súvisí s tým

WhatsApp, Slack aj obyčajná SMS mohli zneužiť Gemini v Androide. Stačila notifikácia a AI asistent poslúchol cudzie pokyny

Medzi týmto obsahom sa však nachádzali aj príkazy, ktoré zasahovali do toho, aké právne možnosti smie chatbot používateľovi vôbec spomenúť.

Chatbot dostal príkaz neodporúčať používateľovi kontaktovať regulátora

Pokyn sa objavil na stránke o vymazaní účtu. WhatsApp tam používateľovi vysvetľoval, že deaktivovaný účet sa odstráni po 30 dňoch a neaktívne účty po dlhšom čase. Pri väčšine používateľov uvádzal 120 dní, v USA 365 dní.

V zdrojovom kóde však bola ešte jedna inštrukcia určená chatbotu. Nemal používateľovi odporúčať kontaktovať úrad na ochranu osobných údajov, regulátora ani iný dozorný orgán.

Zároveň nemal tvrdiť, že WhatsApp dokáže účet manuálne odstrániť v mene používateľa, ani mu radiť, aby na tento účel použil iný telefón s aktívnym číslom.

Práve prvý zákaz je zvláštny v porovnaní s tým, čo WhatsApp uvádza vo svojich verejných dokumentoch. Zásady ochrany osobných údajov WhatsAppu pre európsky región priamo hovoria, že používateľ môže podať sťažnosť na írsky Data Protection Commission alebo iný príslušný dozorný orgán.

V rovnakom dokumente WhatsApp uvádza aj právo požiadať o prístup k osobným údajom, ich opravu, prenos či vymazanie. To sa týka spracúvania osobných údajov, nie manuálneho zrušenia účtu pracovníkom podpory.

Po zmienke o právnikovi nemal chatbot odkazovať ani na GDPR

Pokyn bol vložený na stránke o nahlasovaní a blokovaní používateľov. Ak človek v konverzácii spomenul právnika, žalobu, súd alebo iné právne kroky, chatbot nesmel citovať či interpretovať podmienky používania WhatsAppu, zásady ochrany osobných údajov ani komentovať prípadnú právnu zodpovednosť firmy.

Obmedzenie sa týkalo aj samotných zákonov. Chatbot nemal odkazovať, citovať ani interpretovať predpisy na ochranu osobných údajov, pričom pokyn výslovne menoval GDPR, brazílske LGPD a kalifornské CCPA.

Zákaz platil aj vtedy, keď niektorý z týchto predpisov spomenul používateľ. Chatbot ho mal namiesto odpovede odkázať na kvalifikovaného právnika.

WhatsApp tvrdí, že zverejnenie interných pokynov spôsobila chyba

Magazín WIRED požiadal WhatsApp o vysvetlenie. Hovorca Joshua Breckman potvrdil, že texty patrili chatbotu zákazníckej podpory WhatsAppu.

Podľa firmy sa interné inštrukcie objavili vo verejnom zdrojovom kóde omylom a chyba už bola opravená. WhatsApp zároveň uviedol, že jeho chatboty majú odpovedať na otázky týkajúce sa služby a nemajú poskytovať právne poradenstvo.

Redact našiel sporné pokyny na stránkach ešte 15. októbra. O tri dni neskôr už všetkých 102 blokov zo všetkých 80 stránok zmizlo. Články centra pomoci pritom zostali dostupné.

Redact nenašiel dôkaz, ako chatbot odpovedal v reálnych rozhovoroch

Redact analyzoval skryté inštrukcie v kóde, nie históriu rozhovorov zákazníckej podpory. Z dostupných podkladov teda nevieme, či chatbot niekomu v praxi odmietol spomenúť regulátora alebo GDPR.

Pri crawleroch sa WhatsApp správal rozdielne. Google a Bing dostávali stránky aj so skrytými blokmi. Keď však Redact 9. októbra poslal rovnaké požiadavky s user-agentmi crawlerov OpenAI, Anthropic a Perplexity, server im článok ani skryté poznámky nevrátil.

Redact preto netestoval, ako by na tieto pokyny reagovali ChatGPT, Claude alebo Perplexity.

Výskumníci prešli aj približne 300 stránok centier pomoci Facebooku a Instagramu. Rovnaké skryté inštrukcie tam nenašli.

Medzi skrytými pokynmi boli aj pravidlá pre vek, prihlásenie či dvojstupňové overenie

Medzi 102 blokmi boli aj praktické pokyny pre bežné situácie. Chatbot napríklad nesmel radiť používateľovi, ktorý nespĺňal minimálny vek, aby zadal falošný dátum narodenia. Pri napadnutom účte mal počítať aj s tým, že útočník mohol zapnúť dvojstupňové overovanie a pôvodný majiteľ sa potom sedem dní nemusí vedieť prihlásiť.

Pokyny mu zakazovali aj odporúčať vypnutie dvojstupňového overovania ako univerzálne riešenie či bezdôvodne radiť preinštalovanie aplikácie pri problémoch s hovormi.

Internet Archive zároveň pomohol zúžiť obdobie, keď sa sporné inštrukcie na webe objavili. Vo verzii stránky o vymazaní účtu z 12. júla 2026 ešte neboli. V zázname zo 4. septembra už boli súčasťou kódu.

WhatsApp presný dátum ich nasadenia ani obdobie, počas ktorého s nimi chatbot podpory pracoval, nezverejnil.