Cez Meta AI bolo možné ovládnuť cudzie Instagram účty. Stačilo chatbota presvedčiť, aby útočníkom resetoval prístup
Hackeri zneužili AI chatbota Mety na resetovanie prístupu k Instagram účtom. Stačila VPN, používateľské meno obete a príliš veľké právomoci automatizovaného systému.
Meta sa dostala pod tlak po tom, čo sa objavili informácie o bizarnom prípade, v ktorom útočníci zneužili jej AI chatbotu. Ako informuje portál TechSpot, tí dokázali cez automatizovaný systém získať kontrolu nad Instagram účtami iných ľudí. Medzi ohrozenými sa objavili aj známe mená vrátane bývalého amerického prezidenta Baracka Obamu. Čo je ale na celom prípade najzarážajúcejšie je fakt, že sa chatbota Mety jednoducho opýtali.
Celý útok nevyžadoval žiadne sofistikované hackovanie serverov. Stačila VPN, používateľské meno cieľového účtu a schopnosť presvedčiť chatbota, aby vykonal reset prihlásenia.
Meta nasadila AI chatbota do zákazníckej podpory ešte v roku 2024, no relatívne nedávno spustila nového, ktorý mal okrem bežnej asistencie pomáhať aj s obnovou účtu. Výhodou AI chatbota je, že dokáže pracovať nepretržite a veľa úloh zvládne aj bez asistencie človeka, no to sa v tomto prípade stalo osudným.
Ako sa hackerom podarilo dostať sa do účtov slávnych osobností?
Hackeri si pripravili jednoduchú stratégiu. Najprv použili VPN, aby ich pripojenie pôsobilo ako legitímne z rovnakého regiónu ako cieľový účet. Tým obišli základné bezpečnostné kontroly. Následne poslali chatbotu požiadavku na reset prihlásenia. Ako cieľ uviedli používateľské meno obete a ako kontaktný e-mail zadali adresu, ktorú kontrolovali oni. Systém túto požiadavku spracoval automaticky.
New: Hackers have been stealing high-profile Instagram accounts by simply asking Meta’s AI support chatbot to change the email associated with the account they want to steal.
Shockingly easy, terrible flaw associated with offloading support to AI:https://t.co/PvRm8u0MV7
— Jason Koebler (@jason_koebler) June 1, 2026
;
Neprehliadni
Po prihlásení začali šíriť podozrivý obsah a propagandu
Podľa dostupných informácií sa útok netýkal len bežných používateľov. V zoznamoch kompromitovaných účtov sa objavili aj profily známych osobností. Medzi nimi sa spomínal aj účet Baracka Obamu a vysokopostaveného predstaviteľa amerických ozbrojených síl Johna Bentivegnu. Ich účty začali krátko po incidente publikovať podozrivý obsah.
Na profile Obamu sa objavili AI-generované obrázky a texty v arabčine s politickým podtónom. Účet Bentivegnu zas začal šíriť príspevky s proiránskymi správami.
Meta neskôr potvrdila, že problém odstránila.
„Zraniteľnosť sme opravili a podobné požiadavky už systém nespracuje,“ uviedol hovorca spoločnosti.
Problém vznikol pri úplnej automatizácii
Odborníci hovoria, že hoci sa to na prvý pohľad môže zdať tak, AI nebola hlavným problémom pri tomto incidente. Najväčší prešľap sa stal, keď jej dali plnú autonómiu, aj pri akciách, ktoré si vyžadujú potvrdenie človekom. Systém reagovať rýchlo a efektívne, presne tak ako mal, no práve táto rýchlosť a veľké právomoci otvorili priestor na zneužitie.
Výskumníci upozornili, že AI mala dokonca schopnosť rozpoznať podozrivé aktivity, napríklad zmeny IP adresy alebo pokusy o prihlásenie z neznámeho zariadenia, informuje portál 404 Media. Napriek tomu však útočníci dokázali ochranu obísť jednoduchým použitím VPN.
Hackeri cielili na hodnotné používateľské mená
Podľa uniknutých komunikácií na Telegrame sa útočníci zameriavali najmä na krátke alebo populárne používateľské mená. Tie majú na čiernom trhu vysokú hodnotu a často sa predávajú za značné sumy.
Výskumníčka Jane Manchun Wong, ktorá v minulosti pracovala pre Metu, potvrdila, že podobný postup fungoval aj na jej vlastnom účte a ďalších testovaných profiloch.
„Táto metóda fungovala aj na účtoch vysokoprofilových používateľov,“ uviedla Wong.
Celý incident otvoril širšiu diskusiu o tom, ako ďaleko by mala siahať automatizácia v online podpore. AI systémy dokážu zrýchliť riešenie problémov, ale zároveň prinášajú nové riziká, ak dostanú príliš veľa právomocí. Meta pritom už skôr prezentovala svoj systém ako nástroj, ktorý dokáže odhaliť aj pokusy o krádež účtov. V praxi sa však ukázalo, že útočníci dokázali tieto mechanizmy obísť bez výraznejších prekážok.
Meta rieši aj ďalší problém s AI
Incident s Instagram účtami nepredstavuje jediný problém spojený s AI v Mety. Spoločnosť čelí kritike aj za iný experiment, pri ktorom monitorovala interakcie zamestnancov medzi aplikáciami na ich počítačoch. Cieľom experimentu bolo trénovanie AI na reálne pracovné úlohy. Táto prax vyvolala otázky o súkromí aj možných právnych dopadoch.
Celý prípad tak ukazuje, že zavádzanie AI do citlivých častí digitálnych služieb môže na jednu stranu celý proces zrýchliť a nahradiť človeka, no na druhú stranu sa objavujú aj nové riziká, ktoré ukazujú, že AI ešte nie je pripravená na nasadenie v praxi.
