Úrad rieši prvý nahlásený kybernetický útok s AI agentom. Došlo pri ňom k úniku osobných údajov
Španielsky úrad rieši prvý hlásený únik osobných údajov, pri ktorom mal útočník použiť AI agenta. Ten dokázal samostatne prepájať jednotlivé kroky kybernetického útoku.
Umelá inteligencia už dávno neslúži iba na písanie textov, generovanie obrázkov alebo odpovedanie na otázky. Bezpečnostní odborníci čoraz častejšie upozorňujú aj na jej využitie pri kybernetických útokoch. Teraz sa objavil prípad, ktorý ukazuje, že nejde iba o teoretickú hrozbu.
Španielska Agentúra pre ochranu údajov (AEPD) dostala prvé oznámenie o úniku osobných údajov, pri ktorom mal útočník využiť AI agenta. Ten dokázal samostatne vykonať viacero krokov potrebných na úspešný útok. Treba však zdôrazniť jednu podstatnú vec. AEPD zatiaľ z prípadu nerobí definitívny záver. Informácie pochádzajú z oznámenia organizácie, ktorá incident nahlásila, a úrad ich ešte musí analyzovať.
AI agent nehľadal iba odpoveď
Podstata prípadu spočíva v tom, že AI nefungovala iba ako nástroj, ktorému človek zadá konkrétnu úlohu a následne sám vykoná všetky ďalšie kroky. Útočný agent dostal cieľ a následne dokázal samostatne postupovať podľa výsledkov, ktoré získal. Najskôr začal hľadať zraniteľnosti v generických súboroch a podarilo sa mu vykonať úspešné prihlásenie. Po získaní prístupu pokračoval v analýze aplikácie a hľadal ďalšie možnosti, ako sa v systéme dostať ďalej.
Keď objavil využiteľnú zraniteľnosť, dokázal ju použiť. Následne získal možnosť meniť osobné údaje a pristupovať k faktúram.
„Tretia strana údajne využila AI agenta ako nástroj na úspešné prepojenie rôznych fáz útoku,“ uvádza španielsky úrad.
Práve toto predstavuje na celom prípade najzaujímavejšiu časť. Nejde totiž iba o to, že niekto použil AI na vytvorenie phishingového e-mailu alebo na analýzu zdrojového kódu. Agent dokázal jednotlivé kroky útoku pospájať a reagovať na to, čo počas svojej činnosti našiel.
Neprehliadni
AI nemusí vymyslieť nový útok
Kybernetické útoky s pomocou umelej inteligencie nie sú úplnou novinkou. Generatívne modely môžu pomôcť napríklad s tvorbou phishingových správ, prekladom podvodných kampaní, napodobňovaním identity, analýzou kódu alebo hľadaním bezpečnostných chýb. AI agent však pridáva ďalšiu vrstvu automatizácie. Klasický chatbot čaká na otázku a následne vytvorí odpoveď. Agent môže dostať určitý cieľ a sám si rozdeliť jeho splnenie na viacero menších úloh. Dokáže používať dostupné nástroje, spúšťať kód, vyhodnocovať výsledky a podľa nich zvoliť ďalší postup.
Ak teda jeden krok nevyjde, agent môže skúsiť inú cestu. Ak naopak niečo objaví, môže na tento výsledok nadviazať ďalšou úlohou.
„Umelá inteligencia nevytvára nové hrozby. Zvyšuje však rýchlosť, rozsah a schopnosť prispôsobenia už známych škodlivých techník,“ upozorňuje AEPD.
Pre firmy to vytvára nepríjemný problém. Bezpečnostný tím môže totiž čeliť útoku, ktorý postupuje oveľa rýchlejšie než človek pri manuálnom útoku.
Získané heslo môže otvoriť viac dverí
Ďalším problémom sú používateľské účty, API kľúče a rôzne prístupové tokeny. Ak útočník získa účet s príliš širokými oprávneniami, klasický útok môže pokračovať manuálne. AI agent však môže získané oprávnenia využiť veľmi rýchlo a skúsiť s nimi pristúpiť k ďalším službám.
Preto už nestačí riešiť iba samotný malvér alebo phishing. Organizácie musia sledovať aj to, kto má k čomu prístup a aké oprávnenia jednotlivé účty dostali. Príliš široké oprávnenia totiž môžu z jedného kompromitovaného účtu vytvoriť vstupnú bránu k ďalším systémom. AEPD zároveň upozorňuje, že tento jediný incident zatiaľ nemožno označiť za dôkaz rozsiahleho trendu. Ide o prvé takéto oznámenie, takže z neho nemožno vytvoriť štatistické závery.
Napriek tomu má prípad význam. Ukazuje totiž, že organizácie už nemusia počítať iba s človekom, ktorý ručne hľadá zraniteľnosť, skúša prístupy a následne preniká do ďalších častí systému.
Bezpečnostné pravidlá musia počítať aj s AI
Praktický problém preto nespočíva iba v samotnej umelej inteligencii. Firmy musia počítať s tým, že existujúce útoky môžu vďaka AI prebehnúť rýchlejšie a s menším zásahom človeka. To môže znamenať kratší čas na odhalenie incidentu aj na zablokovanie napadnutého účtu.
Španielsky úrad preto poukazuje na potrebu zahrnúť útoky podporované alebo priamo vykonávané pomocou AI do hodnotenia rizík pri spracúvaní osobných údajov. Nestačí automaticky predpokladať, že ochrana proti tradičnému malvéru, phishingu či neoprávnenému prístupu pokrýva aj nový spôsob útoku.
Dôležitú úlohu má mať aj rýchla detekcia podozrivej aktivity. Ak agent dokáže analyzovať viacero možností, skúšať rôzne prístupy a meniť svoj postup podľa výsledkov, bezpečnostné systémy musia na podobné správanie reagovať dostatočne rýchlo.
„Ľudský dohľad zostáva nevyhnutný, no musí sa opierať o mechanizmy detekcie, zadržania a reakcie schopné fungovať dostatočne rýchlo,“ uvádza AEPD.
Pre bežného používateľa sa pritom základné pravidlá nemenia. Silné a jedinečné heslá, viacfaktorové overenie, pravidelné aktualizácie a obmedzenie zbytočných oprávnení stále patria medzi dôležité bezpečnostné opatrenia.
Novinkou je skôr tempo, akým môže útočník tieto ochrany skúšať obísť. Prvé oznámenie španielskeho úradu preto ukazuje najmä to, že AI agenti už patria medzi technológie, s ktorými musia bezpečnostné tímy pri hodnotení rizík reálne počítať.
