FBI zneškodnila obrovskú ruskú dezinformačnú operáciu: Na šírenie propagandy používali AI
Predpokladá sa, že túto botiu farmu riadil zástupca šéfeditora ruskej štátnej spravodajskej organizácie Russia Today.
Americké Ministerstvo spravodlivosti zneškodnilo sieť AI botov, ktorý na platforme Twitter šírili proruskú propagandu. Dokopy deaktivovali takmer tisíc falošných účtov, informuje portál Bleeping Computer.
Predpokladá sa, že túto botiu farmu riadil zástupca šéfeditora ruskej štátnej spravodajskej organizácie Russia Today a príslušník Ruskej federálnej bezpečnostnej služby FSB. Botia farma rozosievala dezinformácie naprieč celým Twitterom a zasiahla užívateľov po celom svete. Predpokladá sa, že aktívnou bola od roku 2022 a dezinformátori používali AI softvér Meliorator.
Cez AI službu dokázali útočníci vytvoriť autenticky vyzerajúce príspevky na sociálnych sieťach. Tieto príspevky sa javili ako od reálnych ľudí z rôznych krajín sveta. Cieľom Russia Today a FSB bolo posilniť falošné naratívy a zvýšiť svoj vplyv mimo Ruska.
“Už okolo roku 2022 mala spravodajská organizácia Russia Today prístup k AI službe Meliorator. Ide o nástroj pre vytvorenie botov a ich následné manažovanie. S pomocou tohto softvéru vytvorili infraštruktúru, ktorá im dovolila šíriť dezinformácie v niekoľkých krajinách, vrátane Spojených štátov, Poľska, Nemecka, Ukrajiny, Španielska a Holandska,” tvrdí americká FBI.
Softvér vznikol na vytvorenie autenticky vyzerajúcich užívateľov vo veľkom. Títo užívatelia následne zaplavili vybrané sociálne siete a začali šíriť dezinformácie a propagačné príspevky. To dovolilo Rusku nakloniť verejnú mienku, čo je súčasť ich informačných operácií.
Experti vysvetľujú, že Meliorator stále funguje len na platforme Twitter, ktorá je dnes známa aj ako X. Logicky však môžeme predpokladať, že operátori chcú túto AI platformu rozšíriť aj na ďalšie sociálne siete.
Neprehliadni
Ako sme už spomínali, americkej FBI a Ministerstvu spravodlivosti sa podarilo rozložiť ruskú botiu farmu, ktorá dokopy pozostávala z 968 falošných profilov. Boti sa na Twitter registrovali cez súkromné mailové servery mlrtr a otanmail. K obom získali americký vyšetrovatelia prístup.
“Naše akcie reprezentujú prvé rozloženie botej farmy, ktorá používala umelú inteligenciu a bola sponzorovaná Kremľom,” tvrdí Christopher Wray, riaditeľ FBI.
Wray ďalej vysvetľuje, že Rusko chce podobné botie farmy využiť na to, aby po celom svete šírilo propagandu a dezinformácie. Cez takéto falošné príspevky následne môže podkopať Ukrajinu alebo ovplyvniť verejnú mienku iných krajín príspevkami, ktoré Rusko opisujú v lepšom svetle.
Aj OpenAI zastavilo niekoľko dezinformačných kampaní
OpenAI je lídrom v oblasti vývoja umelej inteligencie. Spoločnosť priniesla AI modely ako ChatGPT, DALL-E a pripravovaný AI video generatívny model Sora. Popri vývoji umelej inteligencie však zastavuje aj dezinformačné kampane, ktoré zneužívajú AI na svoje účely.
Viaceré hackerské skupiny vykonávajú masívne dezinformačné kampane a využívajú aj schopnosti umelej inteligencie na to, aby vytvorili presvedčivejší obsah alebo vytvorili viac dezinformačného obsahu. Spoločnosť OpenAI, líder v oblasti vývoja umelej inteligencie, zavádza pravidlá, ktorých cieľom je zabránenie zneužívania AI modelov a zlepšenie transparentnosti okolo AI generovaného obsahu.
Dezinformačné skupiny využívali umelú inteligenciu rôznymi spôsobmi. Od vytvárania krátkych komentárov, dlhších článkov, až po vymýšľanie názvov a popisov dezinformačných účtov na sociálnych sieťach. Konkrétna zastavená kampaň pochádza z Ruska a bezpečnostní analytici ju sledovali pod názvom Bad Grammar. Táto kampaň využívala umelú inteligenciu na odstránenie chýb z kódu, ktorý poháňal Telegram bota. Tento bot vytváral krátke politické komentáre v ruskom a anglickom jazyku.
Koniec dezinformačných kampaní v nedohľadne
Od začiatku konfliktu na Ukrajine Rusko pritvrdilo vo svojich kybernetických operáciách. Častejšími sa stali nielen útoky na Európu a NATO, ale aj šírenie propagandy a dezinformačných operácií. Prorusky orientovaní hackeri sa nie až tak dávno pokúsili odstrašiť ľudí z účasti na Olympijských hrách. Za touto operáciou stála skupina Doppelganger, ktorá rovnako používala AI na vytváranie falošných komentárov a príspevkov.
OpenAI však poukazuje na to, že veľa dezinformátorov stále používa staré osvedčené taktiky a manuálne písané texty. AI využívajú na preklad do iných jazykov alebo na vytváranie komentárov pod ručne písanými príspevkami.
Komentáre