Deepfake obsah počas vojny: Vďaka tomuto obsahu ľudia prestávajú veriť aj v legitímne informácie
Výskumníci sa v prvej štúdii svojho druhu zamerali na šírenie deepfake obsahu počas vojny a ako tým ovplyvňujú dôveru ľudí.
Technológia deepfake sa do online priestoru rozšírila hlavne od začiatku konfliktu na Ukrajine a stále predstavuje výraznú hrozbu pre bežnú populáciu.
Pre tých ktorí nevedia, deepfake je technológia, ktorá dokáže tvár vo videu nahradiť prakticky akoukoľvek osobou. V praxi teda môžete vytvoriť video, na ktorom naša prezidentka hovorí čokoľvek, čo vám napadne a vyzerá to naozaj presvedčivo. S pokrokom umelej inteligencie vznikajú videá, ktoré v niektorých prípadoch nemáte šancu rozoznať od skutočných. K obrazovému deepfake videu sa pridáva aj možnosť vytvoriť hlas konkrétnej osoby.
Deepfake je mimoriadne rizikový hlavne ako nástroj na šírenie propagandy. Výskumníci z University College Cork sa v rámci novej štúdie zamerali na to, ako sa zmenilo šírenie deepfake obsahu počas konfliktu na Ukrajine.
V rámci svojej práce preskúmali príspevky na sociálnej sieti X (pozn. redakcie: bývalý Twitter). Preskúmali viac ako 5-tisíc tweetov, ktoré boli publikované počas prvých siedmich mesiacov minulého roka. Autori štúdie skúmali, ako ľudia reagujú na deepfake obsah a objavili aj dôkazy, ktoré potvrdzujú úlohu deepfake obsahu v naštrbení dôvery ľudí.
Autori upozorňujú, že deepfake obsah sa stáva čoraz dostupnejším a to znamená, že ho bude v online priestore viac. Od začiatku konfliktu sme mohli pozorovať niekoľko deepfake kampaní, ktoré vznikli z oboch strán konfliktu. Prvým prípadom nie je deepfake v pravom zmysle slova, no objavili sa prípady, kedy bol záber z počítačovej hry použitý ako dôkaz o existencii takzvaného “ducha Kyjeva”, mestskej legendy o pilotovi, ktorý vlastnoručne zneškodnil obrovské množstvo nepriateľských lietadiel.
Neprehliadnite
Ľudia nevedia čomu veriť
Ďalej sa objavili deepfake zábery ruského prezidenta, Vladimira Putina, ako oznamuje mier s Ukrajinou. Posledným výrazným prípadom bolo, keď sa proruskí hackeri nabúrali na ukrajinskú spravodajskú stránku a ukázali na nej deepfake video ako sa ukrajinský prezident, Volodymyr Zelenskyj, vzdáva.
Autori štúdie zistili, že bežný užívateľ má strach z deepfake obsahu, ktorý môže zapríčiniť kompletnú stratu dôvery v akékoľvek zábery z konfliktu. Výskum zároveň našiel prvé dôkazy o konšpiračných teóriách, ktoré obsahujú aj deepfake obsah.
Výskum však odhalil aj to, že veľa reálneho obsahu sa označuje ako deepfake. Z toho autori usudzujú, že nedostatok vzdelania v tejto oblasti vedie k nepochopeniu toho, čo sa môže považovať za deepfake. V tomto smere tvrdia, že najviac dezinformácii vzniklo z toho, že ľudia označili reálny obsah ako deepfake.
Technológia deepfake má podľa autorov potenciál podrývať našu dôveru v legitímne videá a plodiť nezdravý skepticizmus. Keďže deepfake môže v nasledujúcich rokoch narastať, média by mali byť opatrné v tom, ako označia potenciálny deepfake obsah. Pozor by mali dať hlavne na to, aby neoznačili prirýchlo ako deepfake video, ktoré môže byť skutočné.
Komentáre