Na internete verte len tým, ktorých poznáte: Experiment dokazuje, že už nevieme rozlíšiť pravé účty od botov
V rámci nového experimentu vedci dokázali, že falošné účty sa nám častokrát zdajú reálnejšie, ako tie pravé.
Dokázali by ste rozoznať reálny profil na sociálnych sieťach od bota? Možno si myslíte že áno, no vďaka technologickým pokrokom, hlavne v oblasti umelej inteligencie, už nie je problém vytvoriť falošný účet, ktorý sa s vami dokáže rozprávať ako skutočná osoba.
To je aj výsledkom štúdie, na ktorej sa podieľali vedci z univerzity v Kodani. V rámci svojej novej práce skúmali na 375 dobrovoľníkoch, či dokážu poznať rozdiel medzi skutočnými a falošnými profilmi na sociálnych sieťach. Ukázalo sa, že bežný človek môže mať problém rozoznať skutočný Twitter účet od toho, ktorý funguje na umelej inteligencii.
Štúdia však neskončila tam. Počas experimentu si totiž výskumníci všimli niečo pozoruhodné. Dobrovoľníci v niektorých prípadoch považovali falošný účet za skutočnejší, než ten, ktorý naozaj patril reálnej osobe. V rámci experimentu vytvorili výskumníci napodobeniu Twitter feedu, v ktorom dobrovoľníci čítali príspevky týkajúce sa konfliktu na Ukrajine. V rámci feedu sa náhodne striedali skutočné profily a príspevky od umelej inteligencie.
Falošné profily vytvorili prostredníctvom generatívnej technológie. O profilové obrázky sa postaral generátor StyleGAN a samotné príspevky vznikali generatívnym modelom GPT-3, na ktorom je postavená aj populárna platforma ChatGPT.
„Zaujímavé je, že dobrovoľníci najviac spochybňovali reálne profily. Jeden skutočný profil označili ako falošný až v 41,5% prípadov. Najlepší falošný profil dokázalo odhaliť len 10% ľudí,“ tvrdí Sippo Rossi, jeden z autorov štúdie.
Autori na základe výsledkov experimentu poukazujú na to, že generatívna technológia už postúpila na takú úroveň, kedy máme problém rozoznať skutočný profil od toho falošného. Zároveň upozorňujú na to, že táto technológia môže byť ľahko zneužitá.
Neprehliadnite
Vytvoriť falošný profil je jednoduchšie než kedykoľvek predtým
V minulosti to chcelo poriadnu dávku práce, aby niekto vytvoril uveriteľný profil. Stačí sa pozrieť len päť rokov dozadu a neexistoval spôsob, ako vytvoriť falošný profil prakticky jedným kliknutím. Boti existovali aj v tej dobe, no vo väčšine prípadov hovorili strnulo a stačila len chvíľa, aby sme ho dokázali rozpoznať.
Generatívna technológia a falošné profily môžu šíriť dezinformácie, propagandu a ovplyvňovať tak verejnú mienku. Autori štúdie sa preto prikláňajú k názoru, že musíme zaviesť v oblasti umelej inteligencie určité regulácie, ktoré by nám túto impozantnú technológiu umožnili využívať bezpečným spôsobom.
Autori so svojou prácou nekončia. V ďalších experimentoch sa pokúsia odhaliť, či dokážeme rozlíšiť bota od skutočného človeka v diskusných príspevkoch pod spravodajským článkom. Ak ľudia nedokážu rozpoznať bota od reálneho človeka, potom potrebujeme akúsi formu automatizovaného systému. Ten by dokázal falošné účty odhaliť a následne ich aj zablokovať.
„Moja rada znie: Na internete verte len tým ľuďom, ktorých skutočne poznáte,“ tvrdí Rossi.
Hoci vedci zatiaľ nemajú jasnú predstavu ako by mal tento systém vyzerať, uvažuje sa o nejakej forme identifikácie totožnosti. Popri tom by mali sociálne platformy zaviesť aj ďalšie bezpečnostné funkcie obmedzujúce šírenie botov na podobných platformách.
Komentáre