Vedci pomocou deepfake vytvorili ľuďom falošné spomienky na niečo, čo neexistuje. Takto ich oklamali!
Autori štúdie poukazujú na riziká deepfake technológií, no zároveň si všimli niečo, čo ich prekvapilo.
Deepfake je technológia, ktorá za pomoci umelej inteligencie dokáže vymeniť tvár človeka v klipe za inú. AI algoritmus vytvorí podobizeň známej osobnosti, ktorú následne dokáže verne dosadiť do klipu a vytvoriť tak presvedčivý, no nepravý obsah.
Deepfake existuje už nejaký ten piatok a v jej počiatkoch ste si mohli všimnúť, že záber na ktorý sa pozeráte mohol byť digitálne upravený. Dnes sú tie najlepšie deepfaky takmer nerozoznateľné od skutočnosti. Ide o technológiu, ktorá predstavuje potenciálnu horzbu, pretože kyberzločinci môžu vytvárať a šíriť dezinformačný obsah. Riziká tejto technológie demonštrovalo viacero zaujímavých experimentov a vo vedeckej publikácií PLOS ONE sa objavila ďalšia štúdia.
Autori nového výskumu vytvorili deepfake klipy filmových remakov, ktoré ale v skutočnosti neexistujú. Tieto klipy pustili dobrovoľníkom, ktorí si vybavili falošné spomienky, ako daný film videli. Autori zistili, že tvorbu nepresných spomienok dokázali podobným spôsobom podnietiť aj jednoduché falošné filmové popisky. Štúdia vychádza v dobe, kedy sa tvorba deepfake obsahu stala oveľa jednoduchšou a hlavne dostupnejšou.
Falošné spomienky z pozerania deepfake obsahu
Výskumníci si uvedomujú, že deepfake obsah môže predstavovať riziká, no na druhú stranu nemožno poprieť ani užitočnosť tejto technológie. V práci preto zistili, do akej miery nás môže deepfake obsah oklamať. Do štúdie sa zapojilo 436 dobrovoľníkov, ktorí pozerali klipy kultových filmov, pričom vedci vymenili herca v hlavnej úlohe. Dobrovoľníci napríklad sledovali film Matrix v ktorom si hlavnú úlohu – postavu Nea – „zahral“ Will Smith. Pôvodne bol však do úlohy obsadený Keanu Reeves. Pozreli si aj deepfake klipy iných známych filmov ako The Shining a Indiana Jones.
Popri tom však dobrovoľníci sledovali aj skutočné remaky ako Total Recall, Tomb Raider a ďalšie. Dobrovoľníci nevedeli, že ide o deepfake videá, to sa dozvedeli až na záver štúdie. V priemerne 49% prípadoch ľudia verili, že deepfake remake bol skutočný. Mnoho dobrovoľníkov si „spomenulo“ na to, že tieto neexistujúce filmy boli lepšie ako originály.
Neprehliadnite
Vedci si však všimli niečo zaujímavé. Rovnako dokázali dobrovoľníkov zmiasť aj falošné popisy filmov, ktoré vedci napísali z hlavy za pár minút. Konštatujú, že hoci znie Deepfake hrozivo, v skutočnosti táto technológia nie je účinnejšia ako iné nástroje na oklamanie ľudí.
Čo sa však týka názoru na deepfake, väčšine dobrovoľníkov sa nepáčilo použitie tejto technológie na zmenu hercov vo filmoch. Prevládal názor, že ide o neúctu voči umeleckej integrite.
„Deepfake technológia prináša veľa rizík, napríklad vytváranie pornografického materiálu proti súhlasu človeka alebo na šikanu. Naša štúdia ale predkladá názor, že aspoň čo sa týka vytvárania falošných spomienok, v tomto smere nie je mocnejšia ako iné metódy. Ľudia si môžu vybaviť nepresné alebo falošné spomienky aj čítaním jednoduchého textu,“ tvrdia autori štúdie.
Dodávajú, že ich práca pomôže informovať priemysel o možnom uplatnení a regulácie deepfake technológie vo filmoch.
Komentáre