Hranica medzi realitou a fikciou sa zotiera: Už teraz tieto výtvory AI nevieme rozoznať od skutočných
Nový výskum prekvapil vedcov, no nie v dobrom. Ukázalo sa, že ľudia nedokážu spoľahlivo odlíšiť AI tváre od skutočných.
Pokroky v umelej inteligencii vedú k tomu, že dnes už máme naozaj veľký problém rozpoznať, čo je vytvorené umelou inteligenciou a čo je reálne. Potvrdzujú to aj výsledky vedcov z University of Waterloo, ktoré naznačujú, že človek nevie s istotou povedať ani to, ktorá tvár bola umelo vytvorená a ktorá je prirodzená.
Umelá inteligencia má stále svoje nedostatky, no keď podá dobrý výkon, bežný človek naozaj nedokáže rozoznať AI výtvor a realitu. V rámci experimentu autori naverbovali do výskumu 260 dobrovoľníkov, ktorým ukázali 20 portrétov. 10 z nich zachytávalo skutočných ľudí a druhú polovicu vytvorili AI modely Stable Diffusion alebo DALL-E, dva najpoužívanejšie modely na generovanie obrázkov.
Dobrovoľníci mali pred sebou jednoduchú úlohu, označiť, či je portrét skutočný alebo vytvorený AI a vysvetliť svoje rozhodnutie. Tu sa ukázalo, že len 61% dobrovoľníkov dokázalo správne rozlíšiť skutočných ľudí od umelo vytvorených portrétov. Výskumníci očakávali aspoň 85%.
“Ľudia nie sú až tak dobrí v rozlišovaní, ako si myslia, že sú,” konštatuje Andreea Pocol, vedúca nového výskumu.
Výskumníci prezradili, že pri odhaľovaní AI obrázkov sa dobrovoľníci zameriavali na detaily, ako napríklad prsty, zuby alebo oči. Ako sme uviedli vyššie, ich výsledky neboli až také dobré, ako vedci očakávali. Zároveň upozorňujú, že v rámci tohto experimentu mali dobrovoľníci možnosť pozrieť sa na obrázky do najmenších detailov. V reálnom svete, ak niekto napríklad číta správy na sociálnych sieťach, nebude fotografiám venovať až takú pozornosť a tieto detaily oveľa ľahšie prehliadne.
Mažú sa rozdiely medzi fikciou a realitou
Už v tomto štádiu môže niekto umelú inteligenciu použiť na šírenie dezinformácií. Autori však prízvukujú, že AI priemysel napreduje rapídnym tempom a hrozba sa do budúcna určite zvýši. Zároveň varujú, že vedci a legislatíva za AI technológiou momentálne nestíhajú. Znamená to, že podvodníci, dezinformátori či iné subjekty, by teoreticky mohli nejakú dobu zneužívať umelú inteligenciu bez právneho postihu. Situácia je ale pochopiteľne komplikovanejšia.
Neprehliadnite
Hocikto môže použiť umelú inteligenciu na vygenerovanie verejne známej osoby v kompromitujúcej situácii. To môže napríklad ovplyvniť verejnú mienku o určitom politikovi aj v prípade, ak ľudí napadne, že by mohlo ísť o výtvor umelej inteligencie.
“Dezinformácie nie sú nové, no nástroje na ich šírenie sa stále vyvíjajú. Už čoskoro sa môžeme dostať do bodu, kedy nebudeme vedieť rozlíšiť AI výtvor od reality, bez ohľadu na to, ako veľmi sa snažíme nájsť rozdiely,” varuje Pocol.
Popri Pocol viacero vedcov tvrdí, že musíme vyvinúť nástroje, ktoré by spoľahlivo dokázali AI obsah identifikovať. Najpoužívanejšie generátory obrázkov už používajú rôzne systémy neviditeľných vodoznakov, ktoré jasne ukážu, že tento obraz vytvorila umelá inteligencia.
Komentáre