V Google Play a AppStore sa stále nachádzajú aplikácie, ktoré pomocou AI obnažia akúkoľvek fotku: Obchody tieto appky ponúkajú aj deťom
Z fotky vedia za pár minút vytvoriť falošný intímny obsah, ktorý sa môže zneužiť na vydieranie, ponižovanie aj sextorting.
Umelá inteligencia sa čoraz častejšie prezentuje ako nástroj, ktorý ti uľahčí život. Popri užitočných funkciách sa však objavujú aj aplikácie, ktoré stoja na hrane a niekedy ju rovno prekračujú. Najnovší príklad prichádza priamo z oficiálnych obchodov s aplikáciami.
Podľa správy organizácie Tech Transparency Project, sa v Google Play Store aj Apple App Store stále nachádzajú takzvané „nudify“ aplikácie. Ide o nástroje, ktoré pomocou generatívnej AI upravujú fotografie tak, že z nich dokážu odstrániť oblečenie a vytvoriť realisticky vyzerajúce nahé snímky.
Tieto aplikácie fungujú často bez akýchkoľvek bezpečnostných obmedzení. Často ich pritom využívajú pochybní užívatelia, aby obnažili fotografie známych, alebo aj neznámych žien na internete. Tieto AI generované nahé fotografie následne môžu využiť pri sextortingu, alebo iných situáciách, na ktoré pôvodný autor fotografie nedal dovolenie.
Ako fungujú aplikácie na obnaženie fotografie pomocou AI?
Podobné aplikácie pritom fungujú až desivo jednoducho. Niekto si nájde fotografiu na internete a následne ju nahrá do aplikácie. Tá pomocou AI dopočíta zvyšok obrazu. Výsledok nemusí byť presný, no často pôsobí dostatočne realisticky na to, aby spôsobil problém. V praxi to znamená, že niekto môže vytvoriť falošný intímny obsah z fotografie, ktorú si nikdy neplánoval použiť týmto spôsobom.
Už len to, že niekto takéto niečo zvládne za pár minút vyvoláva vážne obavy. Problém však ide ešte ďalej. Podľa správy sa desiatky takýchto aplikácií dostali do obchodov bez dostatočnej kontroly. Niektoré z nich dokonca získali označenie vhodné pre všetky vekové kategórie. Aplikácie s takýmto označením následne Google Play ponúkal aj deťom, pričom sa zobrazovali v odporúčaniach rovnako ako bežné hry alebo nástroje na úpravu fotografií.
Neprehliadni
„Potenciál škody je extrémne vysoký. Tento problém sa netýka len technológie, ale aj toho, ako jednoducho sa k nej dá dostať,“ píše sa v správe Tech Transparency Project.
Záujem o tieto aplikácie je zároveň obrovský. Podľa odhadov dosiahli sledované nástroje spolu približne 500 miliónov stiahnutí a vygenerovali príjmy okolo 122 miliónov dolárov. To naznačuje, že nejde o okrajový fenomén, ale o rastúci biznis.
Spoločnosti Google a Apple po upozornení reagovali odstránením viacerých aplikácií. Zároveň tvrdia, že takéto nástroje porušujú ich pravidlá. Aj tento prípad ale jasne ukazuje, že kontrola obchodov s aplikáciami nie je dostatočná.
Problémom nie sú len špecializované aplikácie, ale zle nastavené pravidlá pre AI
IT špecialisti vysvetľujú, že rovnaká technológia, ktorá ti umožní odstrániť objekt z fotografie alebo upraviť pozadie, sa dá použiť aj na oveľa citlivejšie zásahy, v niektorých prípadoch aj na obnaženie fotografie. Rozdiel medzi „užitočnou“ a „škodlivou“ aplikáciou tak často spočíva len v nastavení pravidiel.
V tomto prípade pravidlá očividne zlyhali. Aplikácie sa dostali do oficiálnych obchodov, získali hodnotenia a oslovili masy používateľov, to všetko bez väčších prekážok. Na problém už reagujú aj vlády. Napríklad Spojené kráľovstvo začalo pripravovať kroky, ktoré by takéto aplikácie mohli úplne zakázať. V krajine sa totiž umelo obnažené fotky nielen dospelých, ale aj detí začali objavovať na školách aj v bežnom živote.
Analytici varujú, že tento trend pravdepodobne nezmizne. Generatívna AI sa rýchlo zlepšuje a podobné nástroje sa dajú vytvoriť relatívne jednoducho. Ak sa nezmení spôsob, akým sa aplikácie kontrolujú a hodnotia, budú sa objavovať znova.
Zástupcovia technologických firiem naznačujú, že problém riešia priebežne, užívatelia sa však pýtajú, či to stačí. Automatické systémy kontroly majú svoje limity a vývojári dokážu pravidlá obchádzať. Prípad s obnažujúcimi aplikáciami v Obchode Play a AppStore jasne ukazuje, že nestačí len reagovať na konkrétne aplikácie. Bude potrebné upraviť celý systém hodnotenia a kontroly, aby podobné nástroje neprešli už v prvom kroku.
Zatiaľ to vyzerá skôr na preteky medzi vývojármi a platformami než na definitívne riešenie.
