Google zakročí rázne proti deepfake explicitnému obsahu: Pomôcť chce obetiam sextortingu
Spoločnosť Google rázne zakročí proti deepfake obsahu, ktorý sa spája so sextortingom a zachytáva obeť v explicitných situáciách.
Umelá inteligencia nám pomáha v mnohých oblastiach života, no rovnako vie podať pomocnú ruku aj kyberzločincom. Tí s pomocou AI vytvárajú prepracovanejšie deepfake videá rýchlejšie než kedykoľvek predtým a používajú ich na mimoriadne zákerné podvody.
Koncom júla sme informovali o novej forme sextortingu, teda vydierania prostredníctvom intímneho materiálu obetí. V minulosti išlo o podvod, ktorý sa dal jednoducho ignorovať, pretože vo väčšine prípadov nemal podvodník nič iné okrem prázdnych slov.
Tentokrát ale striehnu na zoznamkách, obete nahovoria na videohovor a následne vytvoria deepfake obsah, v ktorom je obeť vyobrazená v intímnych situáciách. Žiadajú peniaze za to, aby toto falošné video neuverejnili na internete.
Spoločnosť Google sa vyjadrila na problém AI generovaného deepfake obsahu, ktorý sa čoraz rýchlejšie stáva vážnejším problémom. AI generovaný deepfake intímny obsah je mimoriadne nebezpečný, pretože aj keď síce ide o videomontáž, tá môže vyvolať pochybnosti o jej autenticite. Dobré meno obete je poškodené bez ohľadu na to, či je video alebo fotografia pravdivá alebo nie.
“Dnes zdieľame novinky ohľadom systému, ktorý sme vytvorili v spolupráci s expertmi a obeťami AI posilneného sextortingu. Zjednodušili sme proces žiadania o odstránenie obsahu a zároveň upravujeme aj naše hodnotiace systémy, aby sme zabránili podobnému obsahu zobraziť sa vysoko vo vyhľadávaní,” píše Google.
Jednoduchšie odstránenie obsahu z vyhľadávania
Google už roky ponúka užívateľom možnosť požiadať o odstránenie obsahu z vyhľadávania. Tento systém vznikol na ochranu pred nedovoleným zverejnením súkromných fotografií, videí alebo iného obsahu. Tentokrát spoločnosť Google uľahčuje tento proces, aby pomohol obetiam AI generovaného deepfake obsahu.
Neprehliadni
Ak užívateľ úspešne požiada o odstránenie obsahu, spoločnosť Google následne bude filtrovať aj všetky ďalšie explicitné výsledky pri podobných vyhľadávaniach. Popri tom systémy Google vyhľadajú a odstránia akékoľvek duplikáty nevhodného obsahu.
“Tento systém sa ukázal byť mimoriadne úspešný pri adresovaní iných typov nedovoleného zverejnenia obsahu a tentokrát ho rozširujeme aj na falošný obsah. Systém sme navrhli preto, aby sme dokázali obetiam poskytnúť aspoň nejakú formu pokoja, obzvlášť ak sa boja, že sa explicitný obsah objaví v budúcnosti znova,” tvrdí Google.
Lepšie hodnotenie a umiestnenie obsahu
V dnešnej rýchlej digitálnej dobe vzniká denne obrovské množstvo nového obsahu. Ako hovorí Google, najlepšou ochranou pred falošným obsahom je navrhnúť systémy, ktoré uprednostňujú kvalitný a hodnotný obsah a ten umiestňujú na vrchné priečky vyhľadávania.
K tomuto dobre zabehnutému systému Google pridáva aj funkcie, ktoré zohľadnia situácie, kedy sa môže vo vyhľadávaní zobraziť falošný explicitný obsah.
Napríklad, ak niekto vyhľadáva konkrétnu osobu, hodnotiace algoritmy Google uprednostnia na vrchu vyhľadávania kvalitný a neexplicitný obsah, ak je tento obsah dostupný. Spoločnosť zároveň vysvetľuje, že potrebujeme vedieť rozlíšiť vedomý explicitný obsah od toho, ktorý vznikol s nesúhlasom danej osoby.
Príkladom môže byť nejaká herečka alebo herec, ktorí v nejakom filme mal nahú scénu. Tento obsah je síce explicitný, no herec ho natáčal vedome a je s ním stotožnený. Na druhú stranu existujú na internete aj rôzne fotomontáže, na ktoré herec už svoj súhlas nedal. Zatiaľ majú s týmto vyhľadávače problém, no Google pracuje na zlepšení.
V podstate však platí, že ak Google niekoľkokrát vymazal obsah z určitej stránky, potom ide o pomerne slušný indikátor toho, že stránka asi nebude ponúkať užívateľom kvalitný obsah. Na základe toho hodnotí nižšie stránky, ktorým opakovane odstraňovala spoločnosť obsah pre porušenie podmienok Googlu.
AI generovaný deepfake obsah sa už stal problémom, no veľké spoločnosti, ako napríklad Google a Microsoft proti novej hrozbe bojujú. Stále však majú pred sebou niekoľko problémov, ktoré musia vyriešiť, aby bola ochrana čo najefektívnejšia.
Komentáre