Google predstavil nový nástroj na odhalenie, či je obrázok vytvorený umelou inteligenciou alebo nie
Umelá inteligencia napreduje rapídnym tempom a túto revolučnú technológiu musíme využívať zodpovedne. Identifikovanie "syntetických obrazov" je krokom k zabráneniu šírenia dezinformácií.
O schopnostiach umelej inteligencie hovoríme často, no zameriavame sa hlavne na platformy ako ChatGPT, Bing alebo Bard, s ktorými sa môžete porozprávať. Generatívna technológia však napreduje vo všetkých smeroch a aj vytváranie obrazov sa stáva čoraz populárnejšie.
Platformy ako napríklad Midjourney už dokážu vytvoriť až desivo realistické scenérie. Otázka znie, ako môžeme rozlíšiť, čo je naozaj skutočné a čo je generované umelou inteligenciou? Google DeepMind v spolupráci s Google Cloud spúšťa beta verziu nástroja SynthID, nástroja pre identifikovanie AI generovaných obrazov. Táto platforma vloží vodoznak priamo do pixelov obrázka. V praxi to znamená, že ľudské oko si nič nevšimne, no stroj môže generované obrazy veľmi jednoducho identifikovať.
We’re excited to launch 𝗦𝘆𝗻𝘁𝗵𝗜𝗗 today with @GoogleCloud: a digital tool to watermark and identify AI-generated images. 🖼️
It will be available on Imagen, one of @Google’s latest text-to-image models.
Here’s how it works. 🧵 https://t.co/p8s5XK5Ekr #GoogleCloudNext pic.twitter.com/0hixO5ehJo
— Google DeepMind (@GoogleDeepMind) August 29, 2023
AI generované obrazy sú známe aj ako “syntetické obrazy” a ako sme už naznačili na začiatku, rozlíšiť ich od reálnych fotografií alebo obrazov je čoraz náročnejšie. Generatívna umelá inteligencia v sebe ukrýva obrovský potenciál hlavne v kreatívnej sfére, no zároveň môže v nesprávnych rukách slúžiť na šírenie dezinformácií. Nemusí však ísť len o človeka, ktorý nepravdu šíri úmyselne s cieľom zmiasť alebo ublížiť, no nepravdivé informácie sa môžu internetom šíriť aj omylom. Stačí napríklad, aby niekto našiel generovaný obraz a automaticky ho považoval za pravdu.
Jedným riešením je potlačenie schopností umelej inteligencie, no nie je práve najšťastnejšie riešenie. Hoci dnes už vieme, že o pár rokov bude AI schopná generovať veci, ktoré si ani len nevieme predstaviť, ak by sme jej mali klepnúť po prstoch, potom v prvom rade nemalo zmysel začínať s jej vývojom. Experti v oblasti umelej inteligencie sa však zhodujú na tom, že potrebujeme niečo, čo by nám pomohlo kontrolovať čo je skutočné a čo už nie.
Neprehliadnite
Identifikovanie AI generovaných obrazov
Preto vyvinuli nástroj, ktorý nám umožňuje využívať schopnosti umelej inteligencie zodpovedne. SynthID umožňuje identifikovať AI generovaný obsah, no zatiaľ nie je dokonalý. Ako priznávajú vývojári, zatiaľ si nedokáže poradiť s extrémnymi manipuláciami obrazu.
Vodoznaky sa používajú už dlhú dobu a stretol sa s nimi už každý z nás. Môže ísť o text cez obrázok alebo priehľadné symboly na digitálnych fotografiách. Tradičné vodoznaky ale nestačia na identifikáciu AI obrazov dostatočne. Aplikujú sa totiž podobne ako pečiatka a možno ich jednoducho odstrániť. Väčšie vodoznaky sa odstraňujú ťažšie, no zároveň ovplyvňujú celkovú estetiku obrazu.
SynthID používa formu vodoznaku, ktorá nenarúša kvalitu obrazu. Zároveň dovoľuje odhaliť AI generovaný obraz aj keď sa naň pridajú rôzne filtre, zmenia sa farby, alebo sa zníži jeho kvalita. Systém využíva dva modely hĺbkového učenia, jeden na vytváranie vodoznaku a druhý na jeho identifikáciu. Tieto dva modely trénovali spolu a tým zlepšovali nielen nenápadnosť vodoznaku, ale aj schopnosť jeho identifikácie.
Systém po preskúmaní obrazu vyhodnotí situáciu a poskytne užívateľovi jeden z troch možných výsledkov. Buď SynthID vodoznak našiel alebo nie, čo znamená, že konkrétny obraz pravdepodobne generovala/negenerovala umelá inteligencia. Môže sa stať, že si systém nie je istý a v tomto prípade poradí, aby sa daný obraz používal opatrne. SynthID zatiaľ funguje na obrazoch generovaných platformou Imagen.
Komentáre