Používaš ChatGPT na písanie textov? OpenAI do nich pridá skrytú stopu, podľa ktorej ich bude možné odhaliť
OpenAI začne v EÚ pridávať do textov z ChatGPT neviditeľný watermark. Pozri sa, ako funguje, čo dokáže odhaliť a kde má limity.
Pridaj si Vosveteit.sk do Google
Text, ktorý ti vygeneruje ChatGPT, môže po novom obsahovať neviditeľnú digitálnu značku. OpenAI ju začne v najbližších týždňoch pridávať do podporovaných textových výstupov v Európskej únii, takže sa zmena dotkne aj používateľov na Slovensku. Z bežného pohľadu si pritom na texte nič zvláštne nevšimneš.
Obsah článku · 5 častí
Firma novinku oznámila 5. októbra v súvislosti s pravidlami európskeho AI Actu, ktoré riešia aj označovanie obsahu vytvoreného umelou inteligenciou. Podľa oficiálneho oznámenia OpenAI sa watermark začne objavovať vo výstupoch ChatGPT aj Codexu a týkať sa má používateľov všetkých programov ChatGPT, nielen platených verzií.
Nie každá odpoveď však automaticky dostane takúto značku. OpenAI hovorí o textoch, na ktoré sa nové pravidlo vzťahuje, a výnimky pozná aj samotný AI Act, napríklad pri niektorých úpravách existujúceho textu, ktoré zásadne nemenia jeho obsah alebo význam.
Watermark sa ukryje do spôsobu, akým ChatGPT vyberá slová
V texte nebude žiadny tajný znak, ktorý by si odhalil skopírovaním do iného editora alebo zapnutím zobrazenia skrytých znakov. textGrain zasahuje priamo do toho, ako ChatGPT skladá odpoveď. Pri každom ďalšom tokene, teda slove alebo jeho časti, má model viacero možných pokračovaní a technológia mierne upravuje, po ktorých z nich siahne.

Na jednej vete to nespoznáš. V dlhšom texte sa však množstvo takýchto drobných rozhodnutí začne opakovať a vytvorí štatistickú stopu, ktorú vie hľadať detektor OpenAI. Samotné znenie pritom môže pôsobiť úplne prirodzene.
Súvisí s tým

OpenAI vo svojich benchmarkoch tvrdí, že toto značenie výrazne nezhoršilo výkon modelu Astra. Tento výsledok však zatiaľ pochádza z interného testovania firmy, nie z nezávislého porovnania.
Watermark funguje lepšie pri dlhších textoch, no stále nie na 100 %
Najväčší limit watermarku vidno už v samotných testoch OpenAI. Pri anglických odpovediach z datasetu ELI5 dokázal detektor pri 1 % miere falošne pozitívnych výsledkov zachytiť približne 80 % označených textov s dĺžkou 200 tokenov. Keď mal text 400 tokenov, úspešnosť stúpla približne na 95 %.
Dĺžka teda hrá veľkú úlohu. Token pritom neznamená automaticky jedno celé slovo, model môže slová deliť aj na menšie časti. Pri kratšom texte jednoducho vznikne menej príležitostí na to, aby sa štatistická stopa dostatočne prejavila.
Výsledky navyše nie sú rovnaké pri každom type obsahu. OpenAI nameralo slabšiu detekciu napríklad pri matematických textoch, kde má model pri formulovaní odpovede podstatne menej možností. A zatiaľ nie je dôvod predpokladať, že čísla z anglického datasetu budú vyzerať rovnako aj pri slovenčine.
textGrain pritom nefunguje ako bežné webové AI detektory, ktoré skúšajú z formulácií a štýlu odhadnúť, či text pripomína výstup jazykového modelu. Detektor OpenAI hľadá konkrétnu štatistickú stopu, ktorú systém vložil do textu už počas jeho generovania.
Po výmene štvrtiny slov klesla detekcia z 92 % na 17 %
V ďalšom teste OpenAI zobralo 400-tokenové texty, pri ktorých detektor pôvodne dosahoval približne 92 % úspešnosť. Po nahradení 10 % slov synonymami klesla na približne 66 %. Keď výskumníci zmenili štvrtinu slov, watermark našiel už iba v 17 % prípadov.
Nie je to návod, podľa ktorého stačí prepísať presne 25 % textu a značka zmizne. Výsledok však ukazuje, ako citlivý je takýto systém na následné zásahy do textu. Preklad, výraznejšie preformulovanie či kombinovanie viacerých textov menia práve tie drobné voľby slov, z ktorých textGrain svoju stopu skladá.
Watermark ti neprezradí autora ani pôvodný prompt
Zo samotného watermarku nezistíš meno používateľa, účet, organizáciu, pôvodný prompt ani konkrétnu konverzáciu. Detektor má hľadať iba stopu, že text vytvoril alebo spracoval systém OpenAI.
Nevie pritom povedať, koľko z textu napísal človek sám a koľko neskôr prepísal. Rovnako z neho nezistíš, či je obsah pravdivý, kto k nemu vlastní práva alebo či bol použitý v súlade so zákonom. A keď detektor značku nenájde, ani to ešte nič definitívne neznamená. Text mohol byť príliš krátky, preložený, výraznejšie upravený, vytvorený inou AI službou alebo ešte pred zavedením textGrainu.
OpenAI preto zatiaľ nedáva detektor voľne k dispozícii verejnosti. Prístup majú dostať schválení výskumníci a odborné organizácie, ktoré budú ďalej sledovať jeho presnosť aj prípady, keď označený text nezachytí alebo naopak vyhodnotí nesprávne.
V ChatGPT príde automaticky, pri API si ho vývojári zapínajú sami
V Európskej únii začne OpenAI watermark nasadzovať do oprávnených výstupov ChatGPT a Codexu v priebehu nasledujúcich týždňov. Pri vývojárskom API zostáva situácia odlišná. Watermark si tam možno pri podporovaných modeloch zapnúť aj mimo EÚ, štandardne je však vypnutý.
Firma chce textGrain neskôr uvoľniť aj ako open-source technológiu. Reálnu spoľahlivosť watermarku však preverí až bežné používanie, najmä pri prekladoch a výraznejšie upravených textoch.
Páčil sa ti článok?
Čo sa ti na článku páčilo?
Čo by sme mali zlepšiť?
Vytvor si účet – komentár bude pod tvojím menom, dostaneš body a upozornenie na odpovede.
Pokračovaním súhlasíš s pravidlami komunity a potvrdzuješ, že máš aspoň 16 rokov.
Zverejní sa pod tvojou prezývkou .
Platia pravidlá diskusie. Odkazy na iné weby nie sú povolené.
Tvoju spätnú väzbu sme dostali.
ChatGPT bude odhadovať tvoj vek. OpenAI tvrdí, že nejde ale o sledovanie, no dôvod je vážnyDiskusia
Prvý v diskusiiKto napíše prvý, dostane štítok natrvalo.
Napísať prvý komentárČítaj ďalej
OpenAI údajne chystá vlastný smartfón. Spôsob, akým dnes používaš mobil, by sa mohol zásadne zmeniťOpenAI podľa analytika Ming-Chi Kua pripravuje vlastný smartfón s AI agentmi. Zariadenie by mohlo zmeniť spôsob, akým používame aplikácie, no zatiaľ ide len o nepotvrdené správy. · 3 min čítaniaK téme
OpenAI vzdáva boj s Chrome a Safari. Prehliadač ChatGPT Atlas už o pár týždňov vypne · 3 min čítania
OpenAI predstavilo ChatGPT 5.4: S týmto modelom už nebudeš musieť prácu prerábať na viackrát · 5 min čítania
OpenAI práve zaradilo Slovensko do programu Education for Countries. Sme medzi prvými na svete, ChatGPT sa dostane do škôl · 3 min čítaniaToto by ti nemalo ujsť
Vedci možno vyriešili jednu z najväčších záhad Zeme. Z jej geologickej histórie záhadne zmizli stovky miliónov rokov · 3 min čítania
Piráti môžu naraziť na nepríjemné prekvapenie. Aj obyčajná civilná loď môže dostať výkonný kanón Sea Tridon · 4 min čítania
Vedci objavili horniny staré takmer 4 miliardy rokov. Naše predstavy o tom, ako sa formovala Zem, možno boli nesprávne · 3 min čítaniaĎalšie správy
Nový Android vírus Bazuka ti podstrčí falošnú obrazovku telefónu. Kým nič netušíš, môže ti kradnúť heslá aj peniaze · 4 min čítania
Vedci vytvorili obrovský diamant s priemerom 20 centimetrov. Môže pomôcť vyriešiť jeden z najväčších problémov AI čipov · 3 min čítania
Antarktické ľadovce sa rúcajú rýchlejšie, než vedci čakali. Obávaný domino efekt sa však nemusí dostaviť · 3 min čítania
Nemci ukázali obrnené vozidlo, ktoré sa dokáže maskovať ako iný stroj. Drony má ničiť 30 mm kanónom · 4 min čítania
Aplikáciu Potraviny môžeš po novom prepojiť s inteligentnými hodinkami. Spočíta ti spálené kalórie aj to, koľko ešte môžeš zjesť
Samsung konečne pridáva ochranu, ktorú majitelia Galaxy roky žiadali. Skryje aj tvoje súkromné správy











Pozor na horách: SHMÚ vydal výstrahy pred silným vetrom, v nárazoch môže dosiahnuť až víchricu
Noc divadiel prinesie vyše 90 predstavení, štyri premiéry aj tradičný spoločný potlesk o 19.00 h
Polícia upozorňuje cyklistov na zvýšené riziko šmyku na jeseň, apeluje na reflexné prvky
Asistent ISA iba pípa, nový návrh chce pevnú stopku: Mala by EÚ obmedziť maximálnu rýchlosť áut?
Kyberútoky na kľúčové úrady v USA: Hackeri prenikli do systémov FBI aj ministerstva poľnohospodárstva
Rokovania OSN o regulácii autonómnych zbraní s umelou inteligenciou sa skončili bez dohody
Prvý veterán: Aké autá radšej na začiatku nekupovať?
Rozsiahle uzávery tunela Sitina! Kedy zatvoria najvyťaženejší tunel na Slovensku?
Čínske automobilky na trhu končia už po 1 roku. Často sú stratové
Nové elektrické BMW M3: automobilka konečne odhalila najdôležitejšie technické detaily
Nové Lamborghini Temerario Spyder má 920 koní a strechu, ktorú sme pri tejto značke ešte nevideli
Hongqi HS5 výrazne zlacnelo. Veľké SUV s pohonom 4×4 stojí menej ako 38 tisíc eur
Renault T High Ultimate Edition: Iba 30 kusov pre celú Európu
Autonómny nákladiak zásobuje Lidl. Nemá kabínu ani vodiča
Fuso eCanter rozváža potraviny po Bratislave. Naftu nepotrebuje ani na chladenie
Mercedes eActros 600 ide okolo sveta. Na 45 000 km plánuje najviac 80 nabíjaní
Nový mýtny systém: Preregistrácia štartuje v decembri. Koho čaká výmena jednotky?
Kia PV5 Chassis Cab dostane väčšiu batériu aj výkonnejší motor
Do Poľska vleteli dve ruské strely a dron. Armáda vysvetlila, prečo ich nezostrelila
Rheinmetall chce do roka a pol ukázať bojového humanoida. V Číne má továreň chrliť jedného robota každých 10 minút
Turecko ako prvé zaradilo bezpilotnú stíhačku. Ukrajinský expert ju uprednostňuje pred českým L-39NG
„Nejde o krásu, ale o psychológiu.“ Bývalý agent CIA a údajná ruská špiónka opísali, ako fungujú medové pasce
Drony útočia na lode pri Bulharsku. Armáda vyslala staré Su-25 vyzbrojené neriadenými raketami
Prvé izraelské stíhačky boli československé kópie Messerschmittov. Piloti ich prezývali „mulice“, no pomohli s nimi zastaviť Egypťanov
Ben Stiller a Robert De Niro sa opäť stretnú v legendárnej komediálnej sérii: Všetci fotri sú lotri prichádza do kín 26 rokov od prvého filmu
Frajerka Brada Pitta zažiarila v bielom: Aha, bola by z nej krásna nevesta
Andy Kraus zaskočil divákov: Snívalo sa mu, že rodí... Túži to zažiť aj v skutočnosti
Bývalá hviezda (43) Televíznych novín prekvapuje: Na móle len v sexi spodnej bielizni
Orly dokážu uloviť opice veľké ako malé dieťa. Je možné, že v minulosti lovili aj nás?
Vedci poslali správu cez tehlovú stenu pomocou gravitácie. Nepotrebovali Wi-Fi, rádiové vlny ani kábel
Antarktické ľadovce sa rúcajú rýchlejšie, než vedci čakali. Obávaný domino efekt sa však nemusí dostaviť
Vedci možno vyriešili jednu z najväčších záhad Zeme. Z jej geologickej histórie záhadne zmizli stovky miliónov rokov
Bežný vitamín B12 napravil vývojové poruchy spôsobené genetickou mutáciou v experimente
Vedci vyvinuli „slaný“ gél, ktorý dokáže ukladať teplo. V budúcnosti by mohol výrazne znížiť účty za energie
Môžeme pomocou liekov spomaliť starnutie? Rozsiahla analýza ukázala, čo skutočne funguje
Vedci vytvorili obrovský diamant s priemerom 20 centimetrov. Môže pomôcť vyriešiť jeden z najväčších problémov AI čipov
Kávová usadenina môže jedného dňa poháňať autá. Vedci prišli na spôsob, ako z nej vyrábať biopalivo
Vedci objavili horniny staré takmer 4 miliardy rokov. Naše predstavy o tom, ako sa formovala Zem, možno boli nesprávne
Samsung konečne pridáva ochranu, ktorú majitelia Galaxy roky žiadali. Skryje aj tvoje súkromné správy
V Google Play odhalili vyše 1 900 podvodných aplikácií. Dostali sa do viac než 500-tisíc zariadení, toto sú najrozšírenejšie
Čínski hackeri zdokonalili nebezpečný malvér. Dokáže sa ukryť v počítači a potichu kradnúť citlivé údaje
Čo všetko o tebe vie Google Gemini? Takto si pozrieš jeho pamäť a odstrániš informácie, ktoré si zapamätal
FBI bije na poplach. Hackeri majú v rukách nebezpečný AI nástroj, ktorý dokáže preniknúť do systému za menej než 3 hodiny
Podvody s GTA VI zaplavili internet. Lákajú na lacnejšiu hru aj nevydanú PC verziu, no môžu ti vybieliť účet
Nemecko bije na poplach. Kybernetické hrozby dosiahli kritickú úroveň, hackeri získali vďaka AI nové schopnosti
Nový Android malvér ArcticRAT dokáže ukradnúť PIN a zamknúť ti telefón. Na krádež bankových údajov využíva aj AI model Grok
Nový Android vírus Bazuka ti podstrčí falošnú obrazovku telefónu. Kým nič netušíš, môže ti kradnúť heslá aj peniaze