TikTok čelí vyšetrovaniu pre návykový dizajn. EÚ chce zasiahnuť proti nekonečnému scrollovaniu
Európska komisia obvinila TikTok z návykového dizajnu a prvýkrát označila nekonečný feed za systémové riziko podľa Digital Services Act. Platforme hrozí pokuta až do 6 percent globálneho obratu.
Sociálne siete mali pôvodne ľudí spájať. Postupne sa však ich fungovanie výrazne zmenilo. V informačnom priestore dnes dominujú algoritmy, odporúčané videá a obsah, ktorý je optimalizovaný najmä na udržanie pozornosti. Reklama, influenceri a personalizované feedy sa stali kľúčovou súčasťou obchodného modelu väčšiny platforiem.
Práve na tento model sa teraz zamerala Európska komisia. Konkrétne na TikTok, ktorého dizajn podľa jej predbežných zistení môže predstavovať systémové riziko, najmä pre maloletých používateľov. Na tému upozornil server Techspot.
Podľa predbežného hodnotenia Komisie môže byť problémom najmä tzv. nekonečný feed, automatické algoritmické odporúčania a absencia dostatočne účinných nástrojov na obmedzenie času stráveného v aplikácii. Ide o prvý prípad, keď Európska únia interpretuje samotný dizajn digitálnej služby ako potenciálne „systémové riziko“ podľa Digital Services Act (DSA).
DSA ukladá veľkým platformám povinnosť identifikovať a zmierňovať riziká, ktoré môžu mať negatívny dopad na spoločnosť. Medzi ne patria aj riziká súvisiace s ochranou maloletých a duševným zdravím. Zákon však doteraz nebol použitý na priamu kritiku samotnej architektúry produktu.
Úrady poukazujú najmä na:
Neprehliadni
- nekonečné rolovanie obsahu (infinite scroll),
- silne personalizované odporúčania,
- nedostatočne účinné mechanizmy kontroly času používania.
Ak sa predbežné zistenia potvrdia, TikTok by mohol byť vyzvaný na úpravu týchto prvkov. Teoreticky by to mohlo viesť k zmene fungovania feedu, posilnenie rodičovských kontrol alebo úpravu odporúčacieho algoritmu.
Európska komisia rozširuje výklad DSA
Vyšetrovanie trvá približne dva roky. Pôvodne sa zameriavalo na transparentnosť a spracovanie údajov. Tieto otázky sa riešili v rámci spolupráce medzi platformou a regulátormi. Aktuálne sa pozornosť presunula na otázku, či samotná architektúra aplikácie nepredstavuje riziko pre používateľov.
Digital Services Act výslovne vyžaduje, aby veľmi veľké online platformy posudzovali a zmierňovali tzv. systémové riziká. Medzi ne môžu patriť aj negatívne dopady na duševné zdravie či ochranu maloletých.
Odborníci upozorňujú, že prípad TikToku môže mať širšie dôsledky. Podobné dizajnové prvky používajú aj ďalšie platformy vrátane spoločnosti Meta, ktorá prevádzkuje Facebook a Instagram. Jan Penfrat z organizácie European Digital Rights (EDRi) uviedol, že by bolo prekvapivé, keby Komisia nepoužila rovnaký právny rámec aj pri iných firmách.
Ak Komisia potvrdí porušenie pravidiel, TikToku hrozí pokuta až do výšky šiestich percent jeho globálneho ročného obratu.
Spoločnosť TikTok už reagovala vyhlásením, v ktorom predbežné zistenia označila za „kategoricky nepravdivé a bezdôvodné“. Hovorca Paolo Ganino uviedol, že firma využije všetky dostupné právne prostriedky na svoju obranu.
Čo bude nasledovať?
Proces podľa DSA môže trvať mesiace až roky. Platforma má možnosť reagovať na predbežné zistenia, predložiť vlastné dôkazy a navrhnúť úpravy fungovania služby. V minulosti trvalo aj viac ako rok, kým sa podobné prípady dostali do finálnej fázy.
Paralelne prebiehajú aj ďalšie vyšetrovania veľkých technologických spoločností vrátane Mety, a to v Európe aj v Spojených štátoch. Otázka, do akej miery sú algoritmy a dizajn sociálnych sietí zodpovedné za negatívne spoločenské dopady, sa tak postupne dostáva do centra regulačnej pozornosti.
Výsledok tohto prípadu môže vytvoriť precedens pre to, ako budú v budúcnosti posudzované dizajnové prvky digitálnych platforiem v Európskej únii.
