Nová prelomová AI dokáže zlikvidovať toxické komentáre skôr, než ich vôbec uvidíš
Prelomový model strojového učenia s presnosťou 87,6 % mení pravidlá hry v boji proti toxickým komentárom na sociálnych sieťach. Vďaka pokročilej analýze jazyka dokáže odhaliť nenávistný obsah s minimom falošných poplachov.
Prelomový model strojového učenia, vyvinutý tímom vedcov z Austrálie a Bangladéša, prináša revolúciu v odhaľovaní toxických komentárov na sociálnych sieťach. S pozoruhodnou 87,6% presnosťou tento model otvára cestu k bezpečnejším digitálnym interakciám. Na tému upozornil portál TechXplore.
Výskumníci z East West University v Bangladéši a University of South Australia predstavili svoj model na Medzinárodnej konferencii o inováciách a inteligencii pre informatiku, výpočtovú techniku a technológie v roku 2024. Ich model prekonáva existujúce systémy automatickej detekcie, ktoré často produkujú falošné pozitívne výsledky, a to bez potreby manuálnej identifikácie škodlivých komentárov.
Model využíva pokročilé techniky spracovania prirodzeného jazyka na analýzu textových vzorcov a identifikáciu potenciálne škodlivého obsahu. Na rozdiel od súčasných metód moderácie obsahu používaných na sociálnych sieťach, ktoré sa často spoliehajú na kľúčové slová alebo jednoduché algoritmy, tento nový prístup berie do úvahy kontext a nuansy jazyka, čo vedie k presnejším výsledkom.
Otázkou na mieste je, ako vo výsledku bude taká sieť vyzerať
„Masívny nárast kyberšikany a nenávistných prejavov v posledných rokoch vedie k vážnym problémom duševného zdravia, sebapoškodzovaniu a v extrémnych prípadoch aj k samovraždám,“ upozorňuje vedúca autorka, odborníčka na dátovú vedu Afia Ahsan.
Odstránenie toxických komentárov z online sietí je nevyhnutné pre obmedzenie eskalujúceho zneužívania a zabezpečenie úctyhodných interakcií. Podľa nedávnej štúdie Pew Research Center sa počet prípadov kyberšikany medzi mladými ľuďmi za posledných päť rokov zdvojnásobil, pričom až 59% tínedžerov uvádza, že zažilo nejakú formu online obťažovania.
Tím testoval tri modely strojového učenia na súbore údajov anglických a bengálskych komentárov z platforiem ako Facebook, YouTube a Instagram. Optimalizovaný algoritmus dosiahol presnosť 87,6 %, čím prekonal ostatné modely s presnosťou 69,9 % a 83,4 %.
Neprehliadni
„Náš optimalizovaný model SVM (Support Vector Machine) bol najspoľahlivejší a najefektívnejší, čo z neho robí preferovanú voľbu pre nasadenie v reálnych scenároch,“ vysvetľuje výskumník v oblasti IT a AI, Abdullahi Chowdhury.
SVM je technika strojového učenia, ktorá sa používa na klasifikáciu a regresiu, a je obzvlášť účinná pri analýze textových dát.
Takáto AI prináša mnoho výhod
Implementácia tohto modelu v reálnom prostredí sociálnych médií by mohla priniesť významné výhody. Pre používateľov by to znamenalo bezpečnejšie a príjemnejšie online prostredie s menším množstvom toxického obsahu. Prevádzkovatelia platforiem by mohli efektívnejšie moderovať obsah, znížiť náklady na manuálnu moderáciu a zlepšiť celkovú kvalitu interakcií na svojich platformách.
Napriek sľubným výsledkom je dôležité zvážiť aj etické aspekty automatizovanej detekcie obsahu. Existuje riziko nadmernej cenzúry alebo nesprávnej klasifikácie neškodných komentárov ako toxických. Výskumníci zdôrazňujú potrebu pravidelného hodnotenia a vylepšovania modelu, aby sa minimalizovali tieto riziká.
Budúci výskum sa zameria na zlepšenie modelu integráciou techník hlbokého učenia a rozšírením súboru údajov o ďalšie jazyky a regionálne dialekty. Tím tiež hľadá partnerstvá so spoločnosťami sociálnych médií a online platformami na implementáciu tejto technológie. „Naším cieľom je vytvoriť online priestor, kde sa ľudia cítia bezpečne a môžu slobodne vyjadrovať svoje názory bez strachu z obťažovania alebo zneužívania,“ dodáva Ahsan. „Tento model je významným krokom týmto smerom, ale je to len začiatok. S pokračujúcim výskumom a spoluprácou s priemyslom veríme, že môžeme dosiahnuť ešte vyššiu presnosť a širšie pokrytie.“
Implementácia tejto technológie by mohla priniesť revolúciu v moderovaní online obsahu, znížiť náklady na manuálnu moderáciu a významne zlepšiť kvalitu online diskusií. Pre sociálne médiá a online platformy to predstavuje príležitosť na vytvorenie bezpečnejšieho a pozitívnejšieho prostredia pre svojich používateľov, čo môže viesť k zvýšenej spokojnosti používateľov a dlhodobej lojalite.
Komentáre