Umelá inteligencia Googlu podstrkuje užívateľom falošné stránky: Dávajte si pozor, na čo klikáte!
SEO špecialisti postrehli, že vo výsledkoch generovaných AI modelom sa objavujú aj podvodné stránky. Na čo si dať pozor?
Spoločnosť Google už dávnejšie oznámila plány pridať podporu umelej inteligencie do vyhľadávania a hoci sa táto funkcia postupne rozbieha, zdá sa, že má jednu výraznú chybu. Užívateľom odporúča stránky s malvérom.
Na incident upozorňuje portál Bleeping Computer. Presnejšie umelá inteligencia Googlu odporúča užívateľom podvodné Chrome rozšírenia, falošné rozdávačky iPhonov či stránky venujúce sa podvodu s technickou podporou. Umelá inteligencia sa do Google vyhľadávania dostáva prostredníctvom funkcie Search Generative Experience, skrátene SGE. Funguje to tak, že keď zadá užívateľ do vyhľadávania určitú frázu, Google poskytne krátky sumár vytvorený umelou inteligenciou, v ktorom by sa mali nachádzať relevantné odkazy na stránky. Namiesto nich tam užívatelia častokrát vidia falošné portály.
Po prvýkrát si túto chybu všimla SEO expertka Lily Ray. Hlbšia analýza odhalila, že podvodné stránky používajú príponu “.online”, rovnaké HTML šablóny a rovnaké stránky, ktoré presmerujú užívateľa na podvodnú stránku. Bezpečnostní analytici vysvetľujú, že podobnosť týchto falošných portálov naznačuje, že všetky stránky vznikli v rámci rovnakej SEO kampane, ktorá im dovolila dostať sa do indexu Google.
Seeing it too @lilyraynyc. SGE recommending the two spam sites *ahead* of actual Craigslist in the overview and then include them both in the roundup carousel below. Wild.
The also rank page 1 along with others.
SGE isn't ready. Google isn't ready… pic.twitter.com/NW7crDtTMW
— Will O'Hara 👨🏽💻 (@willohara) March 23, 2024
Ak užívateľ klikne na falošný odkaz, ten ho niekoľkokrát presmeruje, až kým sa nedostanú na podvodnú stránku. V rámci testov sa ukázalo, že najčastejšie podvodné odkazy končia na falošných captcha alebo YouTube stránkach. V rámci týchto podvodov sa útočníci pokúšajú presvedčiť obeť, aby si zapla nevyžiadané upozornenia v prehliadači.
Neprehliadnite
Dávajte si pozor na to, čo vám umelá inteligencia navrhne
Falošné upozornenia patria k najčastejším taktikám online podvodníkov. Cez ne obete zaplavia nevyžiadanými reklamami. Medzi ne patria falošné výhry iPhonu alebo oznámenia, že máte v zariadení malvér. Tieto reklamy sa vám zobrazujú aj keď nepoužívate prehliadač. Riziko predstavuje kliknutie na jednu z takýchto falošných reklám. V tomto prípade sa môžete stať obeťou podvodu napríklad z technickou podporou. V horších prípadoch sa vám cez stránku stiahne do zariadenia zákerný malvér.
Experti upozorňujú, že väčší problém je to, ako umelá inteligencia odpovedá na požiadavky užívateľa. AI odpovedá priateľským a konverzačným tónom, pričom užívateľovi hovorí, že ak sa chce dozvedieť viac, stačí kliknúť na priložené odkazy. Zatiaľ nie je známe, ako sa tieto výsledky s nízkou kvalitou dostali do odporúčania umelej inteligencie.
Užívatelia by však mali byť neustále na pozore. S umelou inteligenciou interagujeme čoraz častejšie, no nemôžeme sa spoliehať na to, že nám zakaždým poskytne relevantné odporúčanie. Podvodné stránky v SGE sú toho jasným príkladom.
Spoločnosť Google tvrdí, že neustále aktualizuje svoje systémy a upravuje hodnotiace algoritmy. Tie nás majú chrániť pred spamom. Podvodníci však stíhajú s technologickým gigantom držať krok a neustále nachádzajú spôsoby, ako preniknúť cez bezpečnostné opatrenia. Google sa zároveň vyjadril, že už odstránil všetky podvodné stránky, ktoré experti uviedli ako príklad.
Komentáre