WhatsApp bude analyzovať tvoje správy, aby ťa ochránil pred podvodníkmi. Meta tvrdí, že ich pritom neuvidí
WhatsApp testuje Scam Alert, novú funkciu, ktorá rozpozná podvodné správy priamo v telefóne a upozorní ťa bez odosielania obsahu chatu na servery Mety.
Podvodníci na WhatsApp menia taktiku podľa toho, čo práve funguje. Vydávajú sa za známych, banky či kuriérske firmy, skúšajú sociálne inžinierstvo a do správ už zapájajú aj obsah vytvorený umelou inteligenciou. WhatsApp preto začal testovať novú funkciu Scam Alert, ktorá má podozrivú konverzáciu rozpoznať priamo v telefóne. Text správ sa kvôli tejto kontrole neposiela na servery WhatsAppu ani Mety. Vyhodnotenie prebieha v zariadení.
Scam Alert je zatiaľ iba v obmedzenej beta fáze. WhatsApp ho zároveň dáva preverovať bezpečnostným výskumníkom zo svojej Bug Bounty komunity, ktorí v systéme hľadajú chyby a možnosti, ako by sa dal obísť. Meta už zverejnila aj podrobný technický opis toho, čo sa pri analýze správ deje na pozadí.
WhatsApp bude podozrivé správy kontrolovať ešte predtým, než na ne zareaguješ
Po zapnutí Scam Alert si WhatsApp stiahne do telefónu malý model strojového učenia. Kontroluje prichádzajúce správy od ľudí, ktorých nemáš uložených medzi kontaktmi. Nehľadá pritom iba konkrétne slová. Sleduje aj jazykové signály a priebeh konverzácie, ktoré sa podobajú na vzory známe z podvodných chatov nahlásených používateľmi.
Pri každej takejto komunikácii model počíta pravdepodobnosť, že ide o podvod. Nejde ale o definitívny verdikt. Keď mu správa pripadá podozrivá, WhatsApp ti priamo v chate zobrazí varovanie, ktoré druhá strana neuvidí. Potom sa rozhodneš, či odosielateľa zablokuješ, chat nahlásiš alebo budeš pokračovať ďalej.
Samozrejme, model sa môže pomýliť. Chat vtedy označíš ako dôveryhodný, varovanie zmizne a Scam Alert ho už znova nebude označovať. WhatsApp ti pri tom ponúkne aj možnosť dobrovoľne odoslať posledných päť prijatých správ, aby mohol presnosť systému ďalej zlepšovať. Bez tvojho rozhodnutia sa obsah konverzácie automaticky nikam neposiela.
Neprehliadni
WhatsApp si stráži, koľko falošných poplachov Scam Alert vyrába
WhatsApp však potrebuje vedieť, či Scam Alert neupozorňuje aj na úplne nevinné správy. Preto sleduje, čo ľudia po zobrazení varovania urobia. Neodosiela si pritom samotnú konverzáciu, ale iba jednoduché počty — napríklad koľkokrát sa varovanie zobrazilo a koľko ľudí následne chat označilo za dôveryhodný alebo ho zablokovalo.
Predstav si, že nová verzia Scam Alert začne zrazu zobrazovať výrazne viac upozornení a veľká časť používateľov ich označí za omyl. WhatsApp tak dostane signál, že model pravdepodobne niečo vyhodnocuje nesprávne. Firma pritom nevidí správu, ktorá upozornenie vyvolala, ani obsah konkrétneho chatu.
Aj tieto štatistiky prejdú ešte pred odoslaním ďalšou ochranou. WhatsApp ich spracúva v zabezpečenom prostredí TEE, ktoré má byť oddelené od zvyšku infraštruktúry. Podľa Mety sa tak k jednotlivým údajom nedostanú ani jej vlastní pracovníci. Telefón navyše dáta neodošle, pokiaľ si neoverí, že komunikuje so schváleným systémom.
WhatsApp následne výsledné čísla ešte mierne „rozmaže“ pomocou techniky nazývanej differential privacy. Do štatistík sa pridá malé množstvo matematického šumu, aby z nich nebolo možné spätne vyčítať správanie jedného konkrétneho človeka. Firma tak vidí hlavne celkový trend — napríklad či Scam Alert začal robiť priveľa falošných poplachov.
Scam Alert nebude čierna skrinka. WhatsApp zverejňuje jeho váhy
WhatsApp ide ešte ďalej a zverejňuje aj váhy modelu. Bezpečnostní výskumníci si ich môžu preskúmať a overiť, či bol model skutočne vytvorený len na rozpoznávanie podvodov a nerobí niečo navyše.
Každá verzia modelu, vrátane experimentálnych variantov, sa musí ešte pred nasadením objaviť vo verejnom transparenčnom logu. WhatsApp zároveň tvrdí, že ani Meta nedokáže vybrať konkrétneho človeka a poslať iba jemu špeciálne upravený model.
Hoci sa model sťahuje zo serverov, požiadavky na jeho stiahnutie majú byť anonymizované. Pri testovaní si navyše samotné zariadenie náhodne vyberie experimentálnu skupinu, do ktorej patrí. WhatsApp tak môže skúšať nové verzie bez aktualizácie celej aplikácie, no každý použitý model musí byť vopred verejne zaznamenaný.
Priamo v telefóne si budeš môcť skontrolovať aj to, čo Scam Alert robil. V technickej dokumentácii WhatsApp opisuje transparency logs dostupné cez Account > Request Info > Scam Alert Activity. Nájdeš tam výsledok analýz aj verziu modelu, ktorá ich vykonala. Používateľ tak nemusí iba veriť tvrdeniu Mety, ale dostane aj vlastný záznam o činnosti funkcie.
Účet ti môžu uniesť aj bez prelomenia šifrovania
WhatsApp už pred Scam Alert riešil aj podvody, pri ktorých sa útočník snaží dostať priamo do cudzieho účtu. V marci preto Meta pridala varovanie pri podozrivom prepájaní nového zariadenia. Podvodník totiž môže obeť presvedčiť, aby naskenovala QR kód alebo zadala párovací kód a tým mu sama povolila prístup.
Takto funguje napríklad GhostPairing. Útočník nemusí prelomiť šifrovanie WhatsAppu. Stačí, keď obeť oklame a pripojí svoj telefón alebo počítač k jej účtu ako ďalšie zariadenie. Potom sa môže dostať aj k správam.
Začiatkom roka WhatsApp predstavil aj „Strict Account Settings“, teda prísnejší režim ochrany pre ľudí, ktorí môžu byť terčom profesionálnych útokov. Ide najmä o novinárov, verejne známe osoby či aktivistov. Práve proti takýmto ľuďom sa v minulosti používal aj spyware Pegasus od spoločnosti NSO Group.
Scam Alert je zatiaľ iba v obmedzenej bete. WhatsApp neuviedol, kedy ho sprístupní všetkým ani v ktorých krajinách ho teraz testuje. Najväčšia skúška ho preto ešte len čaká: rozoznať podvodníka bez toho, aby pri každej trochu nezvyčajnej správe vystrašil aj bežného používateľa.
