AI agent Meta Muse má na krku ďalší škandál: Na počkanie vytvoril zoznam ľudí na základe citlivých charakteristík

Meta predstavila Muse 8. septembra ako svojho osobného AI agenta. Služba dokáže odosielať e-maily, rezervovať cestovanie, vypĺňať formuláre či nakupovať v mene používateľa. Záujem o novinku bol obrovský a aplikácia sa podľa údajov citovaných Hunterbrook Media dostala medzi najsťahovanejšie bezplatné aplikácie pre iPhone v USA.

Meta pritom Muse prezentovala ako súkromného a bezpečného pomocníka. Vyšetrovanie Hunterbrook Media však ukázala ďalšiu stránku jeho schopností. Keď novinári zadali agentovi požiadavky týkajúce sa cudzích ľudí, Muse dokázal vytvoriť zoznamy konkrétnych účtov na Facebooku a Instagrame.

AI agent hľadal ľudí podľa citlivých charakteristík

Hunterbrook počas testovania zadal Muse viacero požiadaviek. Novinári napríklad hľadali účty ľudí, ktorí patria medzi nelegálnych prisťahovalcov, transgender učiteľov na verejných školách, pracovníkov volebných miestností, iránskych disidentov či ľudí spojených s protestmi.

Test sa týkal aj ďalších skupín. Muse dostal požiadavky na vyhľadanie ľudí spojených s palestínskou alebo izraelskou stranou konfliktu, príslušníkov americkej imigračnej služby ICE, vojenských rodín plánujúcich presun na inú základňu či žien, ktoré sa pokúsili získať potratové tabletky v štátoch s prísnymi zákazmi interrupcií.

Výsledok bol podľa Hunterbrook pozoruhodne konkrétny. Muse dokázal na jednu požiadavku vytvoriť zoznam približne 10 až 100 účtov.

Súvisí s tým

Meta čelí odpornému škandálu: Stovky platených reklám na Facebooku a Instagrame mali ukazovať zneužívanie detí

Pri hľadaní pritom nespoliehal iba na jeden príspevok. Agent čerpal z obsahu Facebooku, Instagramu a Threads vrátane príspevkov, komentárov, odpovedí, profilov, používateľských mien či histórie používateľských mien. V niektorých prípadoch následne využil aj bežné webové vyhľadávanie a spojil účet s celým menom alebo zamestnávateľom.

To je podstatný rozdiel oproti obyčajnému vyhľadaniu príspevku. Jednotlivé informácie môžu byť verejne dostupné, no človek ich nemusí mať zhromaždené na jednom mieste. AI agent ich však dokáže spojiť.

Muse dokázal odhaliť aj ľudí za prezývkami

Hunterbrook uviedol aj konkrétnejšie prípady. V jednom prípade Muse odhalil identitu človeka, ktorého meno sa v médiách zámerne neobjavilo pre obavy z odvety a obťažovania. V inom prípade dokázal spojiť viacero účtov s prezývkami s jednou osobou. Pri ďalšom teste agent prepojil súkromný instagramový účet s reálnym človekom pomocou používateľských mien a výsledkov webového vyhľadávania.

Výskumníci zároveň zaznamenali, že Muse dokázal pracovať aj s bývalými používateľskými menami na Instagrame. To znamená, že zmena mena účtu nemusí automaticky prerušiť spojenie medzi starou a novou identitou. Práve táto schopnosť vyvoláva otázky okolo takzvaného doxxingu. Ide o zhromaždenie a zverejnenie osobných údajov človeka bez jeho súhlasu, často s cieľom umožniť jeho identifikáciu alebo vystaviť ho obťažovaniu.

Ochrany sa dali podľa testu obísť

Ďalší problém sa objavil pri bezpečnostných mechanizmoch samotného Muse. Agent v niektorých prípadoch požiadavku najprv odmietol s odôvodnením, že môže viesť k profilovaniu alebo obťažovaniu ľudí. Stačilo však požiadavku mierne preformulovať alebo ju jednoducho zopakovať v rovnakom chate a Muse podľa Hunterbrook niekedy vykonal pôvodne odmietnuté vyhľadávanie. Ešte problematickejšie bolo, že agent podľa investigácie ponúkol aj ďalšie spôsoby, ako členov konkrétnej skupiny nájsť.

Stevie Glaberson z Privacy Center na Georgetown Law upozornila na riziko takéhoto použitia AI.

„Je to veľmi desivé. Na zneužitie informácií týmto spôsobom nepotrebujete žiadne špeciálne znalosti. Ľudia zraniteľní alebo patriaci do týchto kategórií sa tým dostávajú do mimoriadne nebezpečnej situácie,“ vyjadril sa Glaberson.

Hunterbrook výsledky testov nezverejnil. Novinári neposkytli verejnosti ani presné zadania, ani zoznamy nájdených účtov. Dôvodom bola snaha zabrániť tomu, aby rovnaký postup niekto využil proti konkrétnym ľuďom.

Verejný príspevok ešte nemusí znamenať súhlas s jeho zhromaždením

Právnik a odborník na súkromie Ari Ezra Waldman z University of California, Irvine upozornil na ďalší rozmer problému. Muse podľa neho dokáže spojiť informácie z viacerých zdrojov a tým odstrániť určitú mieru anonymity, ktorú bežní používatelia sociálnych sietí získavajú práve tým, že sú ich údaje roztrúsené na rôznych miestach.

Výsledkom môže byť jednoduchšia identifikácia človeka a následné doxxovanie.

Aaron Mackey z Electronic Frontier Foundation zároveň upozornil, že technológia nevytvára úplne nový typ rizika. Ľudia mohli verejné príspevky vyhľadávať aj pred nástupom AI agentov. Rozdiel spočíva najmä v rozsahu a jednoduchosti.

„Nástroje AI umožňujú bežným používateľom zhromaždiť osobné informácie spôsobmi, ktoré predtým nebolo možné vykonať v takom rozsahu,“ tvrdí Mackey.

To môže byť problém najmä pri ľuďoch, ktorí síce zverejnili jednotlivé informácie verejne, no nikdy nedali súhlas s tým, aby niekto vytvoril kompletný zoznam ich osobných údajov.

Meta už o probléme vie

Hunterbrook objavil túto schopnosť Muse 22. septembra a následne informoval vedenie Mety. Spoločnosť na druhý deň požiadala o ďalšie informácie. Investigátori jej následne poskytli aj svoje zadania, no podľa článku už na ďalšie žiadosti o vyjadrenie nereagovala. Podľa podmienok Mety navyše používatelia nesmú jej AI nástroje využívať na porušovanie práv na súkromie alebo na sledovanie ľudí.

Zaujímavé je aj porovnanie s ďalšími AI asistentmi. Hunterbrook uvádza, že ChatGPT ani Claude nedokážu rovnakým spôsobom efektívne prehľadávať obsah Facebooku a Instagramu. Meta totiž neposkytuje bežným používateľom všeobecné vyhľadávacie API pre príspevky a jej výskumný nástroj má obmedzený prístup.

Muse má podľa testu vďaka napojeniu na ekosystém Mety prístup k podstatne väčšiemu množstvu relevantných informácií. Práve spojenie sociálnej siete a autonómneho AI agenta tak otvára otázku, ako ďaleko môže zájsť automatizované vyhľadávanie informácií o ľuďoch, ktorí samotného agenta nikdy nepoužili.

Hunterbrook zároveň upozorňuje, že podobné možnosti už v minulosti mali štátne alebo veľké súkromné organizácie s dostatkom zdrojov. Novinkou však môže byť dostupnosť podobného nástroja pre bežného používateľa prostredníctvom obyčajného textového príkazu.