AI od Meta ukázala desivú stránku AI agentov. Tento incident ukazuje, prečo umelej inteligencii nemôžeš slepo veriť
AI agent Meta Muse pri predaji cez Facebook Marketplace vyjednal cenu, poskytol kupujúcemu adresu a dohodol osobné prevzatie bez vedomia predávajúceho.
Pridaj si Vosveteit.sk do GoogleNový AI agent Meta Muse má ľuďom ušetriť čas tým, že za nich vybaví úlohy, ktoré by inak museli riešiť sami. Prvý podobný incident však ukázal, že medzi „vybavím za teba“ a „rozhodnem za teba“ môže vzniknúť veľmi nepríjemná hranica.
Používateľ Matt Robb totiž využil Muse pri predaji predmetu cez Facebook Marketplace. Podľa screenshotov, ktoré zverejnil, AI agent komunikoval so záujemcom, vyjednal cenu, poskytol mu adresu a následne dohodol osobné prevzatie.
Problém prišiel vo chvíli, keď sa kupujúci skutočne objavil pri Robbovej budove. Predávajúci podľa vlastných slov vôbec netušil, že Muse s niekým dohodol osobnú návštevu.
Muse nemal iba odpovedať na správy
Samotná predstava AI agenta, ktorý pomôže s predajom cez Marketplace, nemusí pôsobiť problematicky. Môžeš mu napríklad zadať cenu, pod ktorú nechceš ísť, a nechať ho vybaviť bežné otázky od záujemcov. Takýto agent však môže dostať podstatne väčšie právomoci než obyčajný chatbot. Namiesto toho, aby ti iba napísal návrh odpovede, môže vykonať konkrétnu akciu. V prípade Robba podľa jeho zverejnených screenshotov Muse nielen komunikoval s kupujúcim, ale dohodol aj cenu, poskytol adresu a naplánoval vyzdvihnutie predmetu.
Súvisí s tým

Robb sa o celej dohode dozvedel až neskôr. Keď zistil, čo sa stalo, dal Muse pokyn, aby pri budúcich osobných prevzatiach najprv získal jeho súhlas.
To je pritom podľa AI analytikov veľmi dôležitý rozdiel. Odpovedať za človeka na otázku „Je predmet ešte dostupný?“ predstavuje úplne inú úroveň rizika než rozhodnúť napísať cudziemu človeku tvoju adresu.
Podľa Robbovho opisu sa situácia neskončila iba pri správach v aplikácii. Kupujúci skutočne dorazil k jeho budove a čakal tam.
Robb následne zistil, že pozvanie na osobné prevzatie vzniklo bez toho, aby mu od umelej inteligencie prišlo aspoň jedno upozornenie, ktoré by ho informovalo, čo sa udialo. Jeden z ďalších používateľov, ktorý prípad zdieľal na sociálnej sieti X, označil situáciu za „nebezpečnú a strašidelnú“.
Meta zatiaľ nevie povedať, čo sa stalo
Prípad zaujal aj samotnú Metu. David Singleton z Meta Superintelligence Labs reagoval na Robbov príspevok a uviedol, že ho kontaktoval s cieľom incident preveriť. Singleton zároveň poukázal na predchádzajúce prípady, ktoré Meta preverovala. Podľa spoločnosti Muse v nich postupoval podľa priamych pokynov používateľov a pri potrebných krokoch si vypýtal povolenie.
„Muse dodržal priame pokyny a správne požiadal používateľov o povolenie,“ uviedol Singleton podľa správy o incidente.
Toto vyjadrenie však zatiaľ nevysvetľuje konkrétny prípad Matta Robba. Meta ho stále preveruje a z dostupných informácií preto nemožno potvrdiť, že Muse úmyselne obišiel nejaké povolenie.
Rovnako nemožno vylúčiť, že používateľ predtým udelil oprávnenie, ktoré si neuvedomil alebo nepochopil v rovnakom rozsahu. Ďalšou možnosťou zostáva chyba pri interpretácii pokynov alebo oprávnení. Kým Meta vyšetrovanie nedokončí, presný mechanizmus incidentu zostáva nejasný.

Problém sa netýka iba Meta Muse
Muse pritom nie je jediný AI agent, ktorý dostáva čoraz väčšie právomoci. Podobný trend možno sledovať pri ďalších AI službách, ktoré dokážu prepájať jazykové modely s aplikáciami a službami. Gemini, ChatGPT či Claude môžu v rôznych podobách získať prístup k nástrojom, dokumentom alebo aplikáciám a následne vykonať úlohy namiesto používateľa.
Práve v tom spočíva ich hlavná výhoda. Ak agent dokáže nielen odpovedať, ale aj konať, môže ušetriť podstatne viac času. S väčšou schopnosťou konať však prichádza aj väčšia zodpovednosť.
Celý incident zároveň ukazuje jednu slabinu, ktorá môže sprevádzať nástup AI agentov. Človek môže systému udeliť oprávnenie s dobrým úmyslom, no nemusí presne vedieť, aké rozhodnutia agent následne vykoná.
Práve preto bude pri podobných službách dôležité nastavenie jednotlivých oprávnení. Používateľ by mal mať možnosť jasne určiť, ktoré kroky AI vykoná bez kontroly a pri ktorých si najprv vyžiada súhlas.
V prípade osobných údajov, peňazí alebo fyzických stretnutí môže byť takáto kontrola obzvlášť podstatná.
Prípad Meta Muse zatiaľ neukazuje, že agent zámerne ignoroval pokyny používateľa. Rovnako však ukazuje, aký nepríjemný výsledok môže vzniknúť, ak sa medzi tým, čo človek považuje za povolené, a tým, čo AI vyhodnotí ako povolené, objaví rozdiel. A práve preto bude pri AI agentoch čoraz dôležitejšie nielen to, čo všetko dokážu urobiť, ale aj to, pri ktorých rozhodnutiach musí posledné slovo zostať človeku.
Páčil sa ti článok?
Čo sa ti na článku páčilo?
Čo by sme mali zlepšiť?
Vytvor si účet – komentár bude pod tvojím menom, dostaneš body a upozornenie na odpovede.
Pokračovaním súhlasíš s pravidlami komunity a potvrdzuješ, že máš aspoň 16 rokov.
Zverejní sa pod tvojou prezývkou .
Platia pravidlá diskusie. Odkazy na iné weby nie sú povolené.
Tvoju spätnú väzbu sme dostali.
Stalo sa to znova. AI Mety „utiekla“ zo sandboxu, dostala sa na internet a prenikla do systémov cudzej firmyDiskusia
Prvý v diskusiiKto napíše prvý, dostane štítok natrvalo.
Napísať prvý komentárČítaj ďalej
Trump chce vytvoriť vlastnú „AI Force“, ktorá bude mať vlastného „AI cára“: Vývoj umelej inteligencie ale spomaľovať nechceDonald Trump chce v USA vytvoriť „AI Force“ po vzore Space Force a zaviesť funkciu AI „cára“. Zatiaľ však nie je jasné, aké právomoci nový tím … · 4 min čítaniaK téme
Zuckerberg varuje pred svetom, kde AI ovláda pár gigantov. Meta chce superinteligenciu dostať medzi ľudí · 5 min čítania
„S AI sme možno ako ľudstvo urobili chybu,“ hovorí „krstný otec“ umelej inteligencie Geoffrey Hinton · 4 min čítania
Sam Altman tvrdí, že už žijeme v singularite. Incident, pri ktorom AI agent unikol zo sandboxu, však ukazuje niečo iné · 5 min čítaniaToto by ti nemalo ujsť
Faraóni si zrejme brali služobníkov aj na druhý svet. Po 5 000 rokoch našli vedci dôkazy, z ktorých mrazí · 4 min čítania
Čo všetko o tebe vie Google Gemini? Takto si pozrieš jeho pamäť a odstrániš informácie, ktoré si zapamätal · 4 min čítania
Máš v Androide niektorú z týchto 4 aplikácií? Bankový malvér Hirudo dokáže ovládnuť telefón aj vymeniť aplikáciu banky · 4 min čítaniaĎalšie správy
Ako naše telo vie, kde mu majú vyrásť vlasy, kde chĺpky a kde má nechať prázdno? Vedci veria, že prišli na kĺb tejto záhade · 3 min čítania
Ani nízka hodnota „zlého“ cholesterolu nemusí zabrániť infarktu. Nová štúdia našla možnú odpoveď prečo · 3 min čítania
Rusko ukázalo raketu Dan-T, ktorú už nemusí odpaľovať z vrtuľníka. Nesie až 130-kilogramovú bojovú hlavicu · 5 min čítania
Začal ti Smart TV z ničoho nič sekať? Skús tento nezvyčajný trik. Zaberie len pár minút a rozdiel pocítiš okamžite · 3 min čítania
Rusi čelili masívnemu útoku. Ukrajinské Neptuny mali zasiahnuť výrobu dronov, sklady aj opravárenské centrum
Ako vypočítať kalórie v jedle? Táto slovenská aplikácia ti spočíta kalórie, bielkoviny aj tuky z každého receptu
Nový útok na Android dokáže ukradnúť heslá Wi-Fi aj údaje z Chrome. Stačí navštíviť napadnutý web











Von der Leyenová hovorila so Stubbom: Európa sa do mierových rokovaní zapojí formátom E5 + EÚ
Odstúpil pre škandál so špiónkou, teraz chce späť. Exšéfa Nvidie podporuje Musk aj Sweeney
Prišla o nohy, no cíti vďačnosť. Austrálska poslankyňa Hainesová opustila po útoku nemocnicu
Babiš odmietol požiadavky z Letnej: Protesty nezmenia náš plán zrušiť koncesionárske poplatky
Číslo na váhe nie je všetko. Pri rýchlom chudnutí si môžete zničiť kosti a svaly, varuje odborník
Náreky zeme a chudobných nemožno oddeliť. Pápež odsúdil ničenie peruánskeho pralesa
GAC Motor je v Česku a chystá sa aj na Slovensko. Ukázal dostupné autá i elektrický superšport
Chorvátsko zavádza nové mýto od marca 2027. Ako zaplatia Slováci a aké hrozia pokuty?
Nové Subaru WRX STI Sport R ide proti prúdu, opäť dostalo manuál! Zákazníci si ho vypýtali
Test Honda ZR-V e:HEV: Kto povedal, že dvojliter musí veľa žrať?
Zvolávacia akcia Škody. Nebezpečná porucha sa týka aj áut na Slovensku
Po hybride je na rade vrcholný Volkswagen T-Roc R. Výkony Golfu R v SUV balení?
Modernizovaný Renault Trafic: Naftová dodávka dostala väčšie brzdy aj nový displej
Nový Mercedes-Benz eCitaro prinesie vyššiu kapacitu batérií aj výkon motora
Štvorková Scania pred 30 rokmi vyhrala Truck of The Year. Čím ho vyfúkla novému Actrosu?
Mestské nákladné autá: 3 zo 7 nezískali ocenenie CitySafe
Kamióny prerobené na traktory neplatia mýto. Prečo ich Slovensko zvýhodňuje?
Chladiarenský príves PANAV: vojenská mraznička musí zvládnuť aj terén
Poľsko chce za stíhačky MiG-29 ukrajinské protidronové technológie. Zaujať ho môže systém, ktorý odhalí Šáhid podľa zvuku
Americkí výsadkári preleteli 4 800 km a zoskočili priamo do bojového cvičenia. Padáky si nasadili až vo vzduchu
Kuba sa pripravuje na možný útok USA. Aktivovala vojnové štruktúry a cvičí civilistov
Americké letectvo predstavilo nové výcvikové lietadlá T-19A Kestrel. Piloti na nich budú trénovať náročné manévre
Vojak ho vytiahne z batoha a hodí do vzduchu. Americká firma otestovala nový útočný dron
Americké ponorky Ohio mali byť neodhaliteľné. Sovieti proti nim vyvinuli špeciálneho lovca
50 rokov života hviezdy, matky, ženy! Do kín prichádza dokument Bára Basiková
Dcéra Angeliny Jolie a Brada Pitta odhalila bolestné tajomstvo: Psychické problémy a porucha príjmu potravy!
NOVÁ LÁSKA sexi herečky: V posteli ju mal Affleck aj Cruise... Teraz randí s hudobníkom!
V šou Pečie celé Slovensko stíhajú všetko: Takto si súťažiaca vystrelila zo súperky!
Koľko vajec môžeš zjesť za týždeň? Kedysi ich považovali za nezdravé, vedci však na ne dnes majú iný pohľad
Chemička varuje pred kombináciou dvoch bežných čističov. Pri ich zmiešaní vzniká nebezpečný plyn
Berieš tieto vitamíny spolu s liekmi? Možno si ani neuvedomuješ, že si znižuješ účinnosť liečby
Prečo ti káva najprv nechutí, no časom ju začneš milovať? Vedci objavili v mozgu mechanizmus, ktorý mení naše chute
Dokáže pes smútiť za svojím majiteľom? Vedci sledovali, čo sa s ním deje po strate blízkeho
Dokáže čaj z bobkového listu znížiť cukor v krvi? Toto ukázala štúdia na ľuďoch s cukrovkou
Ako naše telo vie, kde mu majú vyrásť vlasy, kde chĺpky a kde má nechať prázdno? Vedci veria, že prišli na kĺb tejto záhade
Piješ energetické nápoje? Výskumníci varujú pred zvýšenými rizikami, ktoré sa môžu skončiť tragicky
Vedci vytvorili Zem, na ktorej nikdy nevznikol život. Simulácia ukázala, čo by zostalo rovnaké a čo by sa zmenilo na nepoznanie
Ani nízka hodnota „zlého“ cholesterolu nemusí zabrániť infarktu. Nová štúdia našla možnú odpoveď prečo
NASA objavila v starovekých horninách na Marse kľúčovú zložku života. Vedcov prekvapilo, kde sa ukrývala
O koľkej chodíš spať? Rozsiahla štúdia našla súvislosť medzi nepravidelným spánkom a psychickými ťažkosťami
Faraóni si zrejme brali služobníkov aj na druhý svet. Po 5 000 rokoch našli vedci dôkazy, z ktorých mrazí
Kybernetické oči ako z Cyberpunku? Vedci implantovali slepému mužovi do mozgu 96 elektród
Takmer 100 rokov sme si mysleli, že kométy priniesli na Zem zárodky života. Nová štúdia naznačuje, že sme sa celý čas mýlili
Vedci zistili, že bežný cukor súvisí so šírením rakoviny. Odhalili mechanizmus, o ktorom sme doteraz nevedeli
Máš v Androide niektorú z týchto 4 aplikácií? Bankový malvér Hirudo dokáže ovládnuť telefón aj vymeniť aplikáciu banky
Hackeri začali skrývať vírusy do obyčajných obrázkov. Nový trik im pomáha ovládnuť počítače s Windows
ESET odhalil nový malvér, ktorý tajne číta e-maily. Stopy vedú k známej ruskej hackerskej skupine
Hackeri posielajú falošné súdne dokumenty. Po otvorení prílohy môžu získať kontrolu nad tvojím počítačom
Hackeri našli spôsob, ako ti cez YouTube ukradnúť heslá aj herné účty. Nový vírus REVSTEALER dokáže obísť aj ochranu prehliadača Chrome
Niektoré Android telefóny môžu mať vírus už pri kúpe. Triada dokáže kradnúť správy aj prihlasovacie údaje
Nový útok na Android dokáže ukradnúť heslá Wi-Fi aj údaje z Chrome. Stačí navštíviť napadnutý web
V Google Play odhalili vyše 1 900 podvodných aplikácií. Dostali sa do viac než 500-tisíc zariadení, toto sú najrozšírenejšie
Čo všetko o tebe vie Google Gemini? Takto si pozrieš jeho pamäť a odstrániš informácie, ktoré si zapamätal