Známa AI aplikácie otvára hackerom dvere do zariadenia. Bezpečnostný expert ukázal závažné slabiny v populárnej aplikácii
Bezpečnostný expert poukázal na mimoriadne závažné slabiny, ktoré má AI platforma Microsoft Copilot. Hackeri ich môžu voľne zneužívať.
Bezpečnostní výskumník menom Michael Bargury počas najnovšej Black Hat konferencie odhalil niekoľko mimoriadne závažných slabín, ktoré sa týkajú platformy Microsoft Copilot. Zároveň ukázal aj rôzne spôsoby, akými môžu hackeri tento AI nástroj zneužiť.
Ako informuje portál Cyber Security News, odhalenie týchto slabín je varovaním aj pre ostatné organizácie, aby prehodnotili bezpečnostné opatrenia ich AI platforiem. Jedna z najnebezpečnejších slabín platformy Copilot dovolila útočníkom použiť pluginy na inštaláciu zadných dvierok do interakcií užívateľov s AI. Touto metódou dokážu kyberzločinci ukradnúť dáta obetí a využívať techniky sociálneho inžinierstva s pomocou AI.
Využitím schopností platformy Copilot dokáže hacker v utajení vyhľadať a získať prístup k citlivým dátam. To sa mu podarí obídením tradičných bezpečnostných opatrení, ktoré sa zameriavajú na ochranu súborov a ochranu dát. Ako bezpečnostný výskumník poukazuje, kyberzločinci dokážu zmeniť správanie Copilota cez injekciu promptov. Inými slovami povedané, hackeri dokážu zmeniť odpovede AI tak, aby umelá inteligencia slúžila hackerom.
Copilot má vážne bezpečnostné nedostatky
Microsoft Copilot bol navrhnutý tak, aby dokázal zjednodušiť úlohy tým, že dokáže spolupracovať s Microsoft 365 aplikáciami, teda Wordom, Excelom, PowerPointom a ďalšími. Hackeri však dokážu umelú inteligenciu zmanipulovať tak, aby AI vykonala škodlivé aktivity.
Najnebezpečnejším aspektom zneužitia umelej inteligencie je manipulovanie užívateľov pomocou umelej inteligencie. Hackeri môžu využiť Copilota na vytvorenie presvedčivých phishingových e-mailov. Tým dokážu lepšie presvedčiť obete, aby hackerom prezradili citlivé informácie.
Neprehliadni
LOLCopilot
Na demonštráciu hrozby, ktorú predstavuje AI platforma Microsoft Copilot, vytvoril Bargury aj špeciálny nástroj, ktorý nazval LOLCopilot. Ide o nástroj, ktorý je navrhnutý pre etických hackerov. Tí môžu cez nástroj simulovať útoky a lepšie pochopiť potenciálne hrozby, ktoré Copilot predstavuje.
LOLCopilot dokáže fungovať na akomkoľvek zariadení, ktoré umožňuje spoluprácu umelej inteligencie Copilot s platformou Microsoft 365. Prostredníctvom tohto nástroja Bargury ukázal, ako môžu hackeri využiť phishing a iné útoky, aby získali prístup k užívateľským dátam a nezanechali v systéme žiadne stopy ich činnosti.
Demonštrácia útoku ukázala, že predvolené bezpečnostné nastavenia služby Microsoft Copilot sú nedostačujúce na to, aby sa podobným útokom zabránilo. Microsoft Copilot je služba, ktorá dokáže pristupovať a spracovať obrovské množstvo dát. Práve preto predstavuje vážne riziko, obzvlášť ak nie sú povolenia pre umelú inteligenciu starostlivo nastavené.
Organizáciám bezpečnostný expert radí implementovať robustné zabezpečenie. Pod toto zabezpečenie spadajú napríklad pravidelné bezpečnostné kontroly, viacfaktorové overenie a prísne regulovaný prístup k dátam na základe pracovnej úlohy. Zároveň Bargury radí, aby spoločnosti vzdelali svojich zamestnancov ohľadom potenciálnych rizík, ktoré predstavujú AI nástroje, ako napríklad Copilot.
Kontroverzia ohľadom AI nástrojov
V posledných mesiacoch sa veľa hovorilo aj o ďalšej AI funkcii Microsoftu, ktorá sa dostane do najnovších Copilot+ počítačov. Ide o funkciu Recall, ktorá by s pomocou umelej inteligencie dokázala užívateľom pomôcť vyhľadať čokoľvek, čo na zariadení za poslednú dobu robili.
Recall funguje tak, že každých pár sekúnd vytvorí počítač snímku obrazovky. Tá sa pošle do špeciálneho AI neurónového procesora, kde z nej umelá inteligencia vytiahne relevantné údaje. Následne sa stačí umelej inteligencie opýtať otázku a ona vám pomôže aj na základe toho, čo videla na vašom počítači.
Ak si myslíš, že fotiť obrazovku tvojho zariadenia každých pár sekúnd je zásah do súkromia, nie si sám. Množstvo bezpečnostných analytikov označilo funkciu Recall za dokonalý špehovací nástroj. Microsoft priznal, že funkcia Recall nemá filter obsahu, čiže zachytí aj citlivé údaje, ako číslo karty alebo heslá.
Tieto mimoriadne citlivé dáta sú na tvojom počítači dešifrované, čo znamená, že stačí aj jednoduchý malvér a hacker bude vedieť o všetkom, čo si za posledné mesiace robil. Nehovoríme ani o tom, že stále je vo vzduchu riziko, že k týmto dátam bude mať prístup aj samotný Microsoft.
Komentáre