Vrece s podvodmi, kedy útočníci budú vo veľkom zneužívať AI, sa roztrhne už čoskoro! Pripravte sa na novú vlnu podvodov!
Nová štúdia varuje, že už v polovici tohto roka by sa mohli AI podvody objavovať častejšie, než by sme si priali.
Podvody na internete nie sú nič nové a možno vás neprekvapí ani to, že podvodníci už teraz začali využívať umelú inteligenciu na to, aby vás oklamali o niečo lepšie. Dôveryhodnejšie phishingové správy, hlasové klony či malvér na počkanie predstavuje len niekoľko spôsobov, ako môžu kyberzločinci AI systémy využívať.
Experti predpokladajú, že počas roku 2024 sa počet AI podvodov zvýši a môžu sa stať rovnako bežnými, ako obyčajné podvody. Ako vysvetľujú vedci z George Washington University’s Columbian College of Arts and Sciences, AI podvody by sa mohli stať bežnou záležitosťou už v polovici tohto roka.
Vedci sa zároveň obávajú toho, že AI podvody a dezinformácie by mohli ovplyvniť výsledky volieb.
“Všetci hovoria o nástrahách umelej inteligencie, no len málo vedcov sa pozrelo na tento problém do hĺbky. Nemôžeme vyhrať bitku, ak dokonale nepoznáme bojisko,” vysvetľuje vedúci štúdie, Neil Johnson.
Johnson predpovedá, že umelá inteligencia sa bude na podvody používať celosvetovo. Znepokojivé je, že podvodníci nepotrebujú sofistikované umelé inteligencie na to, aby mohli klamať ľudí. Stačia im len jednoduché systémy GPT. Nepotrebujú nové verzie ako GPT3 a GPT4, ktoré sú už o niečo lepšie chránené proti nekalým praktikám.
Dezinformácie a podvody
Už dnes vám dokáže umelá inteligencia navrhnúť škodlivý kód alebo pripraviť phishingový mail. Zaujímavosťou je, že hoci vám phishingový mail nevytvorí priamo, ak sa jej opýtate, aby vám poskytla príklad phishingového mailu, aby ste sa mohli lepšie chrániť, v tom prípade vám ho bez problémov napíše. Takto “oklamať” môžete umelú inteligenciu rôznymi spôsobmi.
Neprehliadnite
Podvodníci využívajúci umelú inteligenciu dokážu pomocou nej vytvoriť lepšie preklady phishingových mailov, no zároveň aj vytvoriť presvedčivejšie správy. Druhý spôsob, ako podvádzať pomocou AI sú takzvané hlasové klony. Stačí len pár minút vášho hlasu a podvodník dokáže vytvoriť presvedčivú imitáciu, ktorou môže skúsiť podviesť vašu rodinu alebo známych.
Zároveň však môžu politicky motivované skupiny vytvárať naozaj presvedčivé dezinformácie. Umelá inteligencia pomáha vytvárať napríklad lepšie deepfake zábery. Touto cestou môžu podvodníci vytvoriť podobizeň politika a dať mu do úst slová, ktoré v živote nepovedal. Aj na Slovensku sa môžete stretnúť s podobným obsahom, hoci v tomto prípade je jasné, že ide o vtip. Ak by sa táto technológia použila na napáchanie škody, človek by nedokázal spoľahlivo rozpoznať čo je pravda a čo nie.
Nová štúdia naznačuje, že AI podvody sa stanú dennou záležitosťou už v lete tohto roku. Výskumníci sa k tomuto výsledku dopracovali na základe historických a technologicky podobných incidentov. Autori zároveň upozorňujú sociálne siete na to, aby už teraz hľadali spôsoby, ako zabrániť šíreniu AI generovaných dezinformácií. Riešením podľa autorov ale nie je odstraňovanie všetkého obsahu.
Komentáre