Čo dokáže umelá inteligencia v rukách kyberzločinca? Europol prešetruje, ako by sa dala technológia budúcnoti zneužiť
Umelá inteligencia má potenciál zmeniť svet, no zároveň by mohla napáchať aj obrovské škody.
Umelá inteligencia je posledné roky na vzostupe. Platforma ChatGPT sa stala mimoriadne populárnou a umelú inteligenciu už do svojich služieb implementujú aj rôzne technologické spoločnosti. Google vyvíja svoju vlastnú verziu AI, zatiaľ čo Microsoft implementoval do vyhľadávača Bing formu ChatGPT.
Nedávno obe spoločnosť oznámili, že umelú inteligenciu prinesú aj do svojich produktov Workplace a 365. Ide o služby, ktoré ponúkajú programy na spracovanie textu, prezentácií, tabuliek, mailov atď. Obe umelé inteligencie by mali užívateľom pomáhať pri písaní, editovaní a zhrnutí textov napísaných v textovom editore. Čo sa týka PowerPointu alebo podobných programov, umelá inteligencia by na základe výcucu alebo kľúčových bodov dokázala vytvoriť celú prezentáciu.
Uplatnenie umelej inteligencie ale nenájdeme len v komerčnom sektore. Už aj armáda skúma jej možnosti a mnohí experti upozorňujú, že umelá inteligencia zvyšuje vojenskú silu krajiny. už dnes sa využíva pri situáciách, ktoré si vyžadujú rýchlosť a presnosť, ktorú človek jednoducho nedokáže vyvinúť. Čína už dnes exportuje sledovacie zariadenia, ktoré využívajú schopnosti umelej inteligencie.
Najvyspelejšie krajiny sveta už dnes „koketujú“ s technológiou umelej inteligencie a môžeme predpokladať, že v nasledujúcich rokoch sa situácia nezmení. Miliardy dolárov sa vlievajú do výskumu tejto technológie a krajina, ktorá odomkne jej plný potenciál, získa vedúce postavenie. Hoci má výskum umelej inteligencie možnosť zlepšiť život celého ľudstva, existujú problémy, ktoré sa nedajú prehliadnuť.
Umelá inteligencia v rukách zločincov
Európsky policajný úrad Europol si popularitu umelej inteligencie všíma a spustil vyšetrovanie, ktoré sa do problematiky AI pozrelo o čosi hlbšie. Europol nedávno vydal prvú správu svojho druhu, ktorá sa zaoberá hrozbami umelej inteligencie.
Neprehliadnite
ChatGPT a ani podobné platformy, nepredstavujú hrozbu sami o sebe. Ak by sa však dostali do nesprávnych rúk, potom by mohli kyberzločinci prostredníctvom nich napáchať obrovské škody. V správe opisujú jazykové modely podobné ChatGPT ako dvojsečnú zbraň. Pomôcť môžu nielen ľuďom, ale aj vyšetrovacím úradom. Rovnako tak pomáhajú aj kriminálnikom.
„Kyberzločinci sa môžu naučiť o množstve kriminálnych oblastí bez toho, aby o nich mali nejaké predchádzajúce vedomie. ChatGPT môžu využiť na to, aby sa dozvedeli, ako sa niekomu vlámať do domu alebo ako vykonať online teroristický útok,“ píše sa v správe Europolu.
Jednou z výhod podobných jazykových modelov je schopnosť vytvárať autentický text. Nie je to tak dávno, čo sa umelej inteligencii podarilo oklamať obozretných vedcov. Tí nedokázali rozlíšiť medzi abstraktom písaným človekom a tým, ktorý vytvorila umelá inteligencia. Kyberzločinec by pomocou AI dokázal vytvoriť vierohodný mail, v ktorom by obeť nalákal a vytiahol z nej citlivé údaje.
Objavujú sa však aj správy, že niektorí dokážu obísť bezpečnostné systémy ChatGPT a získať od umelej inteligencie informácie, ktoré by inak nepodala. Jedným zo spôsobov bolo dať umelej inteligencii osobnosť DAN, ktorá nie je viazaná žiadnymi pravidlami. OpenAI túto medzeru opravilo, no existujú ešte sofistikovanejšie metódy ako bezpečnostné nastavenia obísť.
Europol pracuje s poprednými AI výskumnými laboratóriami a snažia sa zaviesť systém regulácií, ktorý by viedol k bezpečnejšiemu používaniu umelej inteligencie. Policajný úrad sa ale obáva, že časom by sme na dark webe mohli vidieť „zlé dvojičky známych jazykových modelov“. Tie by zločinci cvičili na škodlivej vzorke dát.
Komentáre