OpenAI oficiálne potvrdilo, že ich technológiu zneužívajú hackeri. Situácia je vážna
OpenAI oficiálne potvrdzuje, že ich technológiu, ChatGPT, aktívne zneužívajú hackeri pri rôznych typoch útokov.
Nie je žiadnym tajomstvom, že umelá inteligencia nám dokáže vo výraznej miere zjednodušiť život. Ak pracuješ s počítačom a veľkým množstvom dátových súborov, tak AI je dokonalým nástrojom, ako si môžeš uľahčiť prácu. Môžeš ju ale využiť aj v bežnom života, napríklad, keď potrebuješ poradiť s nejakým problémom. Jedným z najlepších prístrojov je ChatGPT, ktorý sa teší veľkej obľube a to aj u nás.
Dlhšie sa hovorí o tom, že tento nástroj zneužívajú aj hackeri či online podvodníci. Hoci táto technológia má určite bezpečnostné opatrenia, aby nedochádzalo k jej zneužívaniu, tak ako ukázal náš nedávny experiment, umelej inteligencii stačí len položiť úlohu „okľukou“. Napríklad, ak sa opýtaš umelej inteligencii, či ti pomôže vytvoriť phishingový e-mail, tak odmietne. Ak sa jej ale opýtaš, ako vyzerá takýto e-mail a či ti neukáže, ako môžeš vyzerať, aby si predišiel tomu, že sa staneš obeťou tohto podvodu, tak na počkanie ti vytvorí podvodný e-mail.
Umelá inteligencia pomáha online kriminálnikom
Najnovšie OpenAI zverejnilo správu, v ktorej konštatuje to, čo sme všetci tušili. Umelú inteligenciu zneužívajú hackeri a online podvodníci. Na tému upozornil web bleepingcomputer.com. Spoločnosť ale hlási, že aktívne proti zneužívaniu ich technológie bojuje a neplánuje v tomto úsilí poľaviť.
„Sme odhodlaní identifikovať, predchádzať a rušiť pokusy o zneužívanie našich modelov na škodlivé účely.“, uvádza OpenAI v publikovanej správe.
Spoločnosť hovorí, že si je vedomou toho, že ich umelú inteligenciu zneužívajú podvodníci a to napríklad na to, aby vyzvárali falošné kampane. Na druhej strane experti zo spoločnosti hovoria, že proti tomuto zneužitiu aktívne bojujú.
„Od začiatku roka sme prerušili viac ako 20 operácií a podvodných sietí z celého sveta, ktoré sa pokúšali použiť naše modely.“, uvádza gigant. „Pri pohľade do budúcnosti budeme pokračovať v práci naprieč našimi spravodajskými, vyšetrovacími, bezpečnostnými a politickými tímami, aby sme predvídali, ako môžu zlomyseľní aktéri využívať pokročilé modely na nebezpečné účely, a vhodne plánovali kroky na to, aby sme tomu zabránili.“, dopĺňa.
Samozrejme, podvodníci umelú inteligenciu spoločnosti nezneužívajú len na to, aby vytvárali falošné kampane a šírili dezinformácie. Rovnako ju využívajú aj pri písaní škodlivých kódov, bohužiaľ.
Neprehliadni
Hackeri použili ChatGPT aj proti OpenAI
Expertom na bezpečnosť sa napríklad podarilo odhaliť, že umelú technológiu hackeri využili napríklad pri písaný spywaru Rhadamanthys. Podľa všetkého za týmto stáli hackeri zo skupiny známej ako TA547.
OpenAI upozorňuje aj na kampaň „SweetSpecter“, za ktorou stoja čínski útočníci. Títo hackeri dokonca mierili priamo na nich. Vytvárali phishingové e-maily so škodlivými prílohami ZIP maskovanými ako žiadosti o podporu na osobné e-mailové adresy zamestnancov spoločnosti. Ako otvorili e-maily, tak prílohy spustili infekčný reťazec, čo viedlo k tomu, že SugarGh0st RAT padol na systém obete.
Vyšetrovanie tohto útoku zamestnancami spoločnosti neskôr ukázalo, že útočníci zneužili ich nástroj ChatGPT pri realizácii útoku.
„Po ďalšom vyšetrovaní OpenAI zistilo, že SweetSpecter používal skupinu účtov ChatGPT, ktoré vykonávali výskum skriptovania a analýzy zraniteľnosti pomocou nástroja LLM.“, píše web, ako bola zneužitá služba ChatGPT.
Pre nás používateľov odhalenie spoločnosti OpenAI znamená, aby sme boli viac obozretní, útoku do budúcnosti budú totiž čoraz sofistikovanejšie.
Komentáre