Komu prezradíme citlivé údaje skôr, človeku alebo stroju? Štúdia poukazuje na vzrastajúci problém
Ľudia majú tendenciu dôverovať strojom viac ako ľuďom a to by sa mohlo stať problémom v dôsledku zrýchleného nárastu systémov AI.
Technológie a hlavne umelá inteligencia dnes majú dôležitú úlohu, no niet pochýb, že v budúcnosti bude ich úloha oveľa väčšia. Niekto má na to pozitívny názor, niekto zas negatívny, no ako dokázal výskum vedcov z Penn State Univesity, ľudia majú tendenciu veriť viac strojom ako ľuďom, čo sa týka ich osobných informácií a prístupu k finančným dátam.
Autori štúdie vo svojom výskume zistili, že ľudia skôr odovzdali číslo kreditnej karty a ďalšie citlivé údaje počítačovému cestovnému agentovi ako človeku. Postrehli, že v spoločnosti prevláda názor, že počítačom možno veriť viac a sú bezpečnejšie ako ľudia. Výskumníci sa domnievajú, že táto dôvera vychádza z presvedčenia, že stroj nešíri klebety a nemôže mať sám od seba s našimi dátami vedľajšie úmysly. Autori štúdie však upozorňujú, že v budúcnosti by naša dôvera v stroje mohla byť zneužitá. Rovnako si ľudia riadne neuvedomujú, že za vývojom týchto algoritmov stoja ľudia.
Podvodníci by mohli vytvoriť systémy, ktoré by v podstate pracovali ako phishingové platformy, teda získavali by od nás osobné alebo platobné informácie. Už dnes môžeme pozorovať obrovské množstvo podobných podvodov. V budúcnosti by sa mohli podvodníci vydávať za dôveryhodné zdroje a zneužiť fakt, že oveľa jednoduchšie poskytneme osobné informácie stroju ako inému človeku.
Vedci naznačujú, že ostražitosť a sebauvedomenie budú jednoducho čoraz dôležitejšími aspektmi predchádzania kybernetickým útokom a iným aktivitám zlých aktérov s rastom AI a robotiky na trhoch po celom svete.
„Naša práca by mala varovať ľudí, aby boli neustále obozretní pri práci v online priestore. Mali by vedieť o skrytej tendencii veriť stroju viac a keď s podobným systémom budú pracovať, mali by si dať väčší pozor,“ tvrdí Shyam Sundar, jeden z autorov štúdie.
Dôležitá je etickosť
Poznatky z tejto štúdie by však mohli vývojári využiť aj na vytvorenie platforiem s lepším užívateľským rozhraním. V tomto smere by mohli napríklad pomôcť ľuďom s platbami cez internet. Autori štúdie vysvetľujú, že ak vývojár navrhne určitý automatizovaný systém, potom by bolo lepšie ak by išlo čisto len o strojový systém, do ktorého v žiadnom bode nezasahuje človek.
Neprehliadnite
„Navrhnutie čisto umelého systému môže pomôcť obzvlášť v prípadoch, kde by ľudský zásah mohol priniesť nepredvídateľné alebo nežiadúce výsledky,“ vysvetlil Sundar.
Samozrejme, že navrhnúť takýto systém má svoje vlastné problémy. Podľa Sundara je však najdôležitejšie, aby boli vývojári etickí. Nemali by sa teda pokúšať získať od ľudí informácie bez ich vedomia.
V rámci experimentu vedci pracovali so 160 dobrovoľníkmi. Tí si v prvej fáze mali vybrať, či chcú používať strojového asistenta alebo človeka. Následne vyhľadávali a kupovali letenky online. Keď našli vhodný let, asistent ich požiadal o číslo kreditnej karty. Dobrovoľníci následne museli popísať do akej miery mali problém poskytnúť tieto citlivé údaje človeku alebo stroju.
Autori štúdie vo výskume pokračujú. V ďalších krokoch sa pokúsia zistiť našu dôveru k umelej inteligencií alebo robotom.
Komentáre