Vedci varujú pred „posmrtným priemyslom“: Digitalizácia zosnulých musí mať prísne pravidlá
Viaceré spoločnosti sa pohrávajú s myšlienkou vytvárania digitálnych avatarov zosnulých ľudí. To môže mať gigantický dopad na naše duševné zdravie.
Priali by ste si, aby vaši blízki existovali večne a mohli by ste sa s nimi porozprávať cez digitálnych avatarov, ktorých poháňa umelá inteligencia?
Viaceré spoločnosti sa pohrávali s myšlienkou digitalizácie zosnulého človeka. Funguje to tak, že umelej inteligencií poskytnete fotografie, videá, textové správy či iné informácie zosnulého a na základe toho vám vytvorí model, ktorý vám dovolí sa s blízkou osobou rozprávať aj po smrti. Príkladom môže byť takzvaný ThanaBot.
Experti na etiku a umelú inteligenciu však pred touto technológiou varujú. Zastávajú sa názoru, že komunikácia s digitálnym avatarom zosnulého človeka môže narušiť prirodzený proces trúchlenia. Popri tom môže viesť k psychologickým problémom. Umelá inteligencia dnes stále “halucinuje” teda môže si vymýšľať nesprávne odpovede, no zároveň môže aj veľmi jednoducho nepochopiť kontext danej informácie o zosnulom.
Vedci sa obávajú toho, že ak ide o veľmi blízku osobu, smútiaci človek si môže s digitálnym avatarom vytvoriť naozaj silné puto. To môže v najextrémnejších prípadoch viesť k drastickým situáciám. Smútiaca osoba by sa mohla nechať prehovoriť avatarom aby ublížila sebe, niekomu inému, alebo aby sa riadila vyslovene zlou radou.
Táto sféra priemyslu potrebuje prísne pravidlá
Výskumníci z University of Cambridge na základe týchto rizík navrhli vytvorenie bezpečnostných protokolov, ktoré by tomuto “posmrtnému priemyslu” nedovolili spôsobiť psychologické alebo sociálne škody.
Neprehliadni
Od prvotných pokusov sa objavili aj ďalšie platformy, ktoré vám umožňujú simulovať reč a osobnosť zosnulého človeka na základe digitálnej stopy, ktorú po sebe zanechal. Autori štúdie sa obávajú, že platformy ako “DeadBots” alebo “GriefBots” sú predzvesťou priemyslu, ktorý bude obchodovať s posmrtným životom.
“Ak človek súhlasí s digitálnym zvečnením po smrti, výsledné digitálne avatary môžu spoločnosti využiť na to, aby pozostalých spamovali nevyžiadanými notifikáciami, pripomienkami alebo aktualizáciami. Je to, akoby vás stalkoval mŕtvy človek,” tvrdia vedci.
Ďalšie riziko spočíva v samotnej interakcií s takýmto chatbotom. Človek v ňom môže spočiatku nájsť komfort, no každodenná interakcia predstavuje obrovskú emočnú záťaž.
Výskumníci v práci demonštrujú možné riziká na hypotetickej službe “MaNana”. Ide o chatbota, ktorý dokáže simulovať zosnulú starú mamu. Výskumníci vysvetľujú, že ak by takáto služba existovala, dospelý vnuk by ju mohol použiť a bol by ohromený tým, ako táto technológia funguje. MaNana by však po skončení skúšobnej verzie začala vnukovi hlasom a štýlom reči starej mamy nahovárať, aby si objednal jedlo z konkrétneho podniku.
Vedci v tomto prípade varujú, že pozostalí si môžu vytvoriť s takouto simuláciou emočné puto. Vtedy sa stávajú náchylnými na manipuláciu. Problematické však môže byť aj vypnutie služby. Celkovo vedci tvrdia, že zatiaľ neexistujú žiadne pravidlá, ktoré by túto sféru AI použitia regulovali. Tieto pravidlá ale potrebujeme, pretože AI priemysel s “oživovaním zosnulých” má obrovský potenciál uštedriť naozaj tvrdú ranu nášmu psychickému zdraviu.
Komentáre