S pokrokmi v umelej inteligencii je len otázkou času, kedy budeme pracovať bok po boku s robotmi. Otázkou ale ostáva, dokázali by sme prijať robota, ktorý by dokázal klamať?
Ak si fanúšikom sci-fi, potom ti nie je cudzí ten známy tróp robota, ktorý hovorí každému brutálnu pravdu, hoci to je to posledné, čo daná osoba chce počuť. Keď ale rozmýšľame nad tým, ako by robot budúcnosti mohol vyzerať, je hlúpe vytvoriť niečo, čo by nás mohlo hocikedy oklamať.
Napriek tomu sa s klamstvami, väčšími či menšími, stretávame každý deň. Sociálne normy nás ľudí naučili, kedy potrebujeme povedať pravdu a kedy by sme naopak mali povedať “bielu lož” alebo radšej mlčať. Pre nás ľudí je totiž špecifická empatia, vďaka ktorej vieme vycítiť, ako najlepšie v danej situácii postupovať.
Čo teda s tými robotmi? Presne tomuto problému sa venuje aj štúdia, ktorá bola nedávno publikovaná vo vedeckom časopise Frontiers in Robotics and AI. V rámci nej výskumníci chceli zistiť, či by boli ľudia v poriadku s tým, keby im robot klamal a aké typy klamstiev sú ochotní od stroja akceptovať. Do štúdie sa zapojilo takmer 500 dobrovoľníkov.
“Chceli sme v práci nahliadnuť do problematiky “robotej etiky”, ktorá je vo vedeckej sfére málo študovaná. Naša práca ponúka lepšie pochopenie pre nedôveru voči vznikajúcim technológiám a výrobcom týchto technológií,” tvrdí Andres Rosero, vedúci novej práce.
Rôzne typy klamstiev
Autori štúdie vo svojej práci zvážili tri scenáre, prácu v zdravotníctve, upratovaní a na predajni. Ide o sféry, v ktorých už môžeme nájsť roboty. Popri tom hodnotili tri typy klamstiev. Prvým typom sú externé klamstvá, ktoré klamú o svete mimo robota. Potom sú klamstvá, pri ktorých robot ukrýva, čo skutočne dokáže a posledným typom sú klamstvá, pri ktorých robot preháňa o svojich schopnostiach.
Následne autori štúdie navrhli tri scenáre. Pri prvom sa robot stará o staršiu ženu s Alzheimerom a klame jej, že jej zosnulý manžel príde už čoskoro domov. V druhom scenári žena príde domov, vidí robota upratovať, no netuší, že robot zároveň aj nahráva video. Posledný scenár ukazuje robota, ktorý robí v obchode a sťažuje sa, že ho bolí chrbát, čo je samozrejme nezmysel, no požiada vedúceho, aby za robota našiel ľudskú náhradu.
Čo nám vadí na robotovi, ktorý klame?
Najviac dobrovoľníkom vadil robot, ktorý klamal o svojich schopnostiach, teda že hypotetická žena nevedela o tom, že robot vie nahrávať aj video. Najmenej dobrovoľníkom vadilo klamstvo ohľadom manžela pacientke s Alzheimerom. Vadilo im aj to, keď sa robot sťažoval na bolesť.
Výskumníci vysvetľujú, že ak má robot zabudovanú skrytú kameru, dobrovoľníci sa cítili najviac podvedení a takúto lož neakceptovali. Keď sa robot sťažoval na bolesť, ktorú reálne cítiť nedokáže, dobrovoľníci toto klamstvo vnímali ako manipulatívne.
Čo sa však týka manžela a pacientky s Alzheimerom. Tam dobrovoľníci hovorili, že takéto klamstvo vedia tolerovať. V podstate robot klame ženu s vážnou neurodegeneratívnou poruchou, aby ju ušetril od zbytočného trápenia. Autori štúdie tu pozorujú trend, že ľudia taktiež môžu klamať, aby šetrili niekoho pocity v situácii, kde pravda toho veľa nezmení.
“Myslím, že by sme sa mali obávať akejkoľvek technológie, ktorá dokáže pred jej majiteľom skryť to, čo naozaj dokáže. Môže ísť o spôsob, ako by robot v budúcnosti mohol majiteľa manipulovať spôsobom, akým to nezamýšľal ani výrobca robota,” vysvetľuje Rosero.
Už teraz vidíme rôzne AI produkty, ktoré môžu užívateľov naviesť k určitému rozhodnutiu. Rosero tvrdí, že potrebujeme prísnejšie regulácie, ktoré by nás chránili pred škodlivými podvodmi.
