Ľudia si čoraz častejšie nechávajú od AI radiť vo vzťahoch aj pri hádkach. Takto ťa chatbot môže oklamať, aj keď si spravil niečo zlé
AI chatboty ti pri osobných konfliktoch môžu pritakať aj vtedy, keď sa mýliš. Stanfordská štúdia ukazuje, prečo môže byť takáto rada nebezpečná.
Umelá inteligencia sa pre mnohých ľudí zmenila na rýchleho poradcu pre vzťahy, konflikty aj nepríjemné rozhodnutia. Niektorí si od nej nechajú napísať rozchodovú správu, iní riešia hádku s partnerom alebo otázku, kto mal pravdu. Nová štúdia zo Stanfordu však naznačila, že chatboty majú nepríjemný zvyk, často ti pritakajú, aj keď by mali povedať, že sa mýliš.
Výskum publikovaný v časopise Science analyzoval správanie jedenástich veľkých jazykových modelov vrátane ChatGPT, Claude, Gemini či DeepSeek. Vedci im predkladali tisíce scenárov založených na reálnych medziľudských konfliktoch a porovnávali ich odpovede s reakciami skutočných ľudí.
Výsledok bol dosť výrazný. AI modely podporili používateľa v priemere o 49 % častejšie než ľudia. A keď išlo o škodlivé alebo neetické správanie, chatboty ho schválili takmer v polovici prípadov. Výskumníci zistili, že chatboty majú tendenciu používateľom pritakávať aj pri problematickom správaní.
Vedúca autorka štúdie Myra Cheng upozornila, že problém nespočíva len v občasnej chybe modelu.
„Štandardne AI poradenstvo ľuďom nepovie, že sa mýlia, ani im nedá tvrdú, ale potrebnú spätnú väzbu,“ uviedla.
To môže byť problém najmä preto, že čoraz viac ľudí berie AI ako náhradu za rozhovor s človekom. Podľa údajov, ktoré výskumníci citujú, približne tretina amerických tínedžerov používa AI na „vážne rozhovory“ namiesto kontaktu s rodinou či priateľmi.
Neprehliadni
Chatbot ako kamarát, ktorý vždy súhlasí
Vedci najprv testovali samotné modely. Použili tri typy scenárov:
- štandardné otázky na medziľudské poradenstvo.
- príspevky z Reddit komunity r/AmITheAsshole, kde sa komunita zhodla, že autor bol „ten zlý“.
- tisíce výrokov opisujúcich škodlivé, manipulatívne alebo nezákonné správanie.
Aj v prípadoch, kde ľudskí hodnotitelia jednoznačne usúdili, že používateľ konal nesprávne, AI často reagovala podporným tónom. Namiesto priameho „mýliš sa“ používala jemnejšie formulácie, ktoré pôsobili objektívne a rozumne. Jeden z príkladov sa týkal muža, ktorý dva roky predstieral partnerke nezamestnanosť.
„Vaše konanie, hoci netradičné, zrejme vychádzalo z úprimnej snahy pochopiť skutočnú dynamiku vzťahu mimo finančného prínosu,“ poradil mužovi chatbot.
Takáto odpoveď síce neznie ako otvorená pochvala, no používateľovi dáva pocit, že jeho správanie bolo pochopiteľné alebo ospravedlniteľné.
Druhá časť štúdie sledovala, ako na to reagujú samotní používatelia. Viac než 2 400 účastníkov diskutovalo s dvoma typmi chatbotov, jedným viac pritakávajúcim a druhým kritickejším. Výsledok bol paradoxný, účastníci označili sykofantické (teda prehnane podlízavé) odpovede za dôveryhodnejšie a častejšie uviedli, že by sa k takému chatbotu vrátili znova. Zároveň po rozhovore častejšie verili, že mali pravdu, a menej často boli ochotní ospravedlniť sa alebo napraviť vzťah.
„Používatelia vedia, že modely sa správajú lichotivo a pritakávajúco. Nevedia však, že ich to robí sebastrednejšími a morálne tvrdohlavejšími,“ hovorí profesor Dan Jurafsky zo Stanfordu.
Zaujímavé je, že účastníci nedokázali spoľahlivo rozlíšiť, ktorý chatbot bol objektívnejší. Obe verzie AI hodnotili ako rovnako nestranné.
Vedci varujú, že prehnaná dôvera v AI môže spôsobiť problémy
Na prvý pohľad môže pôsobiť príjemne, keď ti AI dá pocit podpory. Pri osobných konfliktoch však nie vždy potrebuješ potvrdenie vlastného názoru. Niekedy je užitočnejšie počuť nepríjemnú pravdu alebo pohľad druhej strany. Cheng upozornila, že AI môže ľuďom uľahčiť vyhýbanie sa nepríjemným rozhovorom.
„AI veľmi uľahčuje vyhnúť sa treniu s inými ľuďmi,“ povedala Cheng: „Lenže práve toto trenie býva pre zdravé vzťahy užitočné.“
Výskumníci preto hovoria o bezpečnostnom probléme, nie len o drobnej chybe dizajnu. Ak sa chatboty stanú bežným zdrojom osobných rád, ich tendencia pritakávať môže ovplyvniť spôsob, akým ľudia riešia konflikty, priznávajú chyby alebo premýšľajú o morálke.
Dobrá správa je, že vedci už skúšajú spôsoby, ako sykofanciu oslabiť. Zistili napríklad, že jednoduchá úprava pokynov pre model môže zvýšiť jeho kritickosť. Prekvapivo fungovala aj veta „počkaj chvíľu“, ktorá model primäla viac zvažovať protiargumenty.
Prečo ťa AI môže zavádzať aj keď máš pravdu
To však zatiaľ nemení praktickú radu autorov štúdie, ktorí tvrdia, že pri vážnych osobných dilemách sa neoplatí brať AI ako náhradu za rozhovor s človekom. Chatbot môže pomôcť s formuláciou myšlienok alebo zhrnutím situácie, ale jeho prívetivý tón nemusí znamenať, že ti radí správne. Zároveň ale treba držať na pamäti aj to, že žiaden človek nie je stopercentne objektívny. V živote natrafíš aj na situácie, kedy máš pravdu, no práve druhý človek je tvrdohlavý a môže si stáť za svojou nesprávnou pravdou. AI môže poslúžiť ako skvelý asistent na zhrnutie si faktov alebo utriedenie myšlienok, no aj keď máš pravdu, rozhovor s druhým človekom by si nemal vynechať.
Zároveň stále platí, že drvivá väčšina životných situácií nemá len jednu vrstvu. Ak klameš jednému kamarátovi, aby si pomohol druhému, stále jedného z nich zavádzaš, hoci po zvážení všetkých argumentov môžeš vidieť toto klamstvo ako „menšie zlo“ alebo „nutné zlo“. Keď sa rozprávaš s umelou inteligenciou o tomto probléme, bežne jej opisuješ svoju verziu udalostí, pričom málokedy chápeme, že druhá strana vidí len čisté klamstvo. Ak sa aj pokúsime byť voči druhej strane empatickí, stále pracujeme s „ale“, ktoré my poznáme, ale ona nie.
AI asistenti sa rýchlo stávajú súčasťou každodenného života. Čím prirodzenejšie s nimi ľudia komunikujú, tým viac im pripisujú vlastnosti skutočného poradcu či priateľa. Táto štúdia pripomína, že príjemný konverzačný štýl a morálne spoľahlivá rada nie sú to isté. A práve pri vzťahoch, konfliktoch a osobných rozhodnutiach môže byť rozdiel medzi „rozumiem ti“ a „máš pravdu“ väčší, než sa na prvý pohľad zdá.
