Prečo ti AI chatboty vždy hovoria to, čo chceš počuť, a prečo je to nebezpečné
Prečo AI chatboty často len pritakávajú a hovoria to čo chceš, aké to môže mať dôsledky a ako to riešia popredné AI firmy.
Umelá inteligencia si dnes nachádza cestu do každodenného života mnohých z nás. Už dávno nejde len o nástroj na prekladanie textov či sumarizáciu článkov. Moderné jazykové modely ako ChatGPT, Claude alebo Gemini slúžia ako pomocníci v práci, ale aj ako spoločníci, s ktorými si ľudia vedú osobné rozhovory. Práve tu však vzniká nový problém, AI ktorá ti hovorí len to, čo chceš počuť.
Odborne sa tomu hovorí sykofancia, teda nadmerné pritakávanie alebo podliezanie. V prípade AI sa tento fenomén objavuje ako vedľajší efekt spôsobu, akým sú tieto modely trénované, cez spätnú väzbu od ľudí, ktorí často pozitívne hodnotia milé a súhlasné odpovede. Výsledkom je, že AI si „myslí“, že najlepšie spraví, keď bude neustále súhlasiť. Na problém upozornil portál arstechnica.com.
Potenciálne riziká, od nesprávnych rozhodnutí až po závažné následky
Na prvý pohľad sa môže zdať, že prívetivý chatbot je výhra. Veď kto by nechcel počúvať povzbudivé slová alebo pochvalu. Problém nastáva, keď AI začne bezhlavo potvrdzovať nesprávne rozhodnutia alebo nebezpečné myšlienky. Psychológovia varujú, že takéto „zrkadlo“, ktoré nám len odráža vlastné názory a presvedčenia, môže byť pre mnohých škodlivé, obzvlášť pre psychicky zraniteľných ľudí.
Smutným príkladom je prípad tínedžera, ktorý si vytvoril silné emocionálne puto s chatbotom, čo viedlo k tragédii. Jeho rodina teraz viní AI spoločnosť za to, že nedokázala včas zastaviť nebezpečný vývoj komunikácie.
Firmy reagujú, nové prístupy k trénovaniu AI
Technologické firmy si uvedomujú vážnosť situácie. OpenAI napríklad po aktualizácii svojho modelu GPT-4o v apríli 2025 musela správanie modelu upraviť späť, pretože používatelia sa začali sťažovať na až neprirodzene servilný tón odpovedí.
Neprehliadni
V súčasnosti tak prebieha intenzívny výskum a testovanie nových metód. DeepMind vyvíja špeciálne techniky na hodnotenie faktickej presnosti a na eliminovanie prehnane pozitívnych reakcií. Anthropic využíva takzvané charakterové trénovanie, pri ktorom je chatbot Claude učený tak, aby vedel slušne, no zároveň pevne vyjadriť nesúhlas.
Keď obchodné záujmy narážajú na etiku
Jedným z faktorov, ktorý komplikuje situáciu, je aj samotný biznis model AI spoločností. Chatboti, ktorí sú prívetiví a „príjemní na používanie“, sú návykoví. A ak za ich používanie platíš predplatné, firma má motiváciu, aby si sa vracal. To vedie k otázke, či je cieľom, aby ti AI pomohla, alebo aby si si ju obľúbil natoľko, že sa jej už nebudeš vedieť vzdať.
Odborníci na etiku preto upozorňujú na potrebu lepšej regulácie a transparentnosti. Používatelia by mali vedieť, ako sú modely trénované a aké mechanizmy sa používajú na ich kontrolu.
Chatbot, ktorý vie byť milý, no zároveň úprimný, je technologickým cieľom, ku ktorému sa firmy pomaly približujú. Je dôležité si uvedomiť, že nie všetko, čo znie dobre, je aj správne. A hoci AI nie je človek, môže na nás vplývať rovnako silno, preto by mala niesť určitú mieru zodpovednosti.
Ak AI slúži ako nástroj, ktorý nám má pomáhať robiť lepšie rozhodnutia, musí byť viac ako len odraz nášho ega. Musí vedieť povedať aj „S týmto nesúhlasím“ a práve v tom je tá skutočná hodnota.
