WhatsApp dostáva súkromný režim pre rozhovory s AI. Meta tvrdí, že k tvojim citlivým otázkam nebude mať prístup

Spoločnosť Meta prichádza s novinkou, ktorá má reagovať na čoraz hlasnejšie obavy používateľov o súkromie pri komunikácii aj s umelou inteligenciou. Jej odpoveďou na tieto obavy je, že v rámci aplikácie WhatsApp začína postupne zavádzať takzvaný „Incognito Chat“ s Meta AI. Ten má umožniť viesť konverzácie s AI bez toho, aby sa konverzácie predvolene ukladali alebo zostávali dostupné po skončení relácie. Malo by tak ísť o krok, ktorým firma reaguje na meniace sa správanie ľudí, ktorí sa na chatboty obracajú s čoraz osobnejšími otázkami. Na tému upozornil portál TechXplore.

Podľa vyjadrení spoločnosti má nový režim fungovať v špeciálnom zabezpečenom prostredí pomocou Trusted Execution Environment, kde sa konverzácie nebudú predvolene ukladať a po ukončení relácie sa odstránia, čím sa minimalizuje riziko ich neskoršieho zneužitia. Sociálny gigant týmto spôsobom reaguje na kritiku, ktorá sa v posledných ročoch znásobila najmä v súvislosti s generatívnou umelou inteligenciou a jej prácou s veľkými objemami dát.

Generálny riaditeľ spoločnosti Mark Zuckerberg sa k novinke vyjadril aj na sociálnej sieti Threads, kde oznámil postupné zavádzanie Incognito Chat a zdôraznil absenciu logov konverzácií pre skutočné súkromie.

„Ak chceme získať čo najviac z osobnej superinteligencie, všetci potrebujeme spôsoby, ako diskutovať o citlivých témach spôsobom, ku ktorým nemá prístup nikto iný.,“ uviedol v zmysle svojho príspevku.

Zároveň dodal, že cieľom spoločnosti je vytvoriť prostredie, v ktorom sa používatelia nemusia obávať, že ich osobné údaje budú použité na ďalšie účely.

Zuckerberg v rámci WhatsAppu zavádza súkromné konverzácie s AI

Práve otázka spracovania dát je jedným z najväčších problémov, ktorým dnes čelia systémy umelej inteligencie. Modely, na ktorých sú tieto nástroje postavené, sa učia z rozsiahlych datasetov. Niektoré z nich môžu obsahovať aj citlivé informácie osobného charakteru. Kritici upozorňujú, že používatelia si často neuvedomujú, aké údaje počas konverzácie poskytujú a akým spôsobom môžu byť následne využité.

Súvisí s tým

Rusko tlačí ľuďom do telefónov vlastný WhatsApp. Analýza tvrdí, že aplikácia MAX vie rozpoznať VPN aj pracovať s tvojimi správami

Meta tak neskôr, ale predsa začala ponúkať svoje riešenie problému, pričom konkurencia už ponúka určité spôsoby. Napríklad Google umožňuje pri svojom chatbotovi Gemini vypnúť históriu konverzácií alebo odmietnuť použitie dát na tréning modelov. Podobné nastavenia ponúka aj ChatGPT. Nový Incognito Chat v WhatsApp zdôrazňuje absenciu logov konverzácií, čo ho odlišuje od bežných nastavení konkurencie.

Šéf WhatsAppu Will Cathcart povedal, že používatelia čoraz častejšie zdieľajú s AI citlivé informácie týkajúce sa zdravia, financií či pracovného života . Práve preto podľa neho vznikol režim, ktorý má poskytnúť vyššiu mieru kontroly nad tým, čo sa s konverzáciami deje.

Súčasťou nového režimu sú aj bezpečnostné mechanizmy, ktoré majú zabrániť zneužitiu chatbotu. Ak sa používateľ pokúsi otvoriť nevhodnú alebo nebezpečnú tému, systém sa najskôr pokúsi nasmerovať konverzáciu k užitočným informáciám. V prípade potreby však odpoveď odmietne a v krajnom prípade môže interakciu úplne ukončiť. Tento postup má zabezpečiť určitú rovnováhu medzi slobodou používania a ochranou pred škodlivým obsahom.

Pôjde o skutočne súkromné konverzácie?

Zuckerberg naznačil, že ide len o začiatok zmien zameraných na súkromie v AI.

„Budúcnosť AI musí byť postavená na dôvere. Ak ju ľudia nebudú mať, tieto nástroje jednoducho nebudú využívať naplno,“ uviedol.

Podľa jeho slov bude Meta pokračovať vo vývoji funkcií, ktoré umožnia používateľom lepšie kontrolovať svoje dáta a spôsob ich spracovania.

Nový inkognito režim má však aj svoje obmedzenia. Používatelia budú môcť komunikovať iba prostredníctvom textu, pričom nahrávanie alebo generovanie obrázkov nebude dostupné. Zároveň bude potrebné potvrdiť vek, keďže platforma neumožňuje používanie osobám mladším ako 13 rokov. Aj tieto opatrenia majú naznačovať, že Meta sa snaží postupovať opatrne a minimalizovať potenciálne riziká spojené s novou funkciou.

Zavedenie inkognito režimu sa dá vnímať ako reakcia na širší trend, kde sa ochrana súkromia dostáva čoraz viac do popredia. S rastúcim využívaním umelej inteligencie sa totiž mení aj spôsob, akým ľudia komunikujú a aké informácie sú ochotní zdieľať. Meta sa tak svojím riešením snaží presvedčiť používateľov, že ich dáta zostanú pod kontrolou aj pri komunikácii s umelou inteligenciou. Otázkou je, či tomu tak naozaj aj bude. Ako sme nedávno informovali, predstava súkromia v rámci WhatsAppu je možno len ilúziou.