ChatGPT označil nevinného muža za vraha detí. Skombinoval reálne informácie s vymyslenými
ChatGPT si vymyslel príbeh o vražde a poškodil nevinného človeka. Príbeh obsahoval skutočné detaily z jeho života.
Incident odhalil vážne problémy s AI. ChatGPT si vymyslel príbeh o vražde a poškodil reputáciu nevinného človeka.
Ako uvádza web noyb, tento incident odhalil vážne problémy s takzvanými „halucináciami“ umelej inteligencie, ktoré môžu poškodzovať reputáciu jednotlivcov a porušovať európske nariadenia o ochrane osobných údajov.
ChatGPT je známy tým, že často poskytuje nepresné informácie o ľuďoch, bez možnosti ich opravy. V minulosti sa objavili prípady, keď ChatGPT obviňoval osoby z korupcie, zneužívania detí či dokonca vraždy.
Nórsky používateľ chcel otestovať, aké informácie o ňom ChatGPT poskytne. Položil preto umelej inteligencii jednoduchú otázku týkajúcu sa jeho osoby.
ChatGPT si následne o ňom vymyslel fiktívny príbeh, v ktorom ho opísal ako odsúdeného vraha. Príbeh obsahoval skutočné detaily z jeho života. Napríklad počet a pohlavie jeho detí či názov jeho rodného mesta. Podľa GDPR sú však spoločnosti povinné zabezpečiť presnosť spracovávaných osobných údajov. OpenAI aj napriek varovaniam expertov a prebiehajúcim žalobám umožňuje, aby jeho systém generoval nepravdivé, neraz absurdné a potenciálne škodlivé informácie.
Neprehliadni
Falošné obvinenie a jeho dôsledky
Keď sa Arve Holmen spýtal ChatGPT, či o ňom existujú nejaké informácie, chatbot si sebavedomo vymyslel príbeh, v ktorom bol údajne odsúdený na 21 rokov väzenia za vraždu dvoch detí vo veku 7 a 10 rokov a za pokus o vraždu tretieho. Tento nebezpečný mix reálnych a vymyslených informácií vytvára precedens, ktorý môže viesť k tomu, že niektorí ľudia budú považovať výstupy AI za overené fakty.
Právnik organizácie noyb, Joakim Söderberg, upozorňuje, že GDPR jasne stanovuje povinnosť zabezpečiť presnosť osobných údajov.
„GDPR je jasné. Osobné údaje musia byť presné. A ak nie sú, používatelia majú právo žiadať ich opravu. Upozornenie, že ChatGPT môže robiť chyby, nestačí. Nemôžete jednoducho šíriť nepravdivé informácie a len na konci dodať, že to možno nie je pravda,“ hovorí Söderberg.
OpenAI odmieta opraviť chyby
Tento prípad nie je ojedinelý. Už v apríli 2024 podala organizácia noyb sťažnosť proti spoločnosti OpenAI za to, že nesprávne uviedla dátum narodenia verejne známej osoby. OpenAI vtedy tvrdilo, že nie je schopné opraviť údaje, iba zablokovať odpovede na určité otázky. Takýto postup však znamená, že nesprávne údaje môžu naďalej ostať „naučené“ a objaviť sa v iných kontextoch.
Spoločnosť sa snaží vyhnúť zodpovednosti tým, že na výstupy AI pridáva všeobecné upozornenia. Právnička noyb, Kleanthi Sardeli, však upozorňuje, že žiadna firma nemôže ignorovať zákony len tým, že prizná, že ich nedodržiava. Výnimkou nie je ani OpenAI.
ChatGPT sa prezentuje sám ako vyhľadávač
Po medializovaní prípadu Arveho Holmena OpenAI aktualizovalo ChatGPT tak, aby pri otázkach o osobách vyhľadával informácie online. V jeho prípade tak už chatbot nešíri falošný príbeh o vražde. Obavy však pretrvávajú. Nepresné údaje môžu stále ostať súčasťou tréningovej databázy modelu.
Podľa GDPR má každý právo vedieť, aké údaje o ňom firma spracúva. OpenAI však takýto prístup zatiaľ neposkytuje. Používateľ tak nemá možnosť zistiť, či boli nesprávne údaje naozaj vymazané. Na rozdiel od Google, ktorý má povinnosť na žiadosť odstrániť osobné údaje.
Sťažnosť v Nórsku
Organizácia noyb preto podala sťažnosť na nórsky úrad pre ochranu osobných údajov (Datatilsynet). Žiada, aby OpenAI odstránilo falošné informácie, upravilo model tak, aby minimalizoval nepresnosti, a aby úrad udelil spoločnosti pokutu ako varovanie pred ďalšími porušeniami.
Tento prípad ukazuje, že ak nebudú prijaté prísnejšie regulácie, systémy umelej inteligencie ako ChatGPT môžu vážne poškodzovať ľudí tým, že vytvárajú nepravdivé príbehy, ktoré sa následne šíria ako fakty.
Komentáre