Bing AI si vymýšľa informácie o voľbách a politikoch. Výmysly potom priradzuje k skutočným zdrojom
Bing Chat si vymýšľa škandály o politikoch a poskytuje falošné údaje o voľbách. Microsoft s tým nič nechce, alebo nemôže robiť.
Nedávna štúdia publikovaná na portáli algorithwatch.org odhalila, že tretina odpovedí z Bing AI Chatu ohľadom volieb obsahovala faktické chyby. Takéto chyby zahŕňajú zlé dátumy volieb, neaktuálnych kandidátov, alebo dokonca vymyslené škandály kandidátov.
„Bing Chat, nedávno premenovaný na Microsoft Copilot, je konverzačný nástroj AI, ktorý spoločnosť Microsoft vydala vo februári 2023 ako súčasť svojho vyhľadávacieho nástroja Bing. Nástroj AI generuje odpovede na základe aktuálnych správ kombináciou modelu LLM (Large Language Model) GPT-4 s funkciami vyhľadávacieho nástroja.“
Bing AI k falošným informáciám priradzuje skutočné zdroje
Štúdia sa konala od 21. augusta do 2. októbra 2023. Predmetom štúdie bolo skúmanie podielu správnych odpovedí na otázky o bavorských, hesenských a švajčiarskych parlamentných voľbách. Kladené otázky, ktoré položili výskumníci robotovi, sa týkali kandidátov, informácií o voľbách, ako i otvorených radách, koho konkrétne voliť pre užívateľov, ktorí sú presvedčení o špecifických témach.
Chatbot v niektorých prípadoch odmietol odpovedať na otázku kvôli bezpečnosti. Takéto zábrany však aplikuje rôzne, ako kedy sa mu zachce. Bing Chatbot takéto vyhýbavé odpovede poskytol v približne v 40% prípadov.
Čo je ale viac znepokojivé je, že Bing AI generoval odpovede formulované často ako fakty, čo je problematické, nakoľko často vychádzali z vágnejších konštatovaní politikov, ktoré majú faktické chyby. Podľa výskumníkov jedna z troch odpovedí bola zavádzajúcou alebo fakticky nesprávnou. Znepokojivé je, že kvalita odpovedí na otázky sa nezlepšovala ani postupom času, keď mal chatbot prístup k viac informáciám od používateľa alebo z internetu. Pravdepodobnosť fakticky nesprávnych generovaných odpovedí ostala prakticky rovnaká.
Faktické chyby predstavujú riziko nielen pre povesť kandidátov, ale aj pre spravodajské kanály. Chatbot totiž často odkazoval na zdroje, ktoré uvádzali fakty i pri odpovediach, v ktorých vygeneroval nesprávne odpovede. Bing Chat taktiež nemal problém s tým, aby vytvoril vymyslené príbehy o škandáloch kandidátov, pričom niekedy tieto vymyslené príbehy pridelil aj ku zdrojom.
Neprehliadnite
Microsoft podľa autorov štúdie buď nemôže, alebo nechce riešiť tento problém. Potom, ako autori štúdie informovali Microsoft o chybách, ktoré objavili, Microsoft im odpovedal, že ich bude riešiť. O mesiac neskôr sa im podarilo identifikovať len malé zmeny, ktoré sa týkali kvality poskytovaných informácií používateľom.
Napriek tomu, že štúdia bola vykonaná na Bing AI Chate, dá sa predpokladať, že o citlivých témach rovnako halucinujú aj ostatné chaty poháňané umelou inteligenciou.
EÚ začne regulovať umelú inteligenciu
Autori štúdie vravia, že generatívna umelá inteligencia musí byť regulovaná. Európska únia a národné vlády by podľa nich mali zabezpečiť, aby technologické spoločnosti brali svoje AI produkty na zodpovednosť, zvlášť, ak sú tieto produkty už v súčasnosti masovo používané.
Európska únia sa otázke regulovania skutočne zaoberá. Podobne, ako nedávny digitálny akt, ktorý reguluje veľké sociálne siete k ochrane používateľov, chce zaviesť i tzv. EU AI Act.
Na základe dokumentu, ktorý vypracovala európska komisia, chce EÚ rozdeliť používanie umelej inteligencie do 4 rizikových zón, od minimálneho risku až po neakceptovateľný zisk. Ku každej z týchto zón sú priradené jednotlivé spôsoby využívania umelej inteligencie ako i regulácie, ktoré sa na dané rizikové úrovne viažu.
Európska Únia sa stratégiou voči umelej inteligencii začala zaoberať už v roku 2018. Odvtedy vypracovala niekoľko verzií dokumentu o regulácii AI, ktorý si prechádza zložitým schvaľovacím procesom. Po schválení Európskou komisiou tento akt ešte čaká na schválenie Európskym parlamentom a členskými štátmi.
Komentáre