SpravodajstvoVeda a výskum
Rozmýšľa umelá inteligencia rovnako ako ľudia?
Nová metóda na pozorovanie výsledkov umelej inteligencie dokáže prirovnať stroj k ľudskému mysleniu.
Vo svete strojového učenia a umelej inteligencie je rovnako dôležité pochopiť rozmýšľanie počítača ako to, či sa dopracoval ku správnym výsledkom. Stroj totiž môže správne identifikovať rakovinu, no k výsledku sa dostane nesprávnym spôsobom.
Počítačové modely sa trénujú pomocou miliónov vzoriek a hoci existujú nejaké nástroje, ktoré môžu človeku pomôcť pochopiť rozmýšľanie umelej inteligencie, vo väčšine prípadov je nemožné nájsť v jej rozhodnutiach vzorec, ktorý by nám umožnil pochopiť princíp jej rozmýšľania, píše portál MIT.
V novej práci ale vedci z technologického inštitútu MIT spolu s IBM vytvorili metódu, ktorá pomôže vytriediť jednotlivé rozhodnutia a bleskovo vyhodnotiť správanie umelej inteligencie. Tento proces funguje tak, že porovnáva rozmýšľanie umelej inteligencie s tým ľudským. Táto metóda sa nazýva Shared Interest a pomôže napríklad odhaliť to, či umelú inteligenciu mýlia objekty v pozadí. Na základe výsledkov teda padne rozhodnutie, či jej môžeme dôverovať a dokáže nájsť uplatnenie v reálnom svete.
Pozoruhodné výsledky
Ak umelá inteligencia vyhodnocuje fotografie, tím vedcov dokáže vidieť, ktoré body prispeli k finálnemu rozhodnutiu. Metóda Shared Interest ich vizualizuje ako tepelnú mapu, ktorá sa nachádza ako vrstva nad pôvodnou fotografiou. Ak sa napríklad na zábere nachádza pes a umelá inteligencia označí ako dôležitú jeho hlavu, potom vedci vedia, že tá časť fotografie slúžila pri rozhodnutí umelej inteligencie.
Následne porovnali rozhodovanie umelej inteligencie s tým ľudským a na základe toho ju zaradili do jednej z ôsmich skupín. Na jednej strane bola umelá inteligencia, ktorá rozmýšľa úplne ako človek, zatiaľ čo na opačnom konci bola umelá inteligencia, ktorá sa nezhodovala ani v najmenšom. Začlenenie prebiehalo na základe skúmaných fotografií a miest, ktoré boli kľúčové pri výslednom rozhodnutí. Rovnaká metóda ale funguje aj v prípade textových úloh. V nich umelá inteligencia hľadá kľúčové slová namiesto častí fotografie.
Neprehliadnite
V praxi tento experiment pomohol dermatológovi určiť, či môže veriť umelej inteligencii pri identifikovaní rakoviny z fotografií, na ktorých zachytávali prípady kožnej lézie. Vďaka metóde Shared Interest dokázal lekár okamžite vidieť prípady správnych a nesprávnych diagnóz. Experiment ale ukázal, že umelá inteligencia urobila aj tie správne predpovede na základe častí fotografie, ktoré sa s ochorením vôbec nespájali. Umelú inteligenciu vyhodnotili ako nedôveryhodnú.
„Výhodou modelu Shared Interest je to, že môžeme okamžite vidieť vzorce správania. Do polhodiny mohol lekár s úplnou istotou povedať, že tejto konkrétnej umelej inteligencii nemôže dôverovať,“ vyjadrili sa autori štúdie.
Zároveň ale dodávajú, že táto metóda funguje len v prípade, že pracujú s čistými dátami. Ak sa objaví nejaká forma predsudku, či nesprávneho vyhodnotenia, umelá inteligencia zdedí všetky tieto neduhy.
