Rozumie umelá inteligencia reálnemu svetu, v ktorom žijeme?
Výskumníci v štúdii dokázali, že aj napriek prirodzenej komunikačnej schopnosti nedokážu AI modely vytvoriť presný obraz o svete.
Umelá inteligencia je už s nami nejaký ten piatok. Pravdepodobne si už aj ty skúsil, čo dokážu veľké jazykové modely, ako napríklad ChatGPT alebo Gemini.
Pri práci s umelou inteligenciou si určite postrehol, že AI model dokáže naozaj impozantné veci. Poradí a pomôže ti prakticky s akýmkoľvek problémom. Napríklad napíše básničku, pracovný mail, poradí ti kam na výlet alebo čo uvariť na obed a dokáže ti dokonca pomôcť napísať aj počítačový program.
Konverzácia s veľkým jazykovým modelom vyzerá naozaj presvedčivo a mnohí veria, že aj napriek nízkej pravdepodobnosti, AI má už dnes aspoň nejakú formu vedomia. Ako ale vysvetľujú výskumníci z MIT, modely ako ChatGPT sú excelentné v predpovedaní toho, aké slovo by malo nasledovať za posledným slovom vety. Vďaka tejto vlastnosti dokážu znieť až desivo realisticky, no aj napriek tomu im chýba jedna základná vlastnosť.
“Človek by predpokladal, že so schopnosťou produkovať realistický a pravdivý text sa umelá inteligencia možno aj neúmyselne naučí niečo o našom svete a ako funguje,” hovoria vedci z MIT.
Ako fungujú jazykové modely
Ako ale ukázala nová štúdia, aj napriek tomu to tak nie je. Výskum ukázal, že populárny generatívny AI model síce dokáže poskytnúť takmer perfektné inštrukcie, ako sa vo veľkomeste dostať z bodu A do bodu B, no aj napriek tomu si nevytvorí internú mapu mesta.
Zaujímavosťou je, že keď vedci v experimente zatvorili niektoré ulice a pridali skratky, presnosť AI modelu výrazne klesla. Keď sa na túto situáciu pozreli hlbšie, všimli si nedostatky. Mapy mesta New York, ktoré model vygeneroval, mali veľa neexistujúcich ulíc, ktoré sa tiahli medzi existujúcimi ulicami a spájali rôzne križovatky.
Neprehliadni
Výskumníci konštatujú, že tento systém “práce” môže mať závažné implikácie pre umelú inteligenciu, ktorá nájde uplatnenie v reálnom svete. Umelá inteligencia môže pracovať fantasticky v jednom kontexte. Ak sa kontext čo i len o trošku zmení, umelá inteligencia môže poskytnúť mimoriadne nepresné výsledky.
“Veľké jazykové modely dokážu dosiahnuť impozantné výsledky v jazykovej sfére. Nádejou pre nás je, že by sme mohli túto technológiu využiť aj v iných oblastiach vedy. Najväčším problémom je otvorená otázka, či veľké jazykové modely dokážu vytvoriť koherentný obraz o svete okolo alebo nie,” vyjadril sa jeden z autorov štúdie, Ashesh Rambachan.
Autori štúdie sa v rámci svojho výskumu zamerali na jeden z typov AI modelu, ktorý sa nazýva transformer. Tento model tvorí chrbticu veľkých komerčných AI modelov, ako napríklad ChatGPT-4. Transformer model je trénovaný na gigantickom množstve textových dát. Na základe týchto dát dokáže predpovedať ďalší token v sekvencii. V praxi to znamená, že práve transformer vyberá, aké slovo má nasledovať za posledným slovom a aké slovo bude nasledovať potom.
Umelá inteligencia nepozná pravidlá, no dokáže ponúknuť vynikajúce výsledky
Hoci transformer má schopnosť prirodzene predpovedať sled jednotlivých slov, výskumníci chceli vedieť jedno. Či počas toho utvára umelá inteligencia presný model sveta. Tu sa ukázalo, že presnosť predikcií umelej inteligencie nie je dostatočná.
Ako sme už spomenuli, umelá inteligencia pracovala skvelo, keď jej bolo zadané, aby našla cestu z bodu A do bodu B v meste New York. Výskumníkov ale zarazil pokles presnosti hneď, ako do modelu pridali skratky. Zo stopercentnej presnosti klesla umelá inteligencia okamžite až na 67%.
Ukázalo sa, že transformer model dokáže ponúknuť vynikajúce výsledky v určitom obore bez toho, aby chápal pravidlá. Umelá inteligencia ako taká ale zatiaľ nedokáže vytvoriť presný obraz reálneho sveta. Autori štúdie hovoria, že moderné AI modely dokážu priniesť naozaj skvelé výsledky a nemôžeme sa čudovať, že niektorí veria, že umelá inteligencia vníma a chápe svet okolo. Nie je to však aspoň nateraz v jej schopnostiach.
