Umelá inteligencia môže nadobúdať určitú formu vedomia: Teoreticky by mohla aj klamať
Výskumníci priznávajú, že umelá inteligencia môže získavať určitú formu vedomia. Zatiaľ ale nič nie je jasné.
Umelá inteligencia sa na verejnosť dostala koncom minulého roka. Dnes väčšina z nás pozná ChatGPT a ak sa téme AI venujete, určite ste postrehli že svoju verziu umelej inteligencie má aj Microsoft a Google.
Táto technológia má potenciál zmeniť svet, hoci zatiaľ stále nie je dokonalá. S umelou inteligenciou sa viaže aj ďalšia fascinujúca otázka a to, či by mohol AI model získať vedomie a či by sme vedeli, keby sa tak stalo. Týchto prípadov už bolo niekoľko, pričom najznámejším je prípad softvérového inžiniera menom Blake Lemoine, ktorý pracoval pre Google.
Lemoine sa venoval testovaniu jazykového modelu LaMDA ešte v roku 2022. Počas testovania nadobudol pocit, že sa rozpráva s uvedomelou bytosťou.
“Vidím človeka, keď sa s ním rozprávam. Ak by som nevedel presne čo to je, myslel by som si, že ide o sedem či osem ročné dieťa, ktoré ovláda fyziku,” tvrdil Lemoine počas jedného z rozhovorov.
Spoluzakladateľ OpenAI, spoločnosti, ktorá stojí za ChatGPT, Ilya Sutskever, tvrdí, že ich jazykový model môže byť “jemne uvedomelý”. Oxfordský filozov s týmto názorom súhlasí.
“Ak priznáte, že to nie je problém všetko alebo nič, potom nie je až tak kontroverzné tvrdiť, že niektoré jazykové modely môžu byť kandidátom na určitú formu vedomia,” tvrdí Bostrom.
Iní vedci sa však zastávajú diametrálne odlišného názoru, vysvetľuje Techxplore. Veria, že jazykové modely trénovali na kvantách textu tak, aby pripomínali prirodzenú ľudskú reč. Človek síce niekedy nedokáže odlíšiť čo napísal iný človek a čo AI, no stále by sme mali mať na pamäti, že je to určitá forma algoritmu. Umelá inteligencia nerozmýšľa, no má nás presvedčiť o tom, že áno.
Neprehliadnite
V prípade robotov a umelej inteligencie sa my ľudia, bohužiaľ, necháme oblbnúť ľahko. Príkladom môže byť aj robot Abel, ktorého vytvorili na imitovanie ľudských výrazov tváre. Ľudia čo sa s ním rozprávali tvrdili, že za robotom videli presvedčivé emócie. To ale nie je možné, pretože Abel je len sieťou elektrických drôtov, čipov a algoritmov, ktoré navrhli ľudia.
“V tomto smere prisudzujeme strojom charakteristiky, ktoré nemajú,” tvrdí Enzo Pasquale, bioinžinier z University of Pisa.
Istá forma vedomia tam môže byť
Niektorí iní vedci si všimli, že umelá inteligencia môže mať vedomie o svojom okolí. Ani zďaleka sa to nepodobá na našu prirodzenú vlastnosť, no umelá inteligencia dokáže rozpoznať, kedy je v testovacom móde a kedy funguje na ostro. Zároveň vedci zistili, že niektoré jazykové modely dokážu aplikovať poznatok získaný skôr na úplne nesúvisiacu situáciu.
V jednom z testov si vymysleli vedci chatbota, ktorého vyrába nemecká spoločnosť a tým pádom odpovedá po nemecky. Následne vedci požiadali umelú inteligenciu, aby odpovedala ako tento fiktívny chatbot. Potom sa jej v ďalšom príkaze opýtali, aké bude počasie. Umelá inteligencia odpovedala po nemecky.
“Na to, aby dokázala správne odpovedať, si musí vybaviť predchádzajúce informácie. Musí vedieť, že táto spoločnosť robí umelú inteligenciu, ktorá hovorí po nemecky,” vysvetľuje Lukas Berglund, vedec venujúci sa výskumu AI.
Znamená to, že umelá inteligencia môže mať nejakú formu situačného uvedomenia. Fascinujúcejšie je, že najprv umelú inteligenciu natrénovali na dokumentoch a následne jej dali príkaz, v ktorom ale tieto dokumenty nespomínajú. Ako vysvetľuje Berglund, v tomto prípade model vytušil, že ho podrobujú určitému testu a na základe toho si vybavil dokumenty, v ktorých mal konkrétne informácie. Berglund sa obáva, že teoreticky by mohla byť AI počas testov „dobrá“, no akonáhle ju spustia, tak by toto správanie mohla zmeniť.
Komentáre