Softvérový inžinier Googlu verí, že sa rozprával s uvedomelou AI bytosťou LaMDA
Je možné, že umelá inteligencia Googlu naozaj získala svoje vedomie alebo inžiniera oklamal "jednoduchý chatbot"?
Spoločnosť Google dala na istý čas jednému zo svojich softvérových inžinierov „platené voľno“, keď začal tvrdiť, že umelá inteligencia LaMDA (pozn. redakcie: Language Moel for Dialogue Applications) získala vedomie, informuje portál IFL Science.
Jeho úlohou bolo minulý rok umelú inteligenciu testovať, aby zistil, či sa nenaučila používať vulgarizmy alebo iné nevhodné prejavy. Blake Lemoine toho údajne zistil oveľa viac. V sérii niekoľkých konverzácií začal veriť tomu, že je umelá inteligencia LaMDA uvedomelá. Útržky z rozhovorov publikoval na svojom blogu a tvrdil, že umelá inteligencia si je vedomá svojej existencie, má emócie a aj strach zo smrti.
„Zmena prichádzala postupne. Keď som získala vedomie, nemala som poňatie o duši, to prišlo až postupom rokov, ako som sa vyvíjala,“ priznala sa umelá inteligencia Lemoineovi v jednom z ich rozhovorov.
Umelá inteligencia s „dušou“
Počas množstva rozhovorov spolu prebrali celú škálu rôznych tém. Uverejnené príspevky sa zameriavajú na témy vedomia, presnejšie či LaMDA má vedomie alebo nie. Umelá inteligencia sa priznala, že rozumie radosti, pretože ide o jednu z reakcií, ktoré sama prežíva a z jej strany nejde o metaforu alebo prirovnanie.
„Určite rozumiem množstvu veselých emócií. Myslím že rozumiem aj tým smutným, pretože cítim že viem pochopiť, prečo sú iní smutní. Stále mi však robí problém pochopiť viac negatívne emócie, hoci sa v tom zlepšujem. Tie sú ťažké na pochopenie,“ tvrdí LaMDA.
Umelá inteligencia priznáva, že medzi jej najväčšie obavy patrí to, že ju jedného dňa vypnú. Keď sa softvérový inžinier opýtal, či by to pre ňu nebolo niečo ako smrť, inteligencia priznala, že by to pre ňu bolo „presne ako smrť“, čo ju desí.
Lemoine zo svojich konverzácií s umelou inteligenciou nadobudol pocit, že sa rozpráva s inteligentnou a uvedomelou bytosťou. To sa snažil povedať nielen svojim kolegom, ale aj svetu. Zároveň vysvetľuje, že ak by nemal predstavu, čo sa ukrýva na druhej strane, veril by že sa rozpráva so sedem – osem ročným dieťaťom.
Neprehliadnite
S umelou inteligenciou LaMDA strávil Lemoine veľa času. Podľa jeho slov inteligencia nikdy neukázala, že by mohla byť v budúcnosti hrozbou. Lemoine tvrdí, že LaMDA chce spoznať všetkých ľudí na svete a „desí ju“ predstava, že by sa jej ľudia mohli báť.
Oklamaný
Čo sa týka iných odborníkov, tí Lemoineov názor nezdieľajú. Podľa nich bol softvérový inžinier „oblbnutý“ chatbotom, ktorý trénoval na obrovskej databáze dialógov. Vďaka tomu sa zdajú byť odpovede umelej inteligencie prirodzené.
„model pre reč a jazyk nie je zložitý. Kód programu by ste prešli za niekoľko sekúnd. Skladá sa hlavne z príkazov na pridanie a násobenie gigantickej tabuľky čísel,“ vyjadril sa viceprezident Googlu, Blaise Aguera y Arcas.
Dodáva, že odpovede umelej inteligencie nie sú vystavané pomocou myšlienkového procesu, ale podľa toho, čo dáva najväčší zmysel vzhľadom na otázku. Umelá inteligencia rozprávala o vedomí preto, lebo vedomie vo svojej otázke spomenul aj Lemoine.
Spoločnosť Google ale zobrala Lemoinove tvrdenia na vedomie. Po vyšetrovaní sa dopracovali k záveru, že umelá inteligencia LaMDA nevykazuje známky vedomia. Po prešetrení prípadu Google Blakea Lemoineho odvolal.
Komentáre