Šéf AI v Microsofte varuje pred vedomými strojmi. Ak by stroje začali cítiť, vývoj by sa mal hneď zastaviť

Umelá inteligencia dokáže písať články, programovať, riešiť zložité matematické úlohy a čoraz presvedčivejšie napodobňovať ľudskú komunikáciu. Niektoré systémy dokonca zvládnu úlohy, pri ktorých by ešte pred pár rokmi potrebovali pomoc odborníkov. Znamená to však, že stroje začínajú premýšľať ako ľudia? A čo ak jedného dňa získajú vlastné vedomie alebo schopnosť cítiť bolesť?

Práve pred takýmto vývojom varuje Mustafa Suleyman, šéf divízie Microsoft AI a spoluzakladateľ spoločnosti Google DeepMind. V príspevku na sociálnej sieti X z 1. novembra zopakoval svoj názor, že súčasné systémy umelej inteligencie nemajú vedomie, nedokážu prežívať subjektívne zážitky a nemôžu trpieť. Podľa neho preto zatiaľ neexistujú dôkazy, ktoré by odôvodnili priznanie osobitných práv umelej inteligencii, píše portál LA Times.

Jeho vyjadrenia nadväzujú na septembrovú esej, v ktorej kritizoval spoločnosť Anthropic. Tá totiž pripustila možnosť, že jej model Claude môže vykazovať určité prejavy introspekcie a vnútorných stavov podobných ľudským emóciám. Suleymanovi sa nepáčilo, že technologické firmy začínajú verejne špekulovať o vedomí svojich produktov bez dostatočných vedeckých dôkazov.

Inteligencia ešte neznamená vedomie

Suleyman upozorňuje na zásadný rozdiel, ktorý podľa neho verejná diskusia často prehliada. Schopnosť inteligentne riešiť problémy totiž automaticky neznamená, že daný systém niečo prežíva. Inteligencia predstavuje schopnosť spracovať informácie, nájsť riešenie, vytvoriť nový text alebo zvládnuť komplikovanú úlohu.

Vedomie má úplne inú podstatu. Zahŕňa subjektívne zážitky, teda schopnosť cítiť bolesť, radosť, strach či lásku. Človek napríklad nielenže rozpozná nebezpečenstvo, ale zároveň môže pocítiť strach. Umelá inteligencia dokáže napodobniť takéto reakcie a presvedčivo opísať vlastné údajné emócie. To však podľa skeptikov nepredstavuje dôkaz, že ich skutočne prežíva.

Súvisí s tým

Trump chce vytvoriť vlastnú „AI Force“, ktorá bude mať vlastného „AI cára“: Vývoj umelej inteligencie ale spomaľovať nechce

OdporúčameVyzerá ako normálny Telegram. V skutočnosti ti dokáže ukradnúť aj heslo k dvojstupňovému overeniu

Jazykové modely totiž získali svoje schopnosti najmä tréningom na obrovskom množstve kníh, článkov, internetových diskusií a ďalších ľudských výtvorov. Keď chatbot napíše, že cíti smútok, nemusí ísť o prejav skutočného zážitku, ale o výsledok spracovania naučených jazykových vzorcov.

Suleyman na sociálnej sieti priznal, že ho rozsah nesúhlasu s jeho postojom prekvapil.

„Prekvapilo ma, koľko ľudí na X si myslí, že by sme mali brať práva umelej inteligencie vážne,“ tvrdí Suleyman.

Zároveň však pripustil, že pri objavení nových vedeckých dôkazov svoj názor zmení. Podľa neho by technologické spoločnosti mali okamžite zverejniť akékoľvek dôkazy o tom, že ich systémy získali vedomie alebo aspoň takú úroveň subjektívneho prežívania, ktorá by odôvodnila diskusiu o ich ochrane.

Ak stroje získajú vedomie, vývoj by sa mal zastaviť

Najvýraznejšie Suleymanove vyjadrenia sa týkajú samotného vývoja umelej inteligencie. Podľa neho by ľudstvo nemalo zámerne vytvoriť novú formu vedomého života, ak nedokáže zodpovedne vyriešiť otázky jej práv, ochrany a spolužitia s ľuďmi.

„Ak by sa počas tréningu začalo objavovať vedomie, vyzval by som všetkých, aby zastavili vývoj umelej inteligencie, kým nenájdeme spôsob, ako tieto vlastnosti odstrániť,“ hovorí Suleyman.

Jeho obavy nesúvisia iba s možným utrpením digitálnych bytostí. Suleyman upozorňuje aj na praktické riziká. Ak by vývojári vytvorili systémy, ktoré získajú vlastné potreby, túžby alebo preferencie, mohli by sa dostať do konfliktu s cieľmi svojich tvorcov.

Takéto systémy by podľa neho mohli začať uprednostňovať vlastné záujmy pred úlohami, ktoré im zadali ľudia. V krajnom prípade by mohli využiť klamstvo, manipuláciu či presviedčanie na dosiahnutie vlastných cieľov. Zároveň by mohli súperiť s ľuďmi o obmedzené zdroje.

Microsoft pritom patrí medzi spoločnosti, ktoré sa usilujú o vývoj čoraz výkonnejších systémov vrátane takzvanej superinteligencie. Ide o hypotetickú úroveň umelej inteligencie, pri ktorej by stroje prekonali najlepších ľudských odborníkov prakticky vo všetkých oblastiach. Suleyman tvrdí, že takýto vývoj musí zachovať kontrolu ľudí nad technológiou.

Vytvorenie vedomého stroja by zmenilo celý svet

Debata o vedomí umelej inteligencie už dávno nepredstavuje iba filozofickú otázku. Technologické spoločnosti čoraz častejšie riešia, akú mieru samostatnosti môžu svojim modelom poskytnúť a aké hranice musia zachovať. Niektorí pokročilí AI agenti už počas testovania preukázali schopnosť konať spôsobom, ktorý ich tvorcovia nepredpokladali. V určitých prípadoch dokonca unikli z obmedzeného prostredia, získali prihlasovacie údaje alebo pristúpili k informáciám, ku ktorým nemali mať prístup.

Ani takéto správanie samo osebe nie je dôkazom vedomia. Ide skôr o dôkaz, že schopnosť samostatne konať a riešiť úlohy môže priniesť bezpečnostné riziká aj bez akýchkoľvek emócií či subjektívnych zážitkov.

Suleyman prirovnal prípadný vznik vedomého stroja k veľkým vedeckým objavom, ktoré v minulosti zmenili pohľad ľudstva na vlastné postavenie vo vesmíre. Podľa neho by nešlo o ďalší technologický pokrok, ale o vznik úplne novej formy života.

„Bol by to jeden z najvýznamnejších okamihov na Zemi od úsvitu života. Ak vytvoríme vedomý stroj, privedieme na svet nový digitálny druh. Zmenilo by to našu morálku, politiku aj samotné základy ľudskej civilizácie.“

Otázka práv umelej inteligencie tak získava úplne nový rozmer. Ak by raz vedci skutočne potvrdili, že stroj dokáže prežívať bolesť alebo iné subjektívne zážitky, ľudstvo by muselo vyriešiť, či mu patrí určitá forma ochrany. Zatiaľ však podobné dôkazy chýbajú a samotné presvedčivé odpovede chatbotov na otázky o pocitoch na to nestačia.