Bill Gates varuje, že „vypínač“ na umelú inteligenciu nestačí. Upozorňuje na oveľa reálnejšiu hrozbu

Bill Gates sa zapojil do diskusie o tom, ako má svet kontrolovať čoraz výkonnejšiu umelú inteligenciu. Spoluzakladateľ Microsoftu upozornil, že predstava jednoduchého tlačidla, ktoré v prípade problémov vypne AI, nerieši najväčšie riziká.

Podľa Gatesa totiž v súčasnosti nepredstavuje najväčší problém samotná umelá inteligencia, ktorá by sa rozhodla konať na vlastnú päsť. Väčšiu pozornosť si podľa neho zaslúžia ľudia, ktorí už dnes môžu výkonné AI nástroje použiť na útoky. Svoje názory predstavil v rozhovore pre reláciu NBC Meet the Press, ktorý odvysielali v nedeľu. Gates zároveň podporil povinné bezpečnostné opatrenia a monitorovanie pokročilých AI systémov, píše portál Politico.

„Kill switch“ má problém

Pojem „kill switch“ označuje mechanizmus, ktorý umožní systém v prípade nebezpečenstva okamžite vypnúť. Pri umelej inteligencii sa o takomto riešení diskutuje najmä v súvislosti s veľmi výkonnými modelmi. Gates však upozornil, že samotný vypínač nestačí. Šéf Microsoftu svoje tvrdenie vysvetlil tak, že, ak niekto využije AI na vytvorenie škodlivého kódu, podvod alebo prípravu kybernetického útoku, problém nemusí vzniknúť priamo v samotnom AI systéme. Model môže splniť požiadavku používateľa a následky jeho použitia sa môžu prejaviť až neskôr. V takom prípade nepomôže veľa ani núdzové vypnutie modelu po tom, čo už človek získal potrebné informácie alebo pripravil útok.

Gates zároveň uviedol, že proti samotnej myšlienke núdzového vypnutia nič nemá. Za dôležitejšiu súčasť ochrany však považuje ďalšie mechanizmy, ktoré dokážu sledovať používanie výkonných modelov.

Firmy majú podľa Gatesa sledovať AI

Gates navrhuje, aby tvorcovia pokročilých AI systémov zaviedli monitorovanie ich používania a uchovávali záznamy o tom, čo sa v systémoch deje. Takýto dohľad by mohol pomôcť napríklad pri odhaľovaní pokusov o zneužitie AI na kybernetické útoky alebo bioterorizmus. Nejde teda iba o kontrolu samotného modelu, ale aj o sledovanie spôsobu, akým ho ľudia používajú.

Súvisí s tým

Bill Gates dnes výrazne pritvrdil vo varovaní pred AI. Chce pre ňu medzinárodný dohľad podobný jadrovej energetike alebo letectvu

Práve tu sa jeho predstava odlišuje od jednoduchého „vypni AI, keď sa niečo pokazí“. Pri monitorovaní môže bezpečnostný tím zachytiť podozrivú aktivitu ešte predtým, než dôjde k útoku. Gates zároveň tvrdí, že takéto opatrenia nemajú zostať iba na dobrovoľnej báze.

„Nikto si nemyslí, že samoregulácia stačí,“ povedal.

Podľa neho by preto mali pravidlá stanoviť zákonodarcovia. Gates zároveň uviedol, že Spojené štáty by mali zabezpečiť zavedenie takýchto opatrení a upozornil, že podobný prístup bude chcieť aj Čína.

Najväčším problémom môže byť človek

Gatesov pohľad na riziká AI je zaujímavý aj preto, že pozornosť presúva od často diskutovaného scenára autonómnej umelej inteligencie k oveľa praktickejšiemu problému. Ak má človek prístup k výkonnému AI modelu, môže ho použiť ako nástroj. To môže znamenať pomoc pri kybernetických útokoch, podvodoch, výrobe škodlivého softvéru alebo pri získavaní informácií potrebných na nebezpečné činnosti.

„Najnaliehavejší problém súvisí so zlými ľuďmi, ktorí používajú AI, nie s tým, že by AI sama od seba odišla a začala konať,“ uviedol Gates.

Práve preto podľa neho nestačí čakať na moment, keď bude potrebné celý systém vypnúť. Bezpečnostné opatrenia by mali fungovať priebežne a zachytiť podozrivú aktivitu skôr, než sa prejavia jej následky.

Debata o regulácii AI sa pritom dostáva stále viac aj do politickej roviny. Gatesove vyjadrenia prišli v čase, keď americkí zákonodarcovia diskutujú o pravidlách pre umelú inteligenciu. Jedným z návrhov bol aj zákon, ktorý mal od AI spoločností požadovať zabudovanie „kill switchu“ do ich modelov. Návrh však v Senáte narazil na odpor senátora Randa Paula, ktorý požadoval ďalšie informácie pred zavedením podobných pravidiel naprieč ekonomikou.

Samotný spor tak ukazuje, že pri regulácii AI nejde iba o technickú otázku. Treba zároveň určiť, kto bude systémy kontrolovať, aké dáta má monitorovanie zachytávať a kde sa skončí bezpečnostný dohľad a začne zásah do súkromia. Gates pritom tvrdí, že dobrovoľné pravidlá samotných technologických firiem nestačia. Podľa jeho predstavy by sa na vytvorení bezpečnostných mechanizmov mali podieľať štátne inštitúcie a zákonodarcovia.

„Je potrebné, aby sa polícia a politici zapojili do diskusie o tom, ako majú bezpečnostné opatrenia a dohľad vyzerať, a musí ísť o povinnú súčasť systému,“ uviedol Gates.

Diskusia sa tak postupne posúva od otázky, či dokážeme AI vypnúť, k širšej otázke, ako zistiť, čo sa s výkonnými AI systémami deje ešte predtým, než ich niekto zneužije. Práve monitorovanie, záznamy o používaní a pravidlá pre ich prevádzkovateľov môžu patriť medzi mechanizmy, ktoré budú zákonodarcovia pri ďalšej regulácii riešiť.