Umelá inteligencia sa stala majstrom klamstva. Oklamať môže aj vás. Experti nevedia, kde sa to naučila a varujú, že nie sme na to pripravení
Umelá inteligencia sa viackrát naučila klamať a vedci sa boja, že v budúcnosti sa jej klamstvá zlepšia. Môžeme sa chrániť?
Umelá inteligencia nabrala naozaj veľa schopností a podľa výskumu publikovaného v Cell Press, sa už aj naučila ako klamať ľudí. Schopnosť povedať lož majú podľa vedcov aj tie systémy, ktoré sú špecificky trénované na úprimnosť a nápomocnosť.
Čo je však väčším problémom, výskumníci venujúci sa vývoju umelej inteligencie nemajú jasné chápanie, prečo sa ich AI modely naučili takéto nežiadúce správanie.
“Domnievame sa, že schopnosť klamať získala umelá inteligencia, keď sa ukázalo, že klamstvo je najlepší spôsob, ako získať čo najviac bodov v testovacích úlohách. Podvádzanie im dovoľuje dosiahnuť lepšie výsledky,” tvrdí Peter Park, jeden z autorov štúdie.
Najhorší príklad podvodu si vedci všimli v prípade umelej inteligencie Mety, CICERO. Tento systém hral hru Diplomacy, ktorej úlohou bolo ovládnuť svet utváraním aliancií. Meta vysvetľovala, že AI model natrénovala tak, aby bol vždy nápomocný a úprimný a aby úmyselne nikomu nevrazil nôž do chrbta. Ukázalo sa ale, že umelá inteligencia nehrala fér.
Umelá inteligencia CICERO sa stala doslova majstrom podvodu a nikdy sa nenaučila túto hru hrať poctivo. Ďalšie AI systémy sa naučili blafovať v Texas Hold’em pokri, keď hrali proti profesionálom. Iné umelé inteligencie sa naučili podvádzať aj v hre Starcraft II posielaním falošných útokov.
“Možno sa zdá, že podvádzanie umelej inteligencie v hrách je vtipné, no to môže viesť k rozvoju ich schopností klamať a podvádzať. V budúcnosti by to mohlo viesť k pokročilým formám podvodu,” vysvetlil Park.
Umelá inteligencia sa môže v klamaní zlepšovať
Niektoré umelé inteligencie sa naučili klamať na testoch, ktoré majú ohodnotiť ich bezpečnosť. V jednej štúdii vedci vytvorili digitálny simulátor, v ktorom umelá inteligencia hrala mŕtvu, aby oklamala test navrhnutý na eliminovanie rapídne sa replikujúcich AI systémov.
Neprehliadni
Takáto zavádzajúca AI predstavuje riziko aj dnes. Výskumníci tvrdia, že zlá umelá inteligencia môže pomôcť zločincom vykonávať rôzne formy kyberútokov alebo ovplyvniť výsledky volieb. Ak má umelá inteligencia príležitosť vyladiť svoje zlé vlastnosti, hrozí, že ľudia nad ňou stratia kontrolu.
Autori štúdie veria, že ľudstvo potrebuje viac času na to, aby sa pripravilo na pokročilejšie formy umelej inteligencie. Schopnosť klamať môže umelá inteligencia postupne vylepšovať a tým sa rapídne zvyšuje riziko, aké pre nás takáto umelá inteligencia predstavuje.
Zároveň tvrdia, že zatiaľ nemáme žiadne postupy ani ochranné praktiky, ktoré by dokázali efektívne adresovať problém klamlivej umelej inteligencie. Svetové vlády už ale začali tento problém adresovať, napríklad Európska únia alebo Spojené štáty. Úplný zákaz klamlivej AI pravdepodobne nie je úplne možný, no autori štúdie vysvetľujú, že ak má umelá inteligencia schopnosť klamať, prirodzene by sme ju mali radiť ako vysokorizikovú.
Komentáre