Dokážeme ovládať pokročilú umelú inteligenciu? Desaťročia diskusií priniesli odpoveď
V posledných rokoch napreduje vývoj AI míľovými krokmi, no čo to znamená do budúcna?
Vývoj umelej inteligencie v posledných rokoch napreduje míľovými krokmi vpred, no myšlienka počítača rozmýšľajúceho ako človek existuje oveľa dlhšie. Už celé desaťročia výskumníci debatovali o tom, či by bolo možné ovládať vyspelú formu umelej inteligencie, no definitívny verdikt prišiel až minulý rok. Ako znie?
Portál Science Alert informuje o štúdii, ktorá sa pokúsila analyzovať hlavné problémy s inteligenciou, ktorá je potenciálne vyspelejšou ako človek. Ak sa niekedy v budúcnosti podarí vytvoriť takzvanú „superinteligenciu“ jediný spôsob ako ju kontrolovať by bolo prostredníctvom simulácie, ktorá by nám poskytla pochopiteľný výstup. Lenže ak umelú inteligenciu nedokážeme pochopiť, vytvorenie podobnej situácie by nebolo možné.
Určiť jej nejaké mantinely sa v tomto prípade nedá, pretože aj najväčšie mozgy sveta by nedokázali predpokladať možné scenáre, ktorým by sa pokročilá umelá inteligencia venovala. Prikázať jej, aby neubližovala ľuďom by na základe tohto mohlo rovnako priniesť neželané výsledky. Problém, ktorému sa vedci v novej štúdií venujú má svoje korene v roku 1936. Nazýva sa problém zastavenia a objavil ho Alan Turing, ktorý sa počas druhej svetovej vojny venoval rozlúšteniu Enigmy.
Základom problému zastavenia je vedieť, či sa počítač dokáže dopracovať k výsledku a zastaví sa, alebo sa zacyklí v snahe nájsť odpoveď. Odpoveď na problém znie, že pri určitých programoch sa k odpovedi vieme dopracovať, no nie je to možné zistiť pri všetkých potenciálnych programoch, ktoré by mohli byť napísané.
Ak by vedci vytvorili pre pokročilú umelú inteligenciu program, ktorý by jej nariaďoval nezničiť civilizáciu alebo svet, matematicky by nemali šancu predpovedať, či umelá inteligencia nájde riešenie, alebo ho bude hľadať donekonečna.
Neprehliadnite
Veľká neznáma
„Táto neistota znamená, že akékoľvek programy, ktoré by umelú inteligenciu mali riadiť sú nepoužiteľné,“ vysvetľuje Iyad Rahwan z Inštitútu Maxa Plancka.
Ak ju nedokážu vedci riadiť, potom jediným riešením je obmedzenie jej schopností. Aj to je jeden z možných scenárov. Určité uzly umelej inteligencie by mohli byť odrezané od určitých častí internetu, no vedci nie sú touto možnosťou nadšení. Nevidia zmysel v snahe postaviť stroj inteligentnejší ako človek, ak by ho potom museli obmedziť.
Komplexná umelá inteligencia by nám mohla pomôcť vyriešiť problémy, na ktoré ľudstvo nestačí. Ako poznamenávajú autori novej štúdie, možno si ani nevšimneme moment, kedy sa komplexná umelá inteligencia dostane mimo našu kontrolu.
Hoci celý problém znie ako science-fiction, už dnes existujú stroje, ktoré majú na starosti dôležité úlohy. Zaujímavosťou je, že v týchto prípadoch programátori plne nechápu, akým spôsobom sa to umelá inteligencia naučila. Vedci si nie sú istí, či by to mohlo do budúcnosti znamenať problémy, alebo nie.
Komentáre