Je vyspelá umelá inteligencia pre ľudstvo hrozba? Takúto odpoveď majú vedci
Umelá inteligencia má potenciál transformovať ľudstvo, no musíme byť na ňu pripravení.
Technológie napredujú raketovým tempom a niekedy sa strácame v novinkách, ktoré rok čo rok vychádzajú. S rozvojom umelej inteligencie je len otázkou času, kedy sa spoločnosť transformuje od základov a mnohí výskumníci uvažujú nad tým, ako takáto budúcnosť bude vyzerať.
Hoci je náročné povedať čo všetko so sebou revolúcia umelej inteligencie prinesie, mnohí vedci sa zhodujú na tom, že na túto zmenu musíme byť pripravení. Ako vysvetľujú vedci z inštitútu Maxa Plancka, jedného dňa by sa mohlo podariť vytvoriť umelú inteligenciu, ktorá by sa dokázala sama vzdelávať, bez akejkoľvek pomoci od človeka. Takáto AI by mala voľný prístup k internetu a všetkým poznatkom ľudstva.
Výskumníci sa zhodli na tom, že takáto inteligencia by sa veľmi rýchlo stala vyspelejšou než ľudia a dokázala by prevziať kontrolu nad všetkými programami a strojmi na svete. Takýto krok vpred by mohol pomôcť ľudstvo dostať do novej éry, alebo by znamenal náš koniec.
„Jednou z najväčších otázok superinteligentnej AI je to, či by svoje schopnosti využila na liečbu rakoviny, vyriešenie globálneho otepľovania, alebo ovládnutie Zeme,“ tvrdia vedci z inštitútu Maxa Plancka.
Experti v odbore umelej inteligencie a filozofi sa v rámci nového výskumu pýtali, či dokážeme mimoriadne vyspelú umelú inteligenciu ovládať, no odpoveď nás nepoteší. Vedci tvrdia, že už dnes existujú stroje, ktoré dokážu pracovať nezávisle a programátori nedokážu pochopiť, ako sa to naučili. Ak by sme mali dočinenie s mimoriadne vyspelou umelou inteligenciou, jej kontrola by bola od základu nemožná.
Existuje nejaké východisko?
Vedci našli dva spôsoby, ako by sme si mohli teoreticky s vyspelou AI poradiť. Prvým je obmedzenie funkcií vyspelej umelej inteligencie. Znamená to,napríklad odstrihnutie od internetu a iných zariadení tak, aby nemala kontakt s okolitým svetom. Takýto výtvor by však mal výrazne obmedzené schopnosti a nedáva zmysel vytvoriť superinteligentnú umelú inteligenciu, ak nakoniec nebude superinteligentná.
Neprehliadnite
Ďalšou možnosťou je nainštalovať do AI etické princípy, no na základe dnešných a historických poznatkov vieme, že aj tieto princípy majú svoje limity. V podstate výskumníci zistili, že v rámci nášho súčasného chápania výpočtovej technológie niečo také nedokážeme naprogramovať.
„V jednoduchosti povedané, ak by ste do AI nakódovali to, aby nezničila svet, mohla by sa v určitom bode zastaviť. Problém je, že neviete či bezpečnostná poistka stále analyzuje hrozbu, alebo sa spustila aby zastavila umelú inteligenciu, ktorú napadlo niečo zlé.AIAI Takýto bezpečnostný algoritmus nedokážeme použiť,“ tvrdí Iyad Rahwan, ktorý sa podieľal na výskume.
Neexistuje algoritmus, ktorý by dokázal spoľahlivo určiť či by AI zničila svet alebo nie. Rovnako nedokážeme povedať kedy sa nejaká umelá inteligencia stane superinteligentnou. Zistiť či má AI väčšiu inteligenciu ako človek spadá do rovnakého problému ako vyššie spomínaná bezpečnostná poistka.
Komentáre