SpravodajstvoVeda a výskum

Expert na AI bezpečnosť tvrdí, že žijeme v klamstve, keď si myslíme, že pokročilú umelú inteligenciu budeme vedieť ovládať

Umelá inteligencia zmení našu spoločnosť, no je na nás, či k lepšiemu alebo k horšiemu. Podľa rozsiahleho výskumu neexistuje žiadny dôkaz, že AI je možné ovládať.

Umelá inteligencia sa už zakomponovala do našich životov, no väčšina veľkých otázok sa týka najmä jej budúcnosti. Ako bude vyzerať umelá inteligencia o niekoľko rokov a je to technológia, ktorej by sme sa mali obávať?  

Názory sa líšia a zatiaľ čo niektorí výskumníci prinášajú optimistické predpoklady, iní varujú, aby sme si držali zdravú mieru opatrnosti. Rovnakého názoru sa drží aj odborník na AI bezpečnosť, doktor Roman V. Yampolskiy, informuje portál Taylor and Francis. Yampolskiy verí, že umelá inteligencia predstavuje najväčší problém, akému ľudstvo vo svojej histórii čelilo.  

Odoberajte Vosveteit.sk cez Telegram a prihláste sa k odberu správ
umela inteligencia_titulka
Zdroj: Ole.CNX / Shutterstock.com

AI expert tvrdí, že pokročilé AI systémy majú rovnaký potenciál nám pomôcť, ako nám uškodiť. Záleží, ako sa k tomu postavíme.  

“Takmer určite čelíme udalosti, ktorá má potenciál spôsobiť existenčnú katastrofu. Čo sa týka umelej inteligencie, tá by nám mohla priniesť blahobyt alebo záhubu,” hovorí Yampolskiy.  

Yampolskiy vykonal naozaj obšírny výskum existujúcich štúdií na tému umelej inteligencie a zistil, že neexistujú žiadne dôkazy o tom, že umelú inteligenciu dokážeme bezpečne kontrolovať. Podľa jeho slov existujú čiastočné bezpečnostné mechanizmy, ktoré ale nebudú stačiť. Veľká časť vedeckej komunity verí, že problém kontroly vyspelej umelej inteligencie sa dá vyriešiť, no podľa AI experta vedci zakladajú svoje tvrdenia na nepodložených domnienkach.  

Dnes viacero vedúcich technologických spoločností pracuje na vývoji ešte dokonalejších AI systémov. Ešte pred dokončením takýchto monumentálnych projektov však potrebujeme mať záruku, že vytvorenú umelú inteligenciu vieme ovládať.  

Vyspelá umelá inteligencia so sebou bude vždy niesť určité riziko

Čo ale znamená to, že umelú inteligenciu nebudeme schopní plne kontrolovať? Yampolskiy vysvetľuje, že pokročilá umelá inteligencia bude stále predstavovať určité riziko, zatiaľ čo nám poskytne nejaké výhody. Cieľom vedcov by malo byť minimalizovanie týchto rizík a maximalizovanie výhod.  

Pokročilá umelá inteligencia sa od súčasných AI modelov líši niekoľkými vlastnosťami. Pokročilá AI sa dokáže naučiť nové správanie, prispôsobiť svoj výkon a konať autonómne v situáciách, ktoré sú pre ňu nové. Ďalším problémom vyspelej umelej inteligencie je to, že by sa stala oveľa múdrejšia ako my. V takomto prípade nedokáže AI vysvetliť, prečo dospela k určitému rozhodnutiu, pretože by sme jej vysvetleniu nedokázali pochopiť. Ak nedokážeme pochopiť koncepty s akým umelá inteligencia pracuje, nedokážeme pochopiť samotnému problému a tým znižujeme naše šance na vyhnutie sa zlému výsledku v budúcnosti.  

Umelá inteligencia už teraz dokáže robiť rozhodnutia v oblasti zdravotníctva, investovania, zamestnávania, bankovníctva a ďalších. Takáto umelá inteligencia by sa mala vedieť vysvetliť, aby sme mali záruku, že nie je zaujatá. Ak budeme odpovede umelej inteligencie brať ako 100% správne, nebudeme vedieť či sa mýli alebo zámerne manipuluje.  

Yampolskiy vysvetľuje, že čím sa zlepšujú schopnosti umelej inteligencie, tým rastie aj jej autonómia. Zároveň však nad ňou postupne strácame kontrolu. Zároveň však tvrdí, že vyspelá umelá inteligencia by sa nám nevzoprela, už od začiatku by bola mimo našej kontroly. Podľa jeho názoru by bezpečnejšia umelá inteligencia mala mať schopnosť vrátiť určité zmeny späť, mala by sa dať limitovať, mala by byť transparentná a ľahko chápateľná v ľudskej reči.  

Prihláste sa k odberu správ z Vosveteit.sk cez Google správy
Tagy
Zobraziť komentáre
Close
Close