„Krstný otec umelej inteligencie“ varuje, takáto je šanca, že sa AI vymkne spod ľudskej kontroly. Následky môžu byť katastrofické
Geoffrey Hinton varuje, že umelá inteligencia by sa mohla vymknúť ľudskej kontrole. Upozorňuje na riziká nekontrolovaného vývoja AI a kritizuje nedostatok bezpečnostných opatrení v technologických firmách.
Geoffrey Hinton, jeden z priekopníkov v oblasti umelej inteligencie, znovu prehovoril. A jeho slová rozhodne nie sú také, ktoré by sme mohli len tak prepočuť. Podľa Hintona existuje až 10 až 20 % šanca, že sa AI v budúcnosti vymkne ľudskej kontrole. A čo je ešte horšie, ľudia si podľa neho vôbec neuvedomujú, ako blízko môžeme byť k vážnym problémom. Na novinku upozorňuje portál Techspot.com.
AI môže narásť na nebezpečné monštrum
V rozhovore pre CBS prirovnal Hinton vývoj AI k vychovávaniu tigra.
„Je to ako keby ste si priniesli domov rozkošné tigríča. Pokiaľ si nie ste istí, že vás v dospelosti nebude chcieť zabiť, mali by ste sa mať na pozore.“
Hoci jeho objavy v oblasti neurónových sietí stáli pri zrode moderných AI ako ChatGPT, dnes Hinton varuje pred ich nekontrolovaným vývojom. Technologický pokrok je podľa neho rýchlejší, než by bol bezpečný, a firmy viac riešia, kto bude prvý na trhu, ako to, čo môže nekontrolovaný vývoj spôsobiť.
Okrem toho upozorňuje, že súčasné modely umelej inteligencie nemajú pevnú kontrolu nad tým, ako sa správajú. Ak ich necháme rásť bez pravidiel, je podľa neho len otázkou času, kedy sa situácia vymkne spod kontroly.
Odchod z Googlu, aby mohol hovoriť nahlas
Hinton už v roku 2023 opustil Google, aby mohol bez obmedzení upozorňovať na riziká.
Neprehliadni
„Stačí sa pozrieť, aký pokrok AI spravila za posledných päť rokov. A teraz si predstavte, že rovnaké tempo bude pokračovať,“ hovorí.
Ak si túto predstavu premietneme do budúcnosti, podľa Hintona nás čakajú skôr nočné mory ako utopické scenáre.
Obzvlášť ho znepokojuje snaha veľkých technologických hráčov minimalizovať regulácie.
„Je ich málo už teraz a oni lobujú za ešte menej,“ dodáva.
Podľa neho by bolo ideálne, keby sa bezpečnosti venovala aspoň tretina všetkých výpočtových kapacít, nie len mizivé percento ako dnes.
Kto stihne prvý, ten vyhráva
Veľké technologické firmy, ako napríklad Google, podľa Hintona uprednostňujú rýchlosť a profit pred bezpečnosťou. Sklamanie cíti aj z toho, že Google zmenil svoj pôvodný záväzok, že jeho AI nebude nikdy využitá na vojenské účely. Tento krok podľa neho ukazuje, že etika často ustupuje pred finančnými záujmami.
Čoraz viac odborníkov a bývalých zamestnancov firiem ako OpenAI alebo Google tiež varuje, že interný tlak na rýchly vývoj AI technológií vytvára prostredie, v ktorom sa bezpečnostné opatrenia často odsúvajú na vedľajšiu koľaj.
Ostatní odborníci to vidia inak
Nie všetci odborníci zdieľajú Hintonove obavy. Jeho kolega a ďalší „krstný otec AI“ Yann LeCun sa na situáciu pozerá oveľa optimistickejšie. Podľa neho sú predstavy o tom, že AI spôsobí vyhynutie ľudstva, „úplne smiešne“. Podľa LeCuna si AI vyžaduje dohľad a rozumné riadenie, no nie paniku.
Jedno je však isté, umelá inteligencia sa vyvíja tak rýchlo, že aj keď veríš skeptikom alebo optimistom, diskusiu o jej bezpečnosti by sme rozhodne nemali brať na ľahkú váhu. Budúcnosť AI sa tvorí už dnes, a každý krok, ktorý spravíme, môže byť kľúčový.
Komentáre