Známy historik a filozof varuje pred pokročilou AI. Môže znamenať i náš koniec, hovorí
Známy historik a filozof hovorí, že by sme mali, ak nie zastaviť, tak minimálne spomaliť vývoj pokročilej umelej inteligencie. Môže sa totiž otočiť proti nám!
Téma AI (umelej inteligencie) je v posledných rokoch na pretrase. Dôvodom sú nielen úspechy vedcov v tejto oblasti, ale aj obavy, ktoré plynú z tejto technológie. Ešte vo februári tohto roka Ilya Stuskevera z OpenAI uviedol, že dnešné veľké neurónové siete sú už trochu pri vedomí. Olej do ohňa neskôr prilial bývalý inžinier Google, ktorý povedal, že LaMDA si je vedomá svojej existencie a rovnako, že má i vedomie a strach zo smrti. S podobnými tvrdeniami prišiel aj Mo Gawdat v septembri minulého roka, ktorý opísal, ako ich umelá inteligencia prekvapila. Ako prezradil, tak naprogramovali robotickú ruku poháňanú umelou inteligenciou, aby spravila jednoduchý úkon. Robotická ruka sa ale začala predvádzať, čo dokáže. To bolo mimo plánov vývojárov. Ako doplnil, tak si uvedomil, že vytvárajú „boha“. Mimochodom, Gawdat bol rovnako bývalým inžinierom spoločnosti Google.
Ďalšie znepokojivé správy
Portál Futurism.com najnovšie upozorňuje na slová známeho historika a filozofa Émile P. Torresa, ktorý uviedol (via The Washington Post), že by sme mali byť znepokojení z vývoja umelej superinteligencie (ASI).
Ide o typ AI, ktorá by bola schopná preskočiť kognitívne schopnosti ľudí. Tá by podľa jeho slov mohla znamenať i koniec ľudstva, pretože by sme neboli schopní predvídať alebo kontrolovať jej činy.
„Čo ak naprogramujeme ASI na nastolenie svetového mieru a nabúra vládne systémy, aby odpálili všetky jadrové zbrane na planéte – s odôvodnením, že ak neexistuje žiadny človek, nemôže byť ani vojna?“ napísal Torres. „Áno, mohli by sme to naprogramovať tak, aby to neurobilo. Ale čo jeho plán B?“
Torres si myslí, že dnes nie je otázkou, či sa nám podarí vyvinúť pokročilú umelú inteligencie, ale správnou otázkou je „kedy?“. Ako ďalej vysvetľuje, tak v oblasti výpočtovej techniky zaznamenávame exponenciálny pokrok, z čoho plynú aj jeho obavy týkajúce sa ASI.
Ako ďalej uviedol, táto technológia by nám pravdepodobne pomohla vyliečiť najzávažnejšie choroby, vyriešiť množstvo problémov, ktorým ako ľudia musíme čeliť, ale plynú z nej aj určité riziká.
Neprehliadnite
„Úspech ktoréhokoľvek z týchto projektov by bol najvýznamnejšou udalosťou v dejinách ľudstva,“ napísal historik. „Zrazu by sa k nášmu druhu na planéte pripojilo niečo inteligentnejšie ako my,“ doplnil.
Torres preto pripomína, že by sa mohla potenciálne obrátiť i proti nám, čo by znamenalo náš koniec. Preto navrhuje, aby sa výskum pokročilej umelej inteligencie ak nie pozastavil, tak aspoň výrazne obmedzil. Pričom prízvukuje, že ak tak nespravia výskumníci svojvoľne, tak by ich mali k tomu prinúť vlády. Odôvodňuje to i tým, že hoci sa môžu výskumníci všemožne snažiť naprogramovať akési „zadné dvierka“, ktoré by AI znemožnili otočiť sa proti nám, tak stále ide len o ľudí, ktorí jednoducho robia chyby.
Pokročilú umelú inteligenciu prirovnáva k horiacej zápalke, ktorú pokladáme vedľa továrne s ohňostrojom. Dopĺňa, že v minulosti boli tí najinteligentnejší ľudia neporaziteľní v hrách, ako sú Scrabble, Šach a ďalších, dnes už ale tomu tak nie je. Podľa niektorých prieskumov, na ktoré poukazuje, je až 50% šanca, že do roku 2050 vytvoríme AI na úrovni inteligencie človeka. Otázkou ale zostáva, ako sa potom zachová?
Záverom hovorí, že kognitívne architektúry ASI môžu byť zásadne odlišné od našej, a to je pravdepodobne tou najnepredvídateľnejšie vecou v našej budúcnosti.
Komentáre