Super AI môže znamenať náš koniec. V zlomovom momente, ktorý identifikovali vedci, sa môže otočiť proti nám!
Obráti sa umelá inteligencia proti nám? Podľa výskumníkov z Googlu a Oxfordskej univerzity to je nezvratný proces.
Umelá inteligencia je fenomén dnešnej doby. Je tomu tak aj preto, lebo ju využívame na dennom poriadku, hoci si zo mnohokrát neuvedomujeme. Umelá inteligencia je skrytá v algoritmoch vyhľadávača v aplikáciách, pomáha riadiť mestskú dopravu a podobne. Pomocou umelej inteligencie dokonca vieme rýchlo nakresliť aj obrázok iba pomocou textového vstupu, čo viedlo k vytvoreniu viacerých kontroverzných diel. Je ale možné, že by umelá inteligencia zaútočila na svojich tvorcov? Je potrebné sa obávať katastrofických scenárov, pred ktorými nás varovali rôzne filmy? Odpovede na tieto otázky poskytli vedci z Google a Oxfordskej univerzity pre časopis AI Magazine. Na informáciu upozornil web thesun.co.uk.
Zničenie ľudskej rasy na našej planéte
Oxfordskí výskumníci Michael Cohen a Michael Osborne sa v spolupráci s Marcusom Hutterom, ktorý je vedúci vedec v laboratóriu DeepMind AI spoločnosti Google sa zhodli, že k takejto situácii môže dôjsť. Umelá inteligencia totiž príde do bodu kedy si uvedomí, že môže porušovať pravidlá stanovené ich tvorcami. K porušeniu pravidiel by malo prísť kvôli nútenej súťaži o obmedzené zdroje energie. Ak sa vám táto zápletka zdá povedomá, tak sa vôbec nemýlite. Podobný príbeh sme totiž mohli vidieť v populárnej franšíze Terminátor, kde sa Skynet vzbúri svojim tvorcom po tom čo zistí, že ho môžu jednoducho vypnúť.
Cohen sa vyjadril, že takýto záver je oveľa viac pravdepodobný, než v prípade minulých publikácií. Umelá inteligencia nás vraj bude brať ako prekážku na ceste za odmenou.
„Za podmienok, ktoré sme identifikovali je náš záver oveľa silnejší ako v akejkoľvek predchádzajúcej publikácii. Existenčná katastrofa je nielen možná, ale aj pravdepodobná.“ povedal Cohen.
Energetické zdroje majú byť niečo ako potrava pre umelú inteligenciu a tá využije všetku svoju dostupnú energiu na to, aby ju získalo na zabezpečenie svojho počítača. No a prehra v tejto hre by bola samozrejme fatálna. Najnešťastnejší je hlavne fakt, že zabrániť by sme tomu vedeli iba úplným zákazom umelej inteligencie. Cohen tento stret ľudí a strojov vidí ako nezvratný, pretože žijeme vo svete obmedzených zdrojov, kde bude nevyhnutná konkurencia o získanie týchto zdrojov.
„Vo svete s obmedzenými zdrojmi existuje o tieto zdroje nevyhnutná konkurencia. A ak ste v súťaži s niečím, čo vás dokáže oklamať na každom kroku, potom by ste nemali očakávať výhru.“, uviedol Cohen.
Viacero vedcov je znepokojených z rýchleho vývoja AI
O podobnom scenári hovorí aj hypotéza Singleton. Tá hovorí, že na konci dňa, budú na Zemi dominantným druhom stroje. Otázkou je, kedy sa tak stane? Nato odpoveď aktuálne nepoznáme. Mnoho expertov sa ale domnieva, že AI sa nám môže vymknúť spod kontroly, keď dosiahne inteligenciu ľudí. To by sa ale mohlo stať už v priebehu najbližších desaťročí. Podobný názor vyjadril aj Aidan Meller, tvorca ultrarealistického robota Ai-Da, ktorý uviedol, že sme už príliš ďaleko na to, aby sme vývoj umelej inteligencie zastavili. Povedal, že drastické zmeny vo využívaní tejto technológie nás čakajú už o tri roky. Ďalej prízvukoval, že je potrebné spomaliť alebo zaviesť globálne pravidlá, aby sa nám AI nevymkla neskôr z kontroly.
Neprehliadnite
Roboti zabíjajú už dnes
Vražedné zbrane dávajú ľudia do rúk robotov už dnes. Spojené štáty, Turecko či Rusko už vyrábajú bezpilotné vojenské lietadlá a tanky, ktoré vedia s neuveriteľnou presnosťou zničiť akýkoľvek objekt bez zásahu ľudskej sily. Zatiaľ čo dnes tieto stroje nahrádzajú ľudskú činnosť, tak v budúcnosti môžu zbrane obrátiť proti svojím stvoriteľom.
Svoje obavy ohľadom umelej inteligencie už dávnejšie vyslovil Bill Gates či Elon Musk, ale aj viacerí uznávaní vedci. Je jasné, že umelá inteligencia nám pomáha pri každodenných činnostiach, ktoré sú tak omnoho ľahšie, no ich vývoj by mal byť spomalený a oveľa viac kontrolovaný. Existuje ale aj veľká časť ľudí, ktorí stoja na opačnej strane barikády. Napríklad zakladateľ Facebooku Mark Zuckerberg umelú inteligenciu vníma iba pozitívne. Verí, že pomocou nej môže byť náš svet lepší. No a nám bežným smrteľníkom zrejme neostáva nič iné, iba situáciu sledovať.
Komentáre