Existuje reálna hrozba, že umelá inteligencia prevezme moc nad ľuďmi a ovládne nás?
Vedci sa pozreli bližšie na schopnosti umelej inteligencie, aby zistili, ži predstavuje pre nás existenčnú hrozbu.
Umelá inteligencia je fenoménom dnešnej doby. Pravdepodobne si už v minulosti vyskúšal jeden z jazykových modelov, ako sú napríklad ChatGPT, Gemini alebo ďalšie. Nedávno sme ti priniesli článok, v ktorom sme sa venovali obávam z používania pokročilých modelov, ktoré vzniesla spoločnosť OpenAI.
Predstavuje pre nás ale umelá inteligencia existenčnú hrozbu? Názory na túto problematiku sa rôznia. S pribúdajúcimi schopnosťami, čo AI dokáže, sa môže zdať, že áno. Pravdepodobne aj teba pri tejto téme napadol kultový film Terminátor, v ktorom sa stroje rozhodli podmaniť si ľudstvo. Je ale takýto scenár realistický?
Podľa viacerých výskumov môže AI jedného dňa nadobudnúť zručnosť učiť sa novým veciam bez toho, aby sme do tohto procesu zasahovali. Takáto umelá inteligencia by sa rýchlo stala vyspelejšou ako ľudstvo, čo by mohlo potenciálne prerásť v schopnosť prevziať kontrolu nad strojmi a následne aj nami.
Hrozí nám, že stroje získajú kontrolu nad ľuďmi?
Predošlé práce poukázali na to, že umelá inteligencia je schopnou riešiť čoraz komplikovanejšie úlohy, na ktoré nebola navrhnutá. Inými slovami, že dokáže potenciálne získať vedomosti a zručnosti, ktoré sme ju nikdy nenaučili. To v mnohých vyvoláva strach, že jedného dňa, by sa mohla prípadne vzoprieť jej tvorcom, teda nám ľuďom.
Podľa nového výskumu z Univerzity Bath a Technickej univerzity v Darmstadte v Nemecku veľké jazykové modely (LLMs) ako ChatGPT nemôžu samostatne získavať nové zručnosti alebo sa učiť, čo znamená, že nepredstavujú existenčnú hrozbu pre ľudstvo.
Neprehliadni
„Obávame sa, že ako sa modely stávajú väčšími, tak neskôr budú schopné riešiť nové problémy, ktoré v súčasnosti nedokážeme predvídať, čo predstavuje hrozbu, že tieto väčšie modely môžu získať nebezpečné schopnosti vrátane uvažovania a plánovania.“, uviedol Dr Tayyar Madabushi.
Je ale táto obava opodstatnenou? Podľa výskumníkov nie je. Práca vedcov hovorí, že strach, že AI model sa vytrhne kontrole a urobí niečo úplne neočakávané, nie je realistický.
Výskumníci hovoria, že umelá inteligencia vo svojej podstate zostáva kontrolovateľná, predvídateľná a bezpečná. K tomuto záveru došli na základe tisícok experimentov, ktoré vykonali.
Vedci vykonali experimenty na testovanie schopnosti LLMs vykonávať úlohy, s ktorými sa modely nikdy predtým nestretli, ide o tzv. emergentné schopnosti. Zistili, že schopnosť modelov odpovedať na otázky o sociálnych situáciách bez explicitného tréningu nie je dôkazom ich „vedomostí“ o týchto situáciách, ale skôr výsledkom schopnosti modelov vykonávať úlohy na základe niekoľkých poskytnutých príkladov, známej ako „učenie v kontexte“ (ICL).
„Prevládajúci príbeh, že tento typ AI je hrozbou pre ľudstvo, bráni širokému prijatiu a rozvoju týchto technológií a tiež odvádza pozornosť od skutočných problémov, ktoré si vyžadujú našu pozornosť,“ povedal Dr Harish Tayyar Madabushi, počítačový vedec z University of Bath.
Ďalej ale dopĺňajú, že táto technológia môže byť potenciálne zneužitou. Napríklad za účelom vytvárania falošných správ, realizácie podvodov a podobne.
„Naše výsledky vôbec neznamenajú, že AI nie je hrozbou. Skôr ukazujeme, že údajný vznik komplexných zručností myslenia spojených so špecifickými hrozbami nie je podložený dôkazmi, a že môžeme kontrolovať proces učenia,..“, uviedol Profesor Gurevych.
Inými slovami, technológia umelej inteligencie nie je hrozbou, no v nesprávnych rukách, môže narobiť problémy.
Komentáre