„Umelá inteligencia už dnes má prostriedky na to, aby sa vzbúrila“, hovoria experti. AI prekonala ďalší míľnik, ktorý desí ľudí

Výskumníci dosiahli autonómnu replikáciu umelej inteligencie bez dohľadu človeka. Tvrdia, že sme prekročili jednu z hraníc AI vývoja.

umela inteligencia zla umela inteligencia
Zdroj: Vosveteit.sk, AI

Umelá inteligencia fascinuje a desí zároveň. Pred pár rokmi sme tu mali jednoduchých chatbotov, ktorý síce dokázali reagovať na tvoje slová, no bolo zjavné, že ide len o jednoduchý algoritmus, ktorý reaguje na kľúčové slová v tvojom texte.  

Dnes máme viacero veľkých jazykových modelov, ktoré dokážu prirodzene kopírovať ľudský jazyk a poradiť nám s takmer akýmkoľvek problémom. Hoci už dnes sú schopnosti chatbotov ako ChatGPT alebo Gemini fascinujúce, lídri v odbore hovoria, že umelá inteligencia zájde ešte oveľa ďalej. Lenže akou cestou sa táto technológia vydá? Práve táto otázka vyvoláva zmiešané pocity, pretože rovnakým dielom, ako nám dokáže vyspelá AI pomôcť, tak nám vie aj uškodiť.  

Odoberaj Vosveteit.sk cez Telegram a prihlás sa k odberu správ

Experti sa ale zhodujú na tom, že nech sa budúcnosť AI bude uberať akýmkoľvek smerom, mali by existovať určité hranice. Tie by sme prekročiť nemali. Portál Live Science upozorňuje na výskum, podľa ktorého umelá inteligencia jednu z týchto hraníc prekročila.

Zla umela inteligencia
Zdroj: OpenClipart-Vectors z Pixabay

Mali by sme sa pripraviť na najhoršie?

Ak sa pozrieme na budúcnosť AI, jedným z najznepokojivejších scenárov je vyspelá umelá inteligencia, ktorá by sa vzbúrila. Problém s tým, ak by inteligenčne umelá inteligencia prekonala ľudí, je ten, že ani tie najväčšie mozgy sveta by jej nestačili. V praxi by sme teda nevedeli predpokladať všetky možné scenáre, ktoré by mohli nastať a spôsobiť nám problémy. Keďže nás nenapadnú všetky možné scenáre, výskumníci nedokážu naprogramovať všetky potenciálne “poistky” proti takýmto scenárom. 

Jeden z problémov, ktorý momentálne riešia odborníci na AI, je problém s počítačmi, ktorý sa datuje ešte do druhej svetovej vojny a objavil ho Alan Turing. Turing je človek, ktorý rozlúštil Enigmu. Ide o problém zastavenia. Ten v podstate hovorí, že niekedy nevieme predpovedať, či sa počítač dokáže dopracovať k výsledku a zastaví sa, alebo sa zacyklí v snahe nájsť odpoveď. Ak by sme umelej inteligencii povedali, že “nemá zničiť svet”, nevedeli by sme, či už našla odpoveď alebo, ju bude hľadať donekonečna.  

Lenže ako by sme sa vedeli dopracovať k superinteligentnej AI? Jednou z možných ciest, na ktorú upozorňuje portál Live Science, je dať umelej inteligencii schopnosť replikovať sa bez ľudského dozoru. Mnohí túto vlastnosť považujú za jednu z hraníc AI a nedávno sa nám ju podľa nového výskumu podarilo prekročiť.  

V rámci výskumu použili AI modely od Mety a Alibaby. Cieľom štúdie bolo zistiť, či sa AI modely dokážu nekontrolovateľne rozmnožovať. Naprieč 10 testami sa ukázalo, že existujúce AI modely v 50 až 90% prípadov dokázali vytvoriť separátne a funkčné repliky.  

“Výsledky nášho výskumu naznačujú, že umelá inteligencia už dnes môže mať prostriedky na to, aby sa vzbúrila. Veríme, že táto štúdia poslúži ako včasné varovanie pre spoločnosť. Mali by sme vynakladať oveľa viac úsilia na to, aby sme pochopili a vyhodnotili potenciálne riziká AI systémov, ktoré sú stále z veľkej časti novou nepreskúmanou hranicou,” píšu výskumníci.

Žijúci Nostradamus varuje pred umelou inteligenciou
Zdroj: Vosveteit.sk, Bing Image creator

S umelou inteligenciou treba opatrne, no netreba sa jej báť

Zároveň je nutné poukázať na to, že tento výskum zatiaľ neprešiel recenziami vedeckej komunity. Znamená to, že hoci sa v rámci tohto výskumu vedcom podarilo dosiahnuť to, že sa umelá inteligencia sama replikovala, nemusí sa to podariť ostatným výskumníkom. Hoci ide o znepokojivú správu, šance na vzniknutie nekontrolovateľne sa rozmnožujúcej AI môžu byť v skutočnosti oveľa nižšie.  

Napriek tomu mnohí odborníci vnímajú AI ako hrozbu. Netvrdia, že by sme sa tejto technológie mali báť a nerozvíjať ju ďalej. Mali by sme mať pochopenie pre to, čo robíme. Iní odborníci tvrdia, že by sme mali mať vždy “ruku na vypínači” a okamžite zastaviť AI model, ak by začal robiť niečo, čomu nechápeme.

Prihlás sa k odberu správ z Vosveteit.sk cez Google správy

Komentáre