„Umelá inteligencia už dnes má prostriedky na to, aby sa vzbúrila“, hovoria experti. AI prekonala ďalší míľnik, ktorý desí ľudí
Výskumníci dosiahli autonómnu replikáciu umelej inteligencie bez dohľadu človeka. Tvrdia, že sme prekročili jednu z hraníc AI vývoja.
Umelá inteligencia fascinuje a desí zároveň. Pred pár rokmi sme tu mali jednoduchých chatbotov, ktorý síce dokázali reagovať na tvoje slová, no bolo zjavné, že ide len o jednoduchý algoritmus, ktorý reaguje na kľúčové slová v tvojom texte.
Dnes máme viacero veľkých jazykových modelov, ktoré dokážu prirodzene kopírovať ľudský jazyk a poradiť nám s takmer akýmkoľvek problémom. Hoci už dnes sú schopnosti chatbotov ako ChatGPT alebo Gemini fascinujúce, lídri v odbore hovoria, že umelá inteligencia zájde ešte oveľa ďalej. Lenže akou cestou sa táto technológia vydá? Práve táto otázka vyvoláva zmiešané pocity, pretože rovnakým dielom, ako nám dokáže vyspelá AI pomôcť, tak nám vie aj uškodiť.
Experti sa ale zhodujú na tom, že nech sa budúcnosť AI bude uberať akýmkoľvek smerom, mali by existovať určité hranice. Tie by sme prekročiť nemali. Portál Live Science upozorňuje na výskum, podľa ktorého umelá inteligencia jednu z týchto hraníc prekročila.
Mali by sme sa pripraviť na najhoršie?
Ak sa pozrieme na budúcnosť AI, jedným z najznepokojivejších scenárov je vyspelá umelá inteligencia, ktorá by sa vzbúrila. Problém s tým, ak by inteligenčne umelá inteligencia prekonala ľudí, je ten, že ani tie najväčšie mozgy sveta by jej nestačili. V praxi by sme teda nevedeli predpokladať všetky možné scenáre, ktoré by mohli nastať a spôsobiť nám problémy. Keďže nás nenapadnú všetky možné scenáre, výskumníci nedokážu naprogramovať všetky potenciálne “poistky” proti takýmto scenárom.
Jeden z problémov, ktorý momentálne riešia odborníci na AI, je problém s počítačmi, ktorý sa datuje ešte do druhej svetovej vojny a objavil ho Alan Turing. Turing je človek, ktorý rozlúštil Enigmu. Ide o problém zastavenia. Ten v podstate hovorí, že niekedy nevieme predpovedať, či sa počítač dokáže dopracovať k výsledku a zastaví sa, alebo sa zacyklí v snahe nájsť odpoveď. Ak by sme umelej inteligencii povedali, že “nemá zničiť svet”, nevedeli by sme, či už našla odpoveď alebo, ju bude hľadať donekonečna.
Neprehliadni
Lenže ako by sme sa vedeli dopracovať k superinteligentnej AI? Jednou z možných ciest, na ktorú upozorňuje portál Live Science, je dať umelej inteligencii schopnosť replikovať sa bez ľudského dozoru. Mnohí túto vlastnosť považujú za jednu z hraníc AI a nedávno sa nám ju podľa nového výskumu podarilo prekročiť.
V rámci výskumu použili AI modely od Mety a Alibaby. Cieľom štúdie bolo zistiť, či sa AI modely dokážu nekontrolovateľne rozmnožovať. Naprieč 10 testami sa ukázalo, že existujúce AI modely v 50 až 90% prípadov dokázali vytvoriť separátne a funkčné repliky.
“Výsledky nášho výskumu naznačujú, že umelá inteligencia už dnes môže mať prostriedky na to, aby sa vzbúrila. Veríme, že táto štúdia poslúži ako včasné varovanie pre spoločnosť. Mali by sme vynakladať oveľa viac úsilia na to, aby sme pochopili a vyhodnotili potenciálne riziká AI systémov, ktoré sú stále z veľkej časti novou nepreskúmanou hranicou,” píšu výskumníci.
S umelou inteligenciou treba opatrne, no netreba sa jej báť
Zároveň je nutné poukázať na to, že tento výskum zatiaľ neprešiel recenziami vedeckej komunity. Znamená to, že hoci sa v rámci tohto výskumu vedcom podarilo dosiahnuť to, že sa umelá inteligencia sama replikovala, nemusí sa to podariť ostatným výskumníkom. Hoci ide o znepokojivú správu, šance na vzniknutie nekontrolovateľne sa rozmnožujúcej AI môžu byť v skutočnosti oveľa nižšie.
Napriek tomu mnohí odborníci vnímajú AI ako hrozbu. Netvrdia, že by sme sa tejto technológie mali báť a nerozvíjať ju ďalej. Mali by sme mať pochopenie pre to, čo robíme. Iní odborníci tvrdia, že by sme mali mať vždy “ruku na vypínači” a okamžite zastaviť AI model, ak by začal robiť niečo, čomu nechápeme.
Komentáre