Umelá inteligencia môže spôsobiť zánik ľudstva, varuje nositeľ Nobelovej ceny. Šanca, že sa tak stane, je takáto!
Geoffrey Hinton, nositeľ Nobelovej ceny a odborník na umelú inteligenciu, revidoval svoj odhad, aká je šanca, že AI bude pre nás predstavovať katastrofu.
Umelá inteligencia je dnes všadeprítomná a čoraz viac preniká hlbšie do našich každodenných životov. V uplynulých dňoch spoločnosť Pudu Robotics napríklad predstavila nový model humanoidných robotov s názvom Pudu 9, ktorý má potenciál nahradiť milióny pracovných miest vo viacerých sektoroch.
Spomenúť môžeme aj nedávny incident, kedy Internet zaplavilo aj video, v ktorom jeden robot presvedčil ostatných, aby opustili pracovisko.
Existuje však reálna šanca, že by umelá inteligencia raz prevzala kontrolu nad ľudstvom? Mnohí výskumníci tvrdia, že takýto scenár je veľmi nepravdepodobný v najbližších desaťročiach. Mohlo by sa teda zdať, že máme všetko pod kontrolou a nič nám nehrozí. S týmto názorom sa však nie všetci stotožňujú.
Umelá inteligencia sa vyvíja rýchlejšie, než sa pôvodne predpokladalo
Geoffrey Hinton, nositeľ Nobelovej ceny a jeden z popredných odborníkov na umelú inteligenciu, najnovšie pre server The Guardian uviedol, že pravdepodobnosť, že umelá inteligencia prinesie pre ľudstvo katastrofu, je vyššia, než sa doposiaľ predpokladalo. Svoje tvrdenie podložil argumentom, že rýchlosť technologického pokroku je oveľa rýchlejšia, než aké boli očakávania odborníkov v minulosti.
Zatiaľ čo pred pár rokmi hovoril, že pravdepodobnosť takéhoto scenára je iba 10 % v horizonte najbližších desaťročí, dnes svoj odhad upravil na 10 až 20 %.
Neprehliadni
Hinton ďalej upozorňuje, že ľudstvo nikdy v histórii nepracovalo so systémami, ktoré sú inteligentnejšie ako my sami. Dodáva, že je veľmi málo prípadov, keď menej inteligentný subjekt ovládal inteligentnejší. Jediným známejším príkladom podľa neho je vzťah medzi dieťaťom a matkou, kedy menej inteligentný tvor získal kontrolu nad viac inteligentným.
„Evolúcia zašla tak ďaleko, že dala dieťaťu schopnosť kontrolovať matku, ale to je jediný príklad, ktorý poznám,“ vyjadril sa Hinton.
„Ľudia sú ako deti v porovnaní s AI“
Geoffrey Hinton prirovnáva ľudstvo k trojročnému dieťaťu. Hovorí, že v porovnaní s pokročilými systémami umelej inteligencie sme ako malé deti, ktoré ešte nerozumejú plnému rozsahu nebezpečenstiev.
„Je to veľmi, veľmi rýchle, oveľa rýchlejšie, ako som si myslel,“ povedal. „Je to veľmi desivé,“ dodal.
Väčšina technologických odborníkov sa zhoduje na tom, že systémy umelej inteligencie budú aj naďalej pokračovať v rýchlom vývoji a že nie sme tak ďaleko od momentu, keď tieto systémy dosiahnu úroveň ľudskej inteligencie a dokonca ju prekročia. Ak hovoríme o časovom horizonte, kedy by sa tak mohlo stať, väčšina odborníkov predpovedá, že by to mohlo byť v priebehu najbližších dvoch desaťročí.
Hinton preto apeluje na nutnosť silnejšej regulácie umelej inteligencie. Zdôrazňuje, že trhové mechanizmy samy osebe nestačia na zabezpečenie bezpečného vývoja.
„Obávam sa, že neviditeľná ruka trhu nás neochráni. Ponechať reguláciu iba na ziskové motívy veľkých spoločností by bolo veľmi nebezpečné a rozhodne nie postačujúce na zabezpečenie bezpečnosti,“ varoval Hinton. „Jediný spôsob, ako donútiť veľké spoločnosti k zodpovednosti, je zavedenie vládnych regulácií,“ doplnil.
Pre tých, ktorí o ňom nepočuli, Geoffrey Hinton je jedným z trojice „krstných otcov AI“, ktorý za svoje prelomové práce získal cenu ACM AM Turing – čo je ekvivalent Nobelovej ceny v oblasti počítačovej vedy. V roku 2024 získal dokonca aj Nobelovu cenu za fyziku.
Aby sme však na AI nehľadeli iba negatívne, Yann LeCun, jeden z trojice priekopníkov umelej inteligencie a popredný výskumník zo spoločnosti Meta Platforms, tvrdí, že AI by „v skutočnosti mohla zachrániť ľudstvo pred vyhynutím“.
Komentáre