Zastavte vývoj vyspelej umelej inteligencie! Otvorený list podpísalo viacero AI expertov, dokonca aj Elon Musk
Veľa významných AI výskumníkov podpísalo otvorený list, ktorý nás varuje pred nekontrolovaným vývojom umelej inteligencie.
Umelá inteligencia v posledných rokoch pokročila míľovými krokmi. Obrovskej popularite sa teší platforma ChatGPT, ktorú si môžete vyskúšať zdarma, no AI implementujú do svojich platforiem aj technologický giganti Google a Microsoft.
Mnohí veria, že umelá inteligencia má potenciál zmeniť ľudstvo, no druhý tábor má z novej technológie obavy. Podľa ich názoru má umelá inteligencia rovnaký potenciál ľudstvo zničiť, ako mu môže pomôcť. Nič však nevyvolá dôveru v umelú inteligenciu viac ako otvorený list, ktorý do dnešného dňa podpísalo mnoho AI expertov vrátane Elona Muska. Predmet tohto listu, aby sme zastavili všetky veľké experimenty týkajúce sa umelej inteligencie.
„Umelá inteligencia môže predstavovať vážne riziká pre spoločnosť a ľudstvo, čo dokázali obšírne výskumy a potvrdili to najlepšie AI laboratóriá na svete,“ píše sa v liste.
Autori sa zastávajú názoru, že vyspelá umelá inteligencia môže predstavovať významnú zmenu v histórii života na planéte, preto by mala byť vyvíjaná s patričnou opatrnosťou. Problémom je, že autori túto mieru opatrnosti nevidia. V poslednej dobe sa vývojári AI pustili do pretekov vo vývoji tejto technológie a tie sa podľa autorov vymkli spod kontroly.
„Rôzne AI laboratóriá vyvíjajú a spúšťajú čoraz pokročilejšie digitálne mysle, ktoré nikto, ani ich tvorcovia, nedokáže pochopiť, predpovedať a spoľahlivo ovládať,“ píše sa ďalej v liste.
Krôčik od apokalypsy?
Umelá inteligencia už môže v rôznych sférach konkurovať človeku. Najväčšou obavou je zaplavenie informačných kanálov článkami napísanými umelou inteligenciou. Takéto články nemusia byť pravdivé, čo dokazuje fakt, že sa dnešná AI môže z času na čas pomýliť. Autori sa v liste pýtajú či naozaj chceme, aby umelá inteligencia nahradila väčšinu zamestnaní. Obávajú sa, že sofistikovaná AI by nás mohla eventuálne prerásť a v najhoršom prípade nás nahradiť úplne.
Nenavrhujú však úplný zákaz vývoja umelej inteligencie. Vo výskume tejto revolučnej technológie by sme však mali pokračovať až vtedy, keď si budeme absolútne istí, že sa dokážeme vysporiadať so všetkými rizikami.
Neprehliadnite
„V určitom momente by sme mali vykonať nezávislú recenziu pred pokračovaním vo vývoji vyspelých umelých inteligencií,“ vyzývajú autori listu.
Navrhujú, aby všetky AI laboratóriá aspoň na 6 mesiacov zastavili vývoj a tréning všetkých umelých inteligencií, ktoré sú vyspelejšie ako GPT-4. Táto pauza by mala byť verejne overiteľná. Ak laboratórium nedokáže dostatočne skoro svoje projekty zastaviť, zasiahnuť by mala vláda.
Počas tohto obdobia by sa mali experti zamyslieť nad bezpečnostnými protokolmi pre vývoj pokročilej umelej inteligencie. Tieto postupy by mali prejsť tými najťažšími testami aby sa uistilo, že v prípade núdze budú skutočne fungovať.
List uzatvárajú tím, že človek môže fungovať po boku umelej inteligencie. Musíme mať ale záruku, že vytvoríme bezpečnú a spoľahlivú umelú inteligenciu. Súčasné preteky o vytvorenie čo najlepšej AI však vytvárajú systémy, ktoré by sa mohli veľmi rýchlo vymknúť spod kontroly.
Komentáre