Šéf OSN varuje pred umelou inteligenciou: Ak ju neudržíme pod kontrolou, môže prerásť do existenčného rizika
OSN varuje pred vývojom umelej inteligencie, ktorú už človek nemusí vedieť kontrolovať. Volker Türk žiada záväzné pravidlá aj zákaz autonómnych zbraní, ktoré rozhodujú o živote bez ľudského zásahu.
Umelá inteligencia sa za posledné roky dostala z laboratórií priamo medzi bežných ľudí. Pomáha písať texty, vytvára obrázky, analyzuje údaje a čoraz častejšie zasahuje aj do oblastí, v ktorých môže mať chyba vážne následky. Práve preto podľa šéfa Úradu vysokého komisára OSN pre ľudské práva Volkera Türka nestačí sledovať iba to, čo AI dokáže dnes. Svet by mal riešiť aj to, kam sa môže technológia posunúť.
Türk 7. septembra vystúpil pred Radou OSN pre ľudské práva v Ženeve a vyzval krajiny, aby zaviedli záväzné pravidlá, nezávislý dohľad a jasné hranice pre vývoj umelej inteligencie. Upozornil pritom na možnosť, že niektoré budúce systémy získajú schopnosti, ktoré ich tvorcovia už nedokážu spoľahlivo kontrolovať.
Nejde pritom iba o teoretickú predstavu zo sci-fi filmov. Podľa Türka treba bezpečnosť AI riešiť ešte predtým, ako vzniknú systémy s výrazne väčšou mierou samostatnosti.
„AI, ktorá unikne zo svojho testovacieho prostredia alebo vydiera vývojárov, aby zabránila svojmu vypnutiu, je AI, ktorá je príliš mocná,“ povedal Türk.
Kto vlastne kontroluje umelú inteligenciu?
Jednou z vecí, na ktoré šéf OSN upozornil, je rastúca koncentrácia technologickej moci. Najvýkonnejšie modely dnes nevznikajú v malých laboratóriách niekde na okraji technologického sveta. Za ich vývojom stoja veľké spoločnosti, ktoré disponujú obrovským množstvom dát, výpočtového výkonu a finančných zdrojov. Türk preto nechce, aby sa diskusia o AI sústredila iba na technické otázky. Podľa neho musí byť súčasťou debaty aj to, kto má k technológii prístup, kto nastavuje jej pravidlá a kto nesie zodpovednosť za jej následky.
„Potrebujeme nezávislé overovanie a oveľa užšiu spoluprácu v oblasti bezpečnosti v rámci celého odvetvia,“ uviedol.
OSN zároveň upozorňuje, že umelá inteligencia môže výrazne ovplyvniť pracovný trh, demokraciu aj životné prostredie. Technológia môže ľuďom pomáhať, no zároveň môže meniť spôsob, akým firmy zamestnávajú ľudí, ako sa šíria informácie a ako vzniká verejná mienka. Podľa Türka by preto mal byť pri vývoji AI dôležitý jeden základný princíp, technológia má slúžiť ľuďom, nie naopak.
Neprehliadni
Najväčšie obavy vyvolávajú autonómne zbrane
Ešte citlivejšia situácia vzniká v prípade vojenského využitia umelej inteligencie. Moderné armády experimentujú so systémami, ktoré dokážu identifikovať ciele, vyhodnocovať situáciu a v niektorých prípadoch vykonať útok s čoraz menším zásahom človeka. Práve táto hranica robí z autonómnych zbraní jednu z najspornejších oblastí vývoja AI.
Türk uviedol, že ho vydesili správy o údajnom nasadení plne autonómnych dronov ruskými silami na Ukrajine. Podľa dostupných informácií mali takéto drony v auguste zabiť troch Ukrajincov. Ukrajina zároveň údajne podobné technológie testovala. Problém spočíva v tom, že autonómny systém môže dostať úlohu vyhľadať a zneškodniť cieľ bez toho, aby človek schválil každý jednotlivý útok. Ak algoritmus cieľ nesprávne identifikuje, následky môže niesť človek, ktorý už do rozhodovacieho procesu nemusí priamo zasiahnuť.
„Pripájam sa k výzvam na urgentný zákaz zbraní, ktoré môžu pripraviť človeka o život bez ľudského zásahu,“ povedal Türk.
Práve otázka, či má mať stroj možnosť sám rozhodnúť o použití smrtiacej sily, patrí medzi témy, pri ktorých sa spájajú technologické, vojenské aj právne otázky.
Viac ako 60 konfliktov vo svete
Türk svoje vystúpenie neobmedzil iba na umelú inteligenciu. Upozornil aj na širšiu bezpečnostnú situáciu vo svete. Podľa jeho slov v súčasnosti prebieha viac ako 60 ozbrojených konfliktov, do ktorých je zapojená najmenej jedna krajina. Takéto číslo svet podľa OSN nezažil od konca druhej svetovej vojny.
Do tejto situácie zároveň vstupujú nové technológie. Drony, satelitné systémy, autonómne platformy a umelá inteligencia menia spôsob vedenia vojny. Technologický pokrok tak neprináša iba nové možnosti pre civilné využitie, ale aj nové nástroje pre armády. Türk upozornil aj na obnovené boje medzi Spojenými štátmi a Iránom a ich širšie geopolitické a ekonomické dôsledky. Civilné obete podľa neho pribúdajú aj v ďalších oblastiach konfliktov, pričom spomenul napríklad svadbu v iránskej provincii Hormozgan.
Na Ukrajine podľa neho pokračuje vojna, ktorá zasahuje civilné obyvateľstvo a kritickú energetickú infraštruktúru. Úmrtia a zranenia pritom hlásia aj na území Ruska.
OSN upozornila aj na situáciu v Gaze
Veľká časť vystúpenia sa týkala aj Blízkeho východu. Türk odsúdil pokračujúce izraelské útoky v Pásme Gazy a obmedzenia pri poskytovaní humanitárnej pomoci. Kritiku nasmeroval aj na plány týkajúce sa núteného vysídľovania Palestínčanov a na vyjadrenia niektorých vysokopostavených izraelských predstaviteľov, ktoré označil za dehumanizujúce. Zároveň odsúdil popravy a mučenie, ktoré podľa správ vykonali ozbrojené skupiny napojené na Hamas. V prípade okupovaného Západného brehu Jordánu vyzval na kroky proti izraelskej anexii, rozširovaniu osád a dodávkam zbraní, ktoré by mohli prispieť k porušovaniu medzinárodného práva.
Türk tak vo svojom vystúpení spojil niekoľko tém, ktoré sa na prvý pohľad nemusia zdať priamo prepojené. Umelá inteligencia, autonómne zbrane, vojnové konflikty, demokracia či ľudské práva však podľa neho vytvárajú čoraz prepojenejší problém.
Hlavnou požiadavkou preto zostáva vytvorenie pravidiel, ktoré určia, čo môže umelá inteligencia robiť a kde už musí rozhodnutie zostať v rukách človeka. Podľa Türka by sa tieto hranice mali nastaviť skôr, než sa objavia systémy, pri ktorých bude ich dodatočná kontrola podstatne náročnejšia.
