Šéf OSN varuje pred AI bez kontroly. Svet nesmie dopustiť, aby o živote rozhodovali stroje
Šéf OSN varuje, že umelá inteligencia nesmie určovať budúcnosť ľudstva bez kontroly. Volá po globálnych pravidlách, ochrane detí aj zákaze autonómnych zbraní.
Generálny tajomník Organizácie Spojených národov vyslal svetu jasný odkaz. Umelá inteligencia napreduje rekordným tempom a ľudstvo podľa neho nesmie dopustiť, aby sama určovala smer ďalšieho vývoja. Počas prvého Globálneho dialógu o správe umelej inteligencie v Ženeve vyzval vlády, technologické firmy aj vedcov na vytvorenie spoločných pravidiel, ktoré udržia AI pod kontrolou.
Podľa Antónia Guterresa totiž nejde iba o ďalšiu technologickú novinku. Umelá inteligencia už dnes zasahuje do práce, vzdelávania, zdravotníctva aj každodenného života miliónov ľudí, píše Techxplore. Ak svet nezareaguje včas, dôsledky môžu podľa neho presiahnuť hranice jednotlivých štátov.
AI už neplní iba príkazy
Guterres upozornil, že dnešné systémy umelej inteligencie zvládajú oveľa viac než len odpovedať na otázky alebo vytvoriť text či obrázok. Moderné modely píšu programový kód, vykonajú úlohy na internete a pri niektorých činnostiach prijmú rozhodnutia s oveľa menším dohľadom človeka než v minulosti.
Podľa šéfa OSN vznikli dnešné zákony a inštitúcie pre stroje, ktoré iba poslúchali pokyny. Súčasná generácia AI však dokáže konať oveľa samostatnejšie, čo si podľa neho vyžiada aj nový spôsob regulácie. Jednou z tém konferencie sa stal aj pojem vibe coding. Ide o nový spôsob programovania, pri ktorom človek namiesto písania zdĺhavého kódu jednoducho opíše umelej inteligencii, čo chce vytvoriť. AI následne pripraví väčšinu programu sama.
Takýto prístup si získal veľkú popularitu medzi vývojármi aj bežnými používateľmi. Guterres uznal, že ide o užitočný nástroj, no zároveň upozornil, že podobný prístup sa nesmie preniesť na rozhodovanie o budúcnosti spoločnosti.
Neprehliadni
„Vibe coding dokáže priniesť úžasné výsledky. Pravdu ani budúcnosť ľudstva však takýmto spôsobom nenaprogramujeme,“ hovorí Guterres.
Jeho odkaz smeroval najmä k tomu, aby štáty nenechali vývoj umelej inteligencie iba na technologické firmy alebo samotné algoritmy.
Generálny tajomník OSN upozornil aj na ďalší problém. Vývoj najvýkonnejších modelov AI dnes ovláda iba niekoľko veľkých technologických spoločností a niekoľko štátov. Väčšina krajín sveta pritom nemá možnosť ovplyvniť pravidlá ani smer ďalšieho vývoja. Podľa Guterresa tak vzniká riziko, že budúcnosť umelej inteligencie určia len tí najsilnejší hráči, zatiaľ čo zvyšok sveta zostane bokom.
Preto navrhol vytvorenie medzinárodného systému riadenia AI, ktorý by zahŕňal spoločné pravidlá, jednotné hodnotenie rizík aj dohľad nad najpokročilejšími systémami.
Deti patria medzi najzraniteľnejších
Veľkú časť svojho prejavu venoval ochrane detí. Pripomenul, že umelá inteligencia už dnes vstúpila do škôl, sociálnych sietí aj bežnej komunikácie mladých ľudí. Podľa neho sa to stalo skôr, než svet dôkladne preveril možné riziká. Navrhol preto vytvorenie medzinárodného záväzku, podľa ktorého by každá AI služba určená deťom musela preukázať bezpečnosť ešte pred sprístupnením.
Zdôraznil tiež nulovú toleranciu voči sexuálnemu zneužívaniu detí prostredníctvom AI a požiadal firmy, aby systémy pri rozpoznaní psychických problémov dieťaťa ponúkli kontakt na skutočnú ľudskú pomoc.
Guterres sa dotkol aj ďalších oblastí. Navrhol vznik globálneho fondu, ktorý pomôže rozvojovým krajinám získať prístup k výpočtovému výkonu, dátam a odborníkom. Podľa neho nesmie digitálna priepasť prerásť do ešte väčšej „AI priepasti“.
Zároveň vyzval technologické firmy, aby zverejnili ekologickú stopu svojich dátových centier a do roku 2030 ich napájali obnoviteľnými zdrojmi energie.
Najostrejšie slová však venoval vojenskému využitiu umelej inteligencie. Autonómne zbraňové systémy, ktoré samy vyberú cieľ a zaútočia bez priameho rozhodnutia človeka, označil za neprijateľné.
„Nazvime ich pravým menom, vraždiace roboty. Stroje, ktoré samy vyberú cieľ a vezmú život bez ľudského rozhodnutia. To je morálne neprijateľné a medzinárodné právo by to malo zakázať,“ vyjadril sa Guterres.
Svet stojí pred dôležitým rozhodnutím
Šéf OSN zároveň pripomenul, že umelá inteligencia prináša aj množstvo výhod. Pomáha vo vede, zdravotníctve, vzdelávaní aj pri riešení zložitých problémov. Práve preto podľa neho potrebuje jasné pravidlá, ktoré podporia prínosy a zároveň obmedzia riziká.
Diskusia o regulácii AI preto naberá na intenzite vo viacerých krajinách sveta. To, aké pravidlá vzniknú v najbližších rokoch, môže výrazne ovplyvniť spôsob, akým sa umelá inteligencia stane súčasťou každodenného života. Zatiaľ však zostáva otvorené, či sa na spoločnom postupe dokáže zhodnúť dostatočne veľký počet štátov aj technologických spoločností.
