Fungovanie umelej inteligencie sa v Európe navždy zmení. Do platnosti vstúpil nový zákon
Európska komisia od 1. augusta uviedla do platnosti Zákon o AI, prvý zákon svojho druhu, ktorý reguluje vývoj umelej inteligencie.
Od začiatku augusta prešiel do platnosti Zákon o umelej inteligencii, prvý zákon na svete, ktorý reguluje tento rapídne expandujúci odbor.
Cieľom prijatého zákona je chrániť základné práva, demokraciu, právny štát a environmentálnu udržateľnosť pred vysokorizikovou umelou inteligenciou. V praxi tento zákon zakáže používanie umelej inteligencie spôsobom, ktorý by ohrozil práva občanov. Znamená to, že umelá inteligencia sa nebude môcť používať na vytváranie databáz tvárí, biometrickú kategorizáciu, čítanie emócií alebo na vytvorenie systému sociálneho bodovania. Zároveň sa nebude môcť používať ani umelá inteligencia, ktorá manipuluje ľudské správanie alebo zneužíva zraniteľnosť ľudí.
Bezpečná a nebezpečná umelá inteligencia
Nový zákon má zaručiť, že budúci vývoj AI modelov používaných v Európskej únii bude zodpovedný a bude brať ohľad na základné práva človeka. Nový zákon klasifikuje umelú inteligenciu na základe rizika, ktoré pre užívateľa predstavuje.
AI s minimálnym rizikom je taký typ umelej inteligencie, ktorá ti vie odporučiť kontent alebo slúži na filtrovanie spamu. Takéto AI systémy nepodliehajú žiadnym pravidlám, pretože nepredstavujú takmer žiadne riziko pre bezpečnosť a súkromie občana EÚ.
Ďalšou kategóriou sú umelé inteligencie so špecifickým rizikom transparentnosti. Do tejto kategórie môžeme zaradiť AI chatbotov, AI generovaný obsah a podobne. V rámci tejto kategórie musí umelá inteligencia užívateľovi dať jasne najavo, že sa rozpráva so strojom, pozerá sa na generovaný obrázok alebo umelá inteligencia používa systém na rozpoznanie emócie užívateľa. Zároveň musia prevádzkovatelia umelej inteligencie navrhnúť systém tak, aby sa dal jednoducho a rýchlo rozpoznať generovaný obrázok, video, hlasová nahrávka alebo iný obsah.
Neprehliadnite
Vysokorizikové AI systémy budú podliehať prísnym reguláciám podľa Zákona o AI. Ide o umelú inteligenciu, ktorá pracuje s kvalitnými datasetmi, zaznamenáva aktivitu, pracuje s užívateľskými dátami alebo pracuje vo sfére kyberbezpečnosti. V praxi takáto umelá inteligencia môže vyhodnotiť či má niekto nárok na pôžičku alebo môže pracovať ako recruiter.
Zakázané AI modely
Poslednou kategóriou je AI, ktorá pre človeka predstavuje neakceptovateľné riziko. Takáto technológia bude v EÚ zakázaná. Spadajú do nej umelé inteligencie schopné manipulovať človeka, napríklad hračky, ktoré budú navádzať deti na nebezpečné veci. Zároveň však ide o systémy, ktoré by umožnili vládam zaviesť “sociálne skóre”, ktoré by hodnotilo človeka na základe správania.
Za neakceptovateľné sa považujú aj AI systémy, ktoré polícii umožnia v reálnom čase kategorizovať ľudí alebo na diaľku overiť totožnosť človeka na verejne dostupných miestach. V tomto smere sa často skloňujú prediktívne funkcie. Tie by dokázali v praxi predpovedať zločin ešte pred tým, ako sa naozaj stane.
Na to používajú matematiku a prediktívnu analytiku, pričom sledujú niekoľko rôznych faktorov. Pochopiteľne, aj takéto používanie umelej inteligencie zákon zakazuje, no aj napriek tomu sa umelá inteligencia môže využívať na policajné účely v krajných a nevyhnutných prípadoch. V tomto prípade existujú ale veľmi prísne výnimky, napríklad pri hrozbe teroristického útoku.
Členské štáty majú čas do 2. augusta 2025 na to, aby vytvorili kompetentné úrady, ktoré budú dozerať na aplikáciu a dodržiavanie Zákona o AI. Drvivá väčšina pravidiel v Zákone o AI sa však začne vymáhať až od 2. augusta 2026. Spoločnosti, ktoré nebudú akceptovať Zákon o AI môžu dostať pokutu až do výšky 7% globálneho ročného obratu.
Keďže je ešte čas, než zákon prejde do plnej platnosti, Európska komisia spúšťa takzvaný AI pakt. Ide o iniciatívu, do ktorej sa môžu AI vývojári dobrovoľne zapojiť a adaptovať sa na nové pravidlá ešte skôr, než bude oficiálny deadline.
Európska komisia zároveň pripravuje aj návod, ktorý upresní ako by mali spoločnosti a členské štáty implementovať Zákon o AI. Zatiaľ sa vedú dialógy o tom, ako by prvý kódex postupov mal vyzerať.
Komentáre