Terminátor už nie je len film. Expert varuje, že časť tejto budúcnosti už stojí na bojisku. Dá sa však strojom veriť?
Robotickí vojaci už nie sú len sci-fi. AI na bojisku vidí, rozhoduje a útočí rýchlejšie, než ju človek dokáže kontrolovať.
Vojaci z mäsa a kostí zatiaľ z bojiska nezmizli, armády však už dnes skúšajú technológie, ktoré ešte pred pár rokmi patrili len do filmov ako Terminátor. Umelá inteligencia dostala oči, senzory, zbrane a v niektorých prípadoch aj možnosť rozhodnúť o tom, čo zasiahne. Otázka už preto neznie, či robotickí vojaci prídu. Otázka znie, kam až ich armády pustia.
Profesor Kenneth Payne z King’s College London, ktorý sa dlhé roky venuje vojenskej stratégii a umelej inteligencii, tvrdí, že časť „Terminátora“ už dnes existuje. Podľa neho sa svet veľmi rýchlo posunul od obyčajných chatbotov k systémom, ktoré dokážu fungovať priamo na bojisku.
Rozdiel medzi klasickým AI chatbotom a vojenským systémom spočíva v tom, že chatbot len odpovedá na otázky. Bojový robot však vidí okolie, pohybuje sa, analyzuje situáciu a reaguje v reálnom čase. Payne to prirovnal k momentu, keď sa „ChatGPT postaví na nohy a dostane pušku“.
Niektoré armády už dnes nasadili humanoidné roboty alebo autonómne stroje priamo do vojenských operácií, píše portál The Sun. Najmä vojna na Ukrajine dramaticky urýchlila vývoj dronov, autonómnych vozidiel a systémov, ktoré dokážu útočiť bez priameho zásahu človeka. Stroje dnes sledujú ciele, koordinujú útoky a v určitých prípadoch samy vyhodnotia, čo predstavuje hrozbu.
To najdesivejšie pritom nepredstavuje samotný robot. Skutočný problém vzniká vo chvíli, keď AI začne robiť rozhodnutia rýchlejšie, než ich človek stihne skontrolovať.
Neprehliadni
Payne upozornil, že moderné konflikty sa menia na súboj rýchlosti. Najmä v kybernetickej vojne prebiehajú útoky doslova v zlomkoch sekundy. Ak nepriateľ spustí autonómny útok, druhá strana potrebuje autonómnu obranu, v takýchto prípadoch totiž človek jednoducho nemá najmenšiu šancu reagovať.
Ak AI nenasadíme my, nasadí ju nepriateľ
Preto armády tlačia AI stále bližšie k rozhodovaniu. Možno ani nie preto, že by chceli, ale preto, že konkurencia ich k tomu núti.
„Ak si armáda myslí, že nepriateľ nasadí tieto technológie, musí ich skúsiť aj ona, inak sa vystavuje obrovskému riziku,“ hovorí Payne.
Zároveň však priznal, že dnešná AI stále nedosiahla úroveň ľudského myslenia. Počítače síce porazia človeka v šachu aj pokri, no vojna nefunguje ako čistá matematika. Vojak alebo veliteľ musí čítať emócie, improvizovať a odhadovať správanie protivníka. A práve tam majú ľudia stále náskok.
Obrovský problém predstavuje aj morálka. Robot necíti strach, hnev ani túžbu po pomste. To znie pozitívne, pretože práve emócie často vedú k vojnovým zločinom.
„Robot sa nevystraší, nerozzúri a nespácha zverstvá na bojisku,“ vysvetľuje profesor.
Vojna však nefunguje čiernobielo. Predstav si situáciu, v ktorej AI zbadá dieťa s predmetom podobným zbrani. Človek možno zaváha, všimne si detail alebo vycíti, že ide o hračku. Algoritmus však môže situáciu vyhodnotiť inak. A vtedy vzniká otázka, kto ponesie zodpovednosť.
Rovnako si môžeme predstaviť situáciu, ktorá je o niečo realistickejšia pre moderné bojisko. Predstav si dve bojujúce strany, ľudskú jednotku a jednotku autonómnych robotov. Ak sa dostanú do patovej situácie, v prípade bojujúcich ľudí môžu obe strany čakať, že nepriateľ potrebuje prestávku, potrebuje jesť alebo spať. Zároveň môžu obe strany predpokladať, že ani jedna neurobí bezhlavý útok naprieč bojiskom, ktorý by znamenal pre mužov istú smrť.
Robot však takéto zábrany nemá. V prípade patovej situácie môže strategicky útočiť a vyvíjať tlak prakticky 24/7, pričom ľudskej brániacej strane nedá chvíľu na oddych alebo spánok. Tým ich môže dostať do stavu absolútneho vyčerpania a strachu, ktorý by nebol prítomný až v takej extrémnej miere pri konflikte dvoch ľudských jednotiek.
Ak má autonómna jednotka dobré pancierovanie, vyčerpaný vojak na druhej strane zákopu bude mať pred sebou desivý obraz kovového kolosa, ktorý sa pomaly približuje a on je proti nemu bezbranný.
Ďalšou obrovskou dilemou je, že ak robot zabije civilistu, koho zatknú? Programátora? Veliteľa? Výrobcu? Alebo nikoho?
Autonómne systémy sa vyvíjajú rýchlejšie, než ich stíhajú regulácie dobiehať
Práve tento problém dnes patrí medzi najväčšie argumenty proti plne autonómnym zbraniam. Mnohé štáty síce hovoria o reguláciách, no realita vyzerá oveľa komplikovanejšie. Technológie umelej inteligencie totiž vznikajú aj pre civilné využitie. Rovnaký systém, ktorý riadi autonómne taxi, môže po úprave navigovať tank alebo bojový dron.
Podľa Paynea preto kontrola takýchto technológií pripomína takmer nemožnú úlohu. Softvér sa dá vyvíjať potichu, pričom stačí pár výkonných počítačov a skúsených programátorov.
Napriek tomu profesor neverí, že ľudskí vojaci z bojísk rýchlo zmiznú. Moderné roboty stále narážajú na veľmi obyčajné problémy. Batérie vydržia krátko, stroje zle zvládajú blato, trosky, dážď alebo komplikovaný terén. Reálne bojisko nevyzerá ako sterilné technologické laboratórium.
Pravdepodobnejší scenár preto pripomína skôr Hviezdne vojny, než úplný nástup Terminátorov. Payne hovorí o budúcnosti, v ktorej človek nepustí robotov úplne z reťaze, ale vezme ich so sebou do boja ako pomocníkov, prieskumníkov alebo ochranu pred dronmi.
