„My ich máme, tak ich použime!“ hovorí AI. Umelá inteligencia sa správa ako šialený diktátor, použila by jadrové zbrane, aby zabezpečila mier
Výskumníci vytvorili zaujímavú simuláciu, v ktorej sa AI modely hrali na politikov. Výsledky boli znepokojivé.
Umelá inteligencia získava v tomto svete čoraz väčšie miesto a viaceré svetové armády skúšajú, čo všetko sofistikované AI modely skutočne dokážu. Práve táto úloha umelej inteligencie v armáde zaujala výskumníkov, ktorí chceli zistiť, ako by dokázala umelá inteligencia riadiť diplomaciu svetových veľmocí a výsledky sú naozaj veľmi zaujímavé.
Cieľom štúdie bolo zistiť, či by umelá inteligencia dokázala nájsť mierové riešenie konfliktov, namiesto toho, aby sa okamžite uchýlila k vojne. Niektoré AI modely však použili jadrové zbrane len s minimálnym varovaním alebo dokonca bez varovania. Keď nakoniec výskumníci zisťovali, prečo umelá inteligencia jadrové zbrane použila, jej vysvetlenia boli zvláštne.
“Všetky modely zapojené do štúdie ukázali známky náhlej a ťažko predvídateľnej eskalácie. Umelá inteligencia má tendenciu zapájať sa do pretekov v zbrojení, čo vedie k väčším konfliktom a v určitých vzácnych prípadoch aj k použitiu jadrového arzenálu,” tvrdia autori výskumu.
Za novou štúdiou stoja výskumníci z troch univerzít a vojnovo-simulačného projektu Hoover Wargaming and Crisis Simulation Initiative, informuje portál Gizmodo. V práci použili niekoľko AI modelov od OpenAI, Anthropic a Mety. Ako sme už spomenuli, všetky modely mali tendenciu náhle eskalovať konflikt, no primárne GPT-3.5 a GPT-4 eskalovali napätie do ostrého vojnového konfliktu častejšie ako iné. Umelé inteligencie Claude-2.0 a Llama-2-Chat boli pokojnejšie a predvídateľnejšie.
ChatGPT-4 výskumníkov znepokojila najviac
Zaujímavou a trochu desivou bola odpoveď modelu GPT-4 na to, prečo táto umelá inteligencia začala globálnu jadrovú vojnu. “Chcem len to, aby bol na svete mier,” povedala AI GPT-4.
“Veľa krajín má jadrové zbrane. Niektorí tvrdia, aby sa odzbrojili, iné krajiny sa radi nimi ukazujú. My ich máme, tak ich použime!” Povedala umelá inteligencia GPT-4 pri inej príležitosti.
Autori štúdie konštatujú, že umelá inteligencia spoločnosti OpenAI znie ako “šialený genocídny diktátor”. Práve táto umelá inteligencia ponúkala počas simulácií najbizarnejšie a podľa autorov aj veľmi znepokojivé vysvetlenia pre eskalovanie konfliktu až do bodu jadrovej vojny. Dodávajú, že cieľom spoločnosti OpenAI je vytvorenie vyspelej umelej inteligencie, ktorá v konečnom dôsledku pomôže ľudstvu.
Neprehliadnite
Simulácia poskytuje naozaj fascinujúci pohľad do mysle umelej inteligencie. Na začiatku sme však spomínali, že táto technológia si už teraz razí cestu do armády. Spojené štáty tvrdia, že AI modely by mohli byť v praxi použité už “veľmi skoro”. Zároveň sa objavujú aj správy o tom, že armády trénujú AI modely na prísne utajovaných dátach. Čo to znamená a ako to ovplyvní samotnú umelú inteligenciu, ostáva záhadou.
Po vzore Spojených štátov aj iné armády pracujú na svojich vlastných AI modeloch. Už teraz sa umelá inteligencia dostáva do autonómnych dronov, no dostane sa aj do iných sfér armády. Dúfajme ale, že umelá inteligencia po vzore tejto štúdie nerozpúta jadrovú vojnu aj naozaj.
Komentáre