AI už píše kód, ktorému nerozumejú ani skúsení programátori. Napriek tomu funguje

Umelá inteligencia už dávno neslúži programátorom iba ako jednoduchý pomocník pri písaní niekoľkých riadkov kódu. Firmy jej zverujú čoraz väčšie časti vývoja softvéru a niektoré systémy dokážu vytvoriť rozsiahle úseky programu prakticky samostatne.

Úloha človeka sa preto postupne mení. Programátor nemusí každý riadok napísať vlastnými rukami, ale musí skontrolovať, či výsledok funguje správne. Práve tu sa však objavuje zvláštny problém, na ktorý upozornil aj portál Futurism.

AI môže vytvoriť kód, ktorý funguje, dosahuje veľmi dobrý výkon, no človek mu napriek tomu nemusí rozumieť. A nejde iba o začínajúcich programátorov.

Jeremy Nixon, zakladateľ spoločnosti Infinity zameranej na optimalizáciu čipov, upozornil na zmenu, ktorú AI prináša do práce softvérových inžinierov. Pri niektorých výstupoch generatívnej AI už podľa neho vývojári nedokážu jednoducho vysvetliť jednotlivé časti programu. Kód síce prejde testami a zariadenie alebo aplikácia funguje, no samotný človek môže mať problém pochopiť jeho vnútornú logiku.

Ešte výraznejší príklad priniesol Jordan Nanos z výskumnej spoločnosti SemiAnalysis. V rozhovore opísal skúsenosť s inžiniermi z OpenAI, ktorí pracovali s kódom určeným na efektívnejšie využitie grafických procesorov pri AI. Nanos uviedol, že títo ľudia veľmi dobre rozumeli hardvéru aj fungovaniu celého systému, no pri konkrétnom AI-generovanom kerneli si neboli istí, čo jednotlivé časti programu vlastne robia.

Súvisí s tým

Pentagón zakázal AI od Anthropic. Armáda ju napriek tomu stále používa pri operáciách proti Iránu

„Môžeš ísť riadok po riadku a je to jednoducho: nie, nie, nie,“ opísal situáciu.

Napriek tomu mal kód správne výsledky a dosahoval veľmi dobrý výkon.

AI môže vytvoriť správny kód bez toho, aby mu človek rozumel

Toto je jedna z najzaujímavejších zmien, ktoré AI prináša do programovania. Tradične programátor napísal kód a zároveň vedel vysvetliť, prečo sa jednotlivé časti nachádzajú práve na danom mieste. Ak niečo nefungovalo, mohol prejsť jednotlivé kroky a nájsť príčinu. Pri AI-generovanom kóde môže byť situácia odlišná. Model vytvorí riešenie, človek ho otestuje a výsledok funguje. Programátor však nemusí poznať každý detail toho, čo sa vo vnútri deje.

Nanos tento vývoj nevníma automaticky ako problém. Podľa neho ide skôr o zmenu spôsobu vývoja softvéru. AI totiž dokáže optimalizovať prácu s dátami a hardvérom spôsobom, ktorý človek nemusí ručne analyzovať. Takýto prístup však funguje iba dovtedy, kým všetko funguje podľa očakávaní.

Čo ak AI spraví chybu?

Najväčšie riziko nastáva pri chybách. Ak človek nerozumie kódu, ktorý AI vytvorila, môže byť oveľa ťažšie odhaliť problém skôr, než sa dostane do produkčného systému. Dôležitú otázku preto predstavuje ľudská kontrola. Analýza softvérovej spoločnosti Undo z roku 2026 priniesla zaujímavé čísla. Podľa nej 35 percent AI-generovaného kódu neprešlo pred nasadením do produkcie úplným pochopením zo strany vývojového tímu. Ďalší údaj je ešte výraznejší. Až 94 percent opýtaných softvérových inžinierov uviedlo, že za posledných šesť mesiacov aspoň raz zažili situáciu, keď musel tím riešiť problémy spôsobené potrebou rozobrať alebo opraviť AI-generovaný kód. 29 percent respondentov sa s tým stretávalo niekoľkokrát mesačne.

To neznamená, že AI automaticky vytvára nekvalitný softvér. Skôr to ukazuje, že množstvo kódu vytvoreného umelou inteligenciou rastie rýchlejšie než schopnosť ľudí každý jeho detail skontrolovať. Riziko nepochopeného AI kódu nie je iba teoretické. Amazon začiatkom roka zaviedol 90-dňové obdobie zvýšenej kontroly zmien v kóde po sérii problémov, ktoré narušili objednávky zákazníkov. Spoločnosť odmietla tvrdenia, že za výpadkami priamo stála AI.

Interné poznámky zo stretnutí však ukázali obavy manažérov z vysokého dosahu zmien, pri ktorých vývojári využili generatívnu AI. Práve veľkosť moderných softvérových systémov robí tento problém komplikovanejším. Chyba v malej aplikácii môže zasiahnuť iba niekoľko používateľov. Zmena v systéme veľkej technologickej firmy môže mať oveľa širšie následky.

Programátor sa môže zmeniť na kontrolóra AI

AI tak mení aj samotnú predstavu o práci programátora. Namiesto toho, aby človek všetko napísal od začiatku, môže určiť architektúru systému, pravidlá a požadovaný výsledok. Umelá inteligencia následne vytvorí veľkú časť samotného kódu. Sergey Cleftsow tento vývoj označil za „ilustráciu zmeny paradigmy vo vývoji softvéru“. Podľa jeho pohľadu už vývojár nemusí detailne riešiť každú časť programu. Stačí, ak správne určí architektúru a kritériá správnosti, zatiaľ čo samotnú implementáciu zvládne neurónová sieť.

Otázkou však zostáva, čo sa stane v situácii, keď sa systém pokazí a nikto z ľudí presne nevie, prečo.

Strácajú programátori svoje schopnosti?

Výskumníci zároveň upozorňujú na ďalší problém. Ak mladí programátori vyrastú v prostredí, kde AI napíše väčšinu kódu za nich, môžu mať menej príležitostí naučiť sa pracovať s programovaním do hĺbky. Podobný efekt sa môže objaviť aj u skúsených vývojárov. Čím viac práce prevezme AI, tým menej často človek rieši niektoré úlohy vlastnými silami. Neznamená to automaticky, že programátori prestanú rozumieť softvéru. Skôr sa môže zmeniť hranica medzi tým, čo musí človek detailne ovládať, a tým, čo nechá na AI.