AI už píše kód, ktorému nerozumejú ani skúsení programátori. Napriek tomu funguje
Umelá inteligencia už dokáže vytvárať funkčný kód, ktorému nemusia úplne rozumieť ani skúsení programátori. Odborníci upozorňujú na riziká aj stratu zručností.
Pridaj si Vosveteit.sk do GoogleUmelá inteligencia už dávno neslúži programátorom iba ako jednoduchý pomocník pri písaní niekoľkých riadkov kódu. Firmy jej zverujú čoraz väčšie časti vývoja softvéru a niektoré systémy dokážu vytvoriť rozsiahle úseky programu prakticky samostatne.
Obsah článku · 4 časti
Úloha človeka sa preto postupne mení. Programátor nemusí každý riadok napísať vlastnými rukami, ale musí skontrolovať, či výsledok funguje správne. Práve tu sa však objavuje zvláštny problém, na ktorý upozornil aj portál Futurism.
AI môže vytvoriť kód, ktorý funguje, dosahuje veľmi dobrý výkon, no človek mu napriek tomu nemusí rozumieť. A nejde iba o začínajúcich programátorov.
Jeremy Nixon, zakladateľ spoločnosti Infinity zameranej na optimalizáciu čipov, upozornil na zmenu, ktorú AI prináša do práce softvérových inžinierov. Pri niektorých výstupoch generatívnej AI už podľa neho vývojári nedokážu jednoducho vysvetliť jednotlivé časti programu. Kód síce prejde testami a zariadenie alebo aplikácia funguje, no samotný človek môže mať problém pochopiť jeho vnútornú logiku.
Ešte výraznejší príklad priniesol Jordan Nanos z výskumnej spoločnosti SemiAnalysis. V rozhovore opísal skúsenosť s inžiniermi z OpenAI, ktorí pracovali s kódom určeným na efektívnejšie využitie grafických procesorov pri AI. Nanos uviedol, že títo ľudia veľmi dobre rozumeli hardvéru aj fungovaniu celého systému, no pri konkrétnom AI-generovanom kerneli si neboli istí, čo jednotlivé časti programu vlastne robia.
Súvisí s tým

„Môžeš ísť riadok po riadku a je to jednoducho: nie, nie, nie,“ opísal situáciu.
Napriek tomu mal kód správne výsledky a dosahoval veľmi dobrý výkon.

AI môže vytvoriť správny kód bez toho, aby mu človek rozumel
Toto je jedna z najzaujímavejších zmien, ktoré AI prináša do programovania. Tradične programátor napísal kód a zároveň vedel vysvetliť, prečo sa jednotlivé časti nachádzajú práve na danom mieste. Ak niečo nefungovalo, mohol prejsť jednotlivé kroky a nájsť príčinu. Pri AI-generovanom kóde môže byť situácia odlišná. Model vytvorí riešenie, človek ho otestuje a výsledok funguje. Programátor však nemusí poznať každý detail toho, čo sa vo vnútri deje.
Nanos tento vývoj nevníma automaticky ako problém. Podľa neho ide skôr o zmenu spôsobu vývoja softvéru. AI totiž dokáže optimalizovať prácu s dátami a hardvérom spôsobom, ktorý človek nemusí ručne analyzovať. Takýto prístup však funguje iba dovtedy, kým všetko funguje podľa očakávaní.
Čo ak AI spraví chybu?
Najväčšie riziko nastáva pri chybách. Ak človek nerozumie kódu, ktorý AI vytvorila, môže byť oveľa ťažšie odhaliť problém skôr, než sa dostane do produkčného systému. Dôležitú otázku preto predstavuje ľudská kontrola. Analýza softvérovej spoločnosti Undo z roku 2026 priniesla zaujímavé čísla. Podľa nej 35 percent AI-generovaného kódu neprešlo pred nasadením do produkcie úplným pochopením zo strany vývojového tímu. Ďalší údaj je ešte výraznejší. Až 94 percent opýtaných softvérových inžinierov uviedlo, že za posledných šesť mesiacov aspoň raz zažili situáciu, keď musel tím riešiť problémy spôsobené potrebou rozobrať alebo opraviť AI-generovaný kód. 29 percent respondentov sa s tým stretávalo niekoľkokrát mesačne.
To neznamená, že AI automaticky vytvára nekvalitný softvér. Skôr to ukazuje, že množstvo kódu vytvoreného umelou inteligenciou rastie rýchlejšie než schopnosť ľudí každý jeho detail skontrolovať. Riziko nepochopeného AI kódu nie je iba teoretické. Amazon začiatkom roka zaviedol 90-dňové obdobie zvýšenej kontroly zmien v kóde po sérii problémov, ktoré narušili objednávky zákazníkov. Spoločnosť odmietla tvrdenia, že za výpadkami priamo stála AI.
Interné poznámky zo stretnutí však ukázali obavy manažérov z vysokého dosahu zmien, pri ktorých vývojári využili generatívnu AI. Práve veľkosť moderných softvérových systémov robí tento problém komplikovanejším. Chyba v malej aplikácii môže zasiahnuť iba niekoľko používateľov. Zmena v systéme veľkej technologickej firmy môže mať oveľa širšie následky.

Programátor sa môže zmeniť na kontrolóra AI
AI tak mení aj samotnú predstavu o práci programátora. Namiesto toho, aby človek všetko napísal od začiatku, môže určiť architektúru systému, pravidlá a požadovaný výsledok. Umelá inteligencia následne vytvorí veľkú časť samotného kódu. Sergey Cleftsow tento vývoj označil za „ilustráciu zmeny paradigmy vo vývoji softvéru“. Podľa jeho pohľadu už vývojár nemusí detailne riešiť každú časť programu. Stačí, ak správne určí architektúru a kritériá správnosti, zatiaľ čo samotnú implementáciu zvládne neurónová sieť.
Otázkou však zostáva, čo sa stane v situácii, keď sa systém pokazí a nikto z ľudí presne nevie, prečo.
Strácajú programátori svoje schopnosti?
Výskumníci zároveň upozorňujú na ďalší problém. Ak mladí programátori vyrastú v prostredí, kde AI napíše väčšinu kódu za nich, môžu mať menej príležitostí naučiť sa pracovať s programovaním do hĺbky. Podobný efekt sa môže objaviť aj u skúsených vývojárov. Čím viac práce prevezme AI, tým menej často človek rieši niektoré úlohy vlastnými silami. Neznamená to automaticky, že programátori prestanú rozumieť softvéru. Skôr sa môže zmeniť hranica medzi tým, čo musí človek detailne ovládať, a tým, čo nechá na AI.
Páčil sa ti článok?
Čo sa ti na článku páčilo?
100 % čitateľov sa článok páčil
100 % čitateľov sa článok páčil
Čo by sme mali zlepšiť?
Vytvor si účet – komentár bude pod tvojím menom, dostaneš body a upozornenie na odpovede.
Pokračovaním súhlasíš s pravidlami komunity a potvrdzuješ, že máš aspoň 16 rokov.
Zverejní sa pod tvojou prezývkou .
Platia pravidlá diskusie. Odkazy na iné weby nie sú povolené.
Tvoju spätnú väzbu sme dostali.
100 % čitateľov sa článok páčil
Samsung konečne pridáva ochranu, ktorú majitelia Galaxy roky žiadali. Skryje aj tvoje súkromné správyDiskusia
5 komentárovČítaj ďalej
Američania mali použiť AI Claude pri útokoch na Irán. A to aj napriek tomu, že ju Trump zakázalObjavili sa správy, že model Claude od spoločnosti Anthropic bol použitý pri útokoch na Irán. · 2 min čítaniaK téme
Ani normálny krvný tlak neznamená, že je všetko v poriadku: Toto sú riziká, na ktoré by si si mal napriek tomu dať pozor · 3 min čítania
Pozor na tento e-mail od Googlu: Je úplne legitímny, napriek tomu ťa môže zaviesť k podvodníkom · 3 min čítania
V žalúdku nosíš kyselinu, ktorá dokáže rozkladať mäso. Prečo ťa napriek tomu nestrávi zvnútra? · 4 min čítaniaToto by ti nemalo ujsť
VIDEO: Časť Krymského mosta sa zrútila po ukrajinskom útoku. Z 9 európskych rakiet Ruta malo cieľ zasiahnuť až 7 · 6 min čítania
Môžeme pomocou liekov spomaliť starnutie? Rozsiahla analýza ukázala, čo skutočne funguje · 3 min čítania
Japonci náhle zrušili cestu k záhadnému objektu vo vesmíre. Známy astrofyzik tvrdí, že môže ísť o stratenú sovietsku sondu · 3 min čítaniaĎalšie správy
V tele zvláštneho morského tvora objavili neznámu baktériu. Má vlastnosť, ktorú vedci zatiaľ nevedia vysvetliť · 3 min čítania
Čína ukázala tank VT-4B s novou zbraňou proti dronom. Jeho 30 mm kanón však môže mať nebezpečnú slabinu · 4 min čítania
Vedci možno vyriešili jednu z najväčších záhad Zeme. Z jej geologickej histórie záhadne zmizli stovky miliónov rokov · 3 min čítania
Piráti môžu naraziť na nepríjemné prekvapenie. Aj obyčajná civilná loď môže dostať výkonný kanón Sea Tridon · 4 min čítania
Ukrajina čelí rastúcemu riziku jadrovej katastrofy. Ruské útoky na energetiku ohrozujú aj bezpečnosť reaktorov
Google chystá veľkú novinku pre Android. Jedno telefónne číslo budeš môcť používať na dvoch mobiloch. Takto to bude fungovať
FBI bije na poplach. Hackeri majú v rukách nebezpečný AI nástroj, ktorý dokáže preniknúť do systému za menej než 3 hodiny











Si Ťin-pching odmietol stretnutie s japonskou premiérkou: Čína žiada zmenu postoja k Taiwanu
Poľská armáda preveruje možné narušenie vzdušného priestoru a pád neznámeho objektu
Úrad inšpekčnej služby obvinil 47-ročného policajta, mal spôsobiť škodu viac ako 23 000 eur
Na Slovensko prichádza druhá batéria systému Barak MX, tretia by mala prísť na jar
V obci Klokočov horí drevenica a hospodárska budova, na mieste sú profesionálni aj dobrovoľní hasiči
Lufthansa plánuje zrušiť 1000 pracovných miest v Mníchove a vo Frankfurte nad Mohanom
Nové Lamborghini Temerario Spyder má 920 koní a strechu, ktorú sme pri tejto značke ešte nevideli
Prvý veterán: Aké autá radšej na začiatku nekupovať?
Čínske automobilky na trhu končia už po 1 roku. Často sú stratové
Stačí nezaplatiť PZP a môžete si nechať auto na diely? Musíte ho odovzdať na ekolikvidáciu?
Súťaž Hot Wheels má víťaza! Toto auto sa dočká vlastnej miniatúry
LED hmlovky od Osramu, ako svietia? A čo najvýkonnejšie H7 LED Speed 450?
Fuso eCanter rozváža potraviny po Bratislave. Naftu nepotrebuje ani na chladenie
Autonómny nákladiak zásobuje Lidl. Nemá kabínu ani vodiča
Chladiarenský príves PANAV: vojenská mraznička musí zvládnuť aj terén
Nový mýtny systém: Preregistrácia štartuje v decembri. Koho čaká výmena jednotky?
Renault T High Ultimate Edition: Iba 30 kusov pre celú Európu
Mercedes eActros 600 ide okolo sveta. Na 45 000 km plánuje najviac 80 nabíjaní
Rusi ukázali vzácne lietadlo z čias KGB. Čeburaška má nad krídlami motory a pod trupom kanón
Tank, ktorý sa má vyrábať v Trenčíne, prvýkrát verejne strieľal. Na Záhorí ho ukázali možným kupcom
USA a Nemecko minuli 303 miliónov dolárov na tank, z ktorého bolo vodičovi zle. Z neúspechu vznikli Abrams a Leopard 2
Američania verili, že ich špionážne lietadlo nikto nezostrelí. Sovieti ho trafili vo výške 21 kilometrov a pilota ukázali celému svetu
Ruské bombardéry po dvoch dňoch opustili Vietnam. Pri návrate ich čakali taiwanské F-16 aj japonské stíhačky
Trumpa z Číny sprevádzalo „lietadlo súdneho dňa“. Putin mal na tom istom summite pri sebe jadrový kufrík
Barbara Jagušák prezradila, čo zažila na cestách: Och, to muselo byť nechutné
Meg Ryan očarila svet prirodzenou krásou: Takto vyzerá dnes
Comeback roka! Noga a Skrúcaný po rokoch opäť spolu vo veľkolepej šou
Syn Branka Radivojeviča hviezdil v šou Milujem Slovensko: Stačilo jedno gesto a ľudia sú nadšení
Kávová usadenina môže jedného dňa poháňať autá. Vedci prišli na spôsob, ako z nej vyrábať biopalivo
Vedci vyvinuli „slaný“ gél, ktorý dokáže ukladať teplo. V budúcnosti by mohol výrazne znížiť účty za energie
Orly dokážu uloviť opice veľké ako malé dieťa. Je možné, že v minulosti lovili aj nás?
Vedci možno vyriešili jednu z najväčších záhad Zeme. Z jej geologickej histórie záhadne zmizli stovky miliónov rokov
Vedci objavili horniny staré takmer 4 miliardy rokov. Naše predstavy o tom, ako sa formovala Zem, možno boli nesprávne
Vedci našli spôsob, ako posilniť kosti a možno zvrátiť osteoporózu. Prvé výsledky prekvapili aj odborníkov
Bežný vitamín B12 napravil vývojové poruchy spôsobené genetickou mutáciou v experimente
Českí vedci odhalili slabinu rakovinových buniek. Ich objav by mohol zmeniť spôsob, akým bojujeme s rakovinou
Môžeme pomocou liekov spomaliť starnutie? Rozsiahla analýza ukázala, čo skutočne funguje
Máš v Androide niektorú z týchto 4 aplikácií? Bankový malvér Hirudo dokáže ovládnuť telefón aj vymeniť aplikáciu banky
Nový Android malvér ArcticRAT dokáže ukradnúť PIN a zamknúť ti telefón. Na krádež bankových údajov využíva aj AI model Grok
Nový útok na Android dokáže ukradnúť heslá Wi-Fi aj údaje z Chrome. Stačí navštíviť napadnutý web
FBI bije na poplach. Hackeri majú v rukách nebezpečný AI nástroj, ktorý dokáže preniknúť do systému za menej než 3 hodiny
Čo všetko o tebe vie Google Gemini? Takto si pozrieš jeho pamäť a odstrániš informácie, ktoré si zapamätal
V Google Play odhalili vyše 1 900 podvodných aplikácií. Dostali sa do viac než 500-tisíc zariadení, toto sú najrozšírenejšie
Čínski hackeri zdokonalili nebezpečný malvér. Dokáže sa ukryť v počítači a potichu kradnúť citlivé údaje
Nemecko bije na poplach. Kybernetické hrozby dosiahli kritickú úroveň, hackeri získali vďaka AI nové schopnosti
Samsung konečne pridáva ochranu, ktorú majitelia Galaxy roky žiadali. Skryje aj tvoje súkromné správy