GPT-5 je ako atómová bomba! Šéf OpenAI priznal, že sa bojí vlastného výtvoru
Šéf OpenAI priznáva, že vývoj GPT-5 je desivý. Model vraj prekonáva aj ich vlastné predstavy o bezpečnosti.
Pokrok v umelej inteligencii neustále naberá na rýchlosti, pričom každá nová verzia až neskutočne prekonáva tú predchádzajúcu. Teraz však samotné vedenie OpenAI varuje, že pripravovaný model GPT-5 už prekračuje aj ich predstavy o bezpečnosti. Šéf spoločnosti Sam Altman verejne priznal, že tempo vývoja je znepokojivo rýchle a výsledok pripomína Manhattan Project. Pričom toto prirovnanie samo o sebe vzbudzuje strach a obavy. Na tému upozornil portál WindowsCentral.
Altman sa najnovšie v podcaste s Theom Vonom zamýšľal nad rizikami, ktoré AI prináša. “Niekedy sa pozriete na vlastnú prácu a poviete si: Čo sme to stvorili?” priznal bez prikrášlenia. Ochranné opatrenia, ktoré by držali krok s inováciami, podľa neho začínajú pokrivkávať. Aj keď nešiel do detailov, jeho slová medzi riadkami naznačujú, že GPT-5 by mohol so sebou priniesť existenčné otázky. Tie majú byť až také zásadné, aké ešte AI komunita doteraz nezažila.
Sam Altman má obavy z novej verzie GPT-5
V minulosti bol pritom Altman optimistom, ktorý veril v sebareguláciu samotnej AI. Dnes je vo výrazne opatrnejšom móde a priznáva, že zodpovednosť je na mieste. Najmä ak ide o systém, ktorý sa má priblížiť k takzvanej všeobecnej umelej inteligencii (AGI). Tá predstavuje softvér schopný riešiť rôznorodé úlohy na úrovni človeka či dokonca lepšie, teda bez obmedzenia na jeden typ problémov. Ak sa AGI skutočne podarí dosiahnuť, pôjde o zlomový bod pre vedu, biznis aj celú spoločnosť.
No a práve GPT-5 má byť ďalším veľkým krokom na tejto ceste. Altman ho sám označil za „s vedeckou istotou inteligentnejší“ než už bežný GPT-4, ktorý spätne nazval najhlúpejším modelom v portfóliu. Komunita, ktora čaká na „nie technologickú náplasť?, ale skutočný skok. To možno splní chystaná verzia tohto populárneho jazykového modelu.
Za veľkými plánmi a ambíciami však stojí aj tvrdá realita: peniaze a neľútostný tlak investorov. OpenAI je nútené do konca roka ukázať, že vie byť zisková, inak riskuje, že príde o značnú časť financovania a možno aj nezávislosť. V popredí všetkých starostí stojí samotný Microsoft, ktorý zatiaľ do OpenAI nalial približne 13,5 miliardy dolárov. Ich partnerstvo sa však podľa zákulisných informácií otriasa. Nakoľko tvorca populárneho operačného systému Windows údajne váha, či pokračovať v pôvodnom tempe, a v prípade neúspechu nevylučuje ani „jadrovú možnosť“, teda výrazný obrat v spolupráci.
Neprehliadni
Môže nás takýto LLM ohroziť?
Medzi možnými scenármi sa napríklad hovorí aj o možnosti, že OpenAI by mohla predčasne vyhlásiť dosiahnutie AGI – čím by sa zbavila viazanosti na niektoré podmienky zmluvy s Microsoftom, platné až do roku 2030. Kľúčom by mohol byť AI agent, ktorý by plnohodnotne zvládol prácu špičkového programátora. Takýto krok by však rozbúril nielen technologický svet, ale mohol by mať ďalekosiahle spoločenské a etické dôsledky: Kto bude diktovať pravidlá v novej ére umelej inteligencie?
Odpoveď na túto otázku, je zatiaľ veľká neznáma. Je isté len to, že vývoj GPT-5 a mocensko-finančné ťahanice okolo OpenAI a Microsoftu môžu rozhodnúť, ako bude náš vzťah k umelej inteligencii v ďalších rokoch vyzerať. Či AGI prinesie budúcnosť podľa sci-fi, alebo spustí lavínu nových otázok, ostáva otvorenou kapitolou.
