Čína vypustila AI model GLM-5.2, ktorý desí expertov. Výkonom sa doťahuje na Západ a stiahnuť si ho môže prakticky ktokoľvek
Čínsky AI model GLM-5.2 vyvolal obavy bezpečnostných expertov. Výkonom sa približuje západným modelom a ktokoľvek si ho môže spustiť lokálne.
Svet umelej inteligencie získal ďalšieho silného hráča. Čínska spoločnosť Z.ai predstavila nový model GLM-5.2, ktorý podľa viacerých bezpečnostných expertov dosiahol úroveň najvýkonnejších západných modelov. Samotný výkon však nevyvolal najväčšie diskusie. Odborníkov viac znepokojila skutočnosť, že model si môže stiahnuť prakticky ktokoľvek a spustiť ho na vlastnom hardvéri.
To výrazne mení situáciu v oblasti kybernetickej bezpečnosti. Kým pri komerčných AI modeloch zostáva používateľ pod dohľadom poskytovateľa, pri otvorenom modeli takáto kontrola prakticky zmizne, varuje Futurism.
GLM-5.2 podľa prvých testov zvládol náročné programátorské úlohy aj vyhľadávanie bezpečnostných chýb v softvéri. Práve v tejto oblasti ho odborníci porovnali s najpokročilejšími modelmi spoločnosti Anthropic.
Tie sa pritom ešte nedávno dostali do centra pozornosti americkej vlády. Administratíva prezidenta Donalda Trumpa totiž minulý mesiac dočasne zastavila sprístupnenie modelov Mythos 5 a Fable 5. Dôvodom boli obavy z národnej bezpečnosti. Podľa dostupných informácií sa výskumníkom podarilo obísť časť bezpečnostných mechanizmov, ktoré mali zabrániť zneužitiu modelov.
Anthropic už skôr upozornil, že jeho najvýkonnejšie AI systémy veľmi dobre odhaľujú bezpečnostné slabiny v softvéri. Táto schopnosť síce pomáha vývojárom pri opravách chýb, no zároveň môže poslúžiť aj útočníkom. Po úpravách bezpečnostných opatrení americké úrady povolili obmedzené opätovné sprístupnenie modelu Mythos 5 vybraným organizáciám.
Neprehliadni
Otvorený model odstránil jednu veľkú prekážku
Práve tu sa situácia výrazne líši od čínskeho GLM-5.2. Nový model funguje ako open-weight riešenie. To znamená, že si ho záujemca môže stiahnuť a prevádzkovať na vlastnom počítači alebo serveri bez toho, aby komunikoval so servermi výrobcu. Pre bežných vývojárov to prináša väčšiu slobodu. Bezpečnostní experti však upozornili aj na druhú stránku celej veci. Ak niekto využije model na škodlivé účely, výrobca už prakticky nemá možnosť sledovať jeho aktivitu alebo zasiahnuť.
Bezpečnostná spoločnosť Semgrep preto svoj test výstižne pomenovala „Mythos máme doma.“ Narážala tým na fakt, že otvorený model ponúkol schopnosti veľmi blízke drahším komerčným riešeniam. Viaceré bezpečnostné firmy skúmali schopnosti nového modelu pri odhaľovaní chýb v programoch. Podľa spoločností Semgrep aj Graphistry si GLM-5.2 veľmi dobre poradil s analýzou zdrojového kódu aj hľadaním bezpečnostných zraniteľností.
Presne tieto schopnosti využívajú aj vývojári pri opravách softvéru. Rovnaké možnosti však môžu poslúžiť aj hackerom pri hľadaní slabých miest. Objavili sa dokonca informácie, že na ruskojazyčných internetových fórach už kolujú návody na odstránenie bezpečnostných obmedzení modelu.
„Útočník si model spustí lokálne bez bezpečnostných zábran, prispôsobí ho svojim cieľom a nikto zvonku jeho činnosť neuvidí,“ hovorí technický riaditeĽ spoločnosti Armadin, Travis Lanham.
Práve absencia centrálnej kontroly patrí podľa odborníkov medzi najväčšie riziká otvorených AI modelov.
Objavili sa aj otázky okloo tréningu modelu
Výskumníci zo spoločnosti Graphistry zároveň vyslovili ďalšiu zaujímavú hypotézu. Podľa ich analýzy mohol Z.ai pri vývoji GLM-5.2 využiť takzvanú destiláciu modelov. Ide o postup, pri ktorom výkon jedného veľmi pokročilého modelu poslúži ako základ na tréning iného systému.
Niektorí odborníci sa domnievajú, že čínsky model mohol čerpať poznatky z riešení spoločností OpenAI alebo Anthropic. Zatiaľ však neexistujú verejne dostupné dôkazy, ktoré by túto hypotézu jednoznačne potvrdili.
Aj samotná destilácia patrí medzi kontroverzné témy, pretože viaceré technologické firmy tvrdia, že takýto postup môže porušovať pravidlá používania ich modelov.
Nový model automaticky nepredstavuje hrozbu. Rovnaké schopnosti môžu výrazne pomôcť správcom sietí, bezpečnostným analytikom aj programátorom pri hľadaní a opravách chýb. Autori testov však upozorňujú, že čím výkonnejšia umelá inteligencia sa dostane do voľného obehu, tým viac závisí od človeka, ktorý ju použije.
Práve preto diskusia okolo otvorených AI modelov naberá na intenzite. Zatiaľ čo jedni v nich vidia príležitosť na rýchlejší technologický pokrok, druhí upozorňujú na nové možnosti zneužitia. O tom, ktorá z týchto stránok bude v budúcnosti výraznejšia, rozhodne najmä spôsob, akým vývojári, firmy aj používatelia s podobnými nástrojmi naložia.
