Zuckerberg varuje pred svetom, kde AI ovláda pár gigantov. Meta chce superinteligenciu dostať medzi ľudí
Mark Zuckerberg chce, aby bola pokročilá umelá inteligencia dostupná čo najviac ľuďom a nezostala pod kontrolou pár technologických gigantov. Nový model Mety však úplne open source nie je.
Meta chce pri umelej inteligencii zaujať trochu inú pozíciu než jej hlavní konkurenti. Zatiaľ čo spoločnosti ako OpenAI či Anthropic stavajú najmä na vlastných uzavretých modeloch, Mark Zuckerberg presadzuje čo najširšiu dostupnosť AI. Podľa šéfa Mety môže práve otvorenejší prístup zabrániť tomu, aby sa najvýkonnejšie systémy dostali pod kontrolu malej skupiny technologických gigantov.
Zuckerberg svoj pohľad predstavil v novom eseji s názvom „Budúcnosť je pre každého“. Text má približne 6 500 slov a Meta ho zverejnila spolu s novým modelom Muse Glimmer. Zuckerberg v ňom opisuje budúcnosť, v ktorej umelá inteligencia poskytne ľuďom nástroje na tvorbu, výskum či riešenie problémov, ktoré dnes zostávajú dostupné najmä odborníkom.
Jeho predstava stojí na jednoduchej myšlienke. Čím viac ľudí získa prístup k pokročilej umelej inteligencii, tým menšia bude moc jednej firmy alebo úzkej skupiny spoločností. Zuckerberg preto odmieta predstavu, že by sa vývoj takzvanej superinteligencie sústredil iba do niekoľkých rúk.
„Namiesto centralizácie superinteligencie by sme ju mali široko distribuovať a dať každému človeku možnosť riadiť ju,“ napísal Zuckerberg.
AI môže dať ľuďom nové schopnosti
Šéf Meta očakáva, že umelá inteligencia výrazne zmení spôsob, akým ľudia tvoria nové veci. Technologické objavy dnes často vyžadujú veľké tímy, špecializované znalosti a značné finančné zdroje. AI však podľa Zuckerberga môže tieto bariéry postupne znižovať. Človek bez rozsiahleho technického vzdelania tak môže pomocou AI vytvoriť aplikáciu, analyzovať veľké množstvo údajov alebo pracovať na technickom projekte. Zuckerberg tento trend opisuje slovami „každý človek čoskoro získa super schopnosti, ktoré mu dovolia tvoriť“.
Práve tu však vzniká jeden z najväčších problémov celej predstavy. Rovnaké nástroje, ktoré dokážu ľuďom pomôcť, môžu totiž niekto využiť aj škodlivým spôsobom.
Neprehliadni
Moderné AI systémy už dokážu vytvárať presvedčivý text, obraz či zvuk. Výsledkom môže byť jednoduchšia tvorba podvodov a dezinformácií, ale aj nebezpečnejšie využitie v oblasti biológie alebo kybernetických útokov. Zuckerberg tieto riziká vo svojom texte neignoruje, no jeho riešenie stojí najmä na dôvere v ľudí a na rozdelení moci medzi čo najväčší počet používateľov.
„Vývoj ľudskej civilizácie smeroval k tomu, že ľuďom dával stále viac moci žiť a formovať svet podľa toho, čo považujeme za najlepšie,“ uvádza.
Čo ak AI pripraví ľudí o prácu?
Jednou z najväčších otázok okolo umelej inteligencie zostáva pracovný trh. Automatizácia môže v budúcnosti prevziať časť úloh, ktoré dnes vykonávajú ľudia. V niektorých profesiách môže AI znížiť potrebu ľudskej práce pomerne výrazne. Zuckerberg však prirovnáva tento proces k priemyselnej revolúcii. Stroje podľa jeho argumentácie postupne odstránili časť fyzicky náročnej práce a umožnili ľuďom venovať viac času iným činnostiam.
„Ľudia pri každom ďalšom kroku využili novú produktivitu na dosiahnutie vecí, ktoré predtým neboli možné, a zároveň získali viac času na kreativitu, kultúru, vzťahy a užívanie si života,“ napísal.
Takýto pohľad však vynecháva časť problémov, ktoré technologický pokrok priniesol. Industrializácia síce výrazne zvýšila produktivitu, no zároveň priniesla veľké rozdiely v bohatstve, ekologické škody, nové formy vojny či ďalšie spoločenské problémy. Pri AI preto zostáva otvorená otázka, komu budú jej výhody patriť. Ak firmy vďaka automatizácii výrazne zvýšia produktivitu, nemusí automaticky znamenať, že rovnaký úžitok pocítia aj zamestnanci.
Ako príklad môže slúžiť aj graf vyššie, ktorý poukazuje na známy problém. Približne od 70. rokov minulého storočia, teda približne s nástupom pokročilejšej výpočtovej techniky, sa začala vytvárať priepasť medzi produktivitou a mzdami. Produktivita s počítačmi prudko vzrástla, no výplaty túto zvýšenú produktivitu nedobehli, čo znamená, že za viac práce, ktorú zamestnanec odviedol, dostal zaplatené rovnako. Mnohí analytici poukazujú na to, že umelá inteligencia môže túto priepasť ešte viac prehĺbiť, čo zvýši riziko vyhorenia.
Meta hovorí o otvorenosti, Muse Glimmer však nie je open source
Zuckerberg zároveň výrazne presadzuje otvorenejšie AI modely. Meta sa dlhodobo snaží prezentovať ako spoločnosť, ktorá podporuje open-source umelú inteligenciu. Takéto modely môžu vývojári upravovať, skúmať a využívať pri vlastných projektoch. Nový Muse Glimmer však medzi klasické open source modely nepatrí.
Meta ho označuje ako „open-weight“ model. Vývojári síce získajú prístup k parametrom modelu, no nedostanú kompletný zdrojový kód ani všetky podklady potrebné na vytvorenie vlastnej verzie od úplného základu. Rozdiel preto nie je iba slovíčkarsky. Pri skutočne otvorenom modeli môže komunita oveľa podrobnejšie skúmať jeho fungovanie a upravovať ho podľa vlastných potrieb. Pri open-weight modeli zostáva časť procesu pod kontrolou pôvodného tvorcu.
Psychológ a kritik AI Gary Marcus na tento rozdiel upozornil tiež. Podľa neho open-weights predstavujú v podstate open-source s lepším marketingovým označením, no s výrazne menším množstvom výhod.
Zuckerberg verí v konkurenciu
Základ Zuckerbergovej predstavy teda nespočíva iba v samotnej technológii. Ide aj o to, kto bude mať nad budúcou AI kontrolu. Ak by najvýkonnejšie systémy vlastnilo iba niekoľko spoločností, mohli by podľa neho získať mimoriadne veľký vplyv. Viac samostatných modelov a vývojárov má naopak vytvoriť konkurenčné prostredie, v ktorom sa jednotliví hráči navzájom kontrolujú.
„Zdravá rovnováha moci znamená zabezpečiť, aby neexistovala jediná centralizovaná superinteligencia, ale čo najviac ľudí a firiem s rôznymi superinteligentnými agentmi,“ tvrdí Zuckerberg.
Do diskusie vstupuje aj geopolitika. Čínske technologické firmy v poslednom období predstavili viacero AI modelov s otvorenejšími licenciami, ktoré sa schopnosťami približujú najpokročilejším americkým systémom. V Spojených štátoch preto vzniká tlak na obmedzenie niektorých spôsobov využívania amerických modelov pri vývoji konkurenčných systémov.
Jednou z diskutovaných techník je distilácia. Pri nej nový model využíva výstupy výkonnejšieho modelu na učenie vlastných schopností. Zuckerberg prípadné plošné obmedzenie tejto praxe odmieta. Podľa jeho argumentácie verejne dostupné nástroje jednoducho vstupujú do ďalšieho technologického vývoja a tento proces sa dá len ťažko zastaviť.
Meta tak pri budúcnosti umelej inteligencie presadzuje pomerne jasnú filozofiu, čo najviac AI systémov, čo najviac používateľov a čo najmenej centralizovanej kontroly. Či takýto prístup dokáže zároveň dostatočne obmedziť riziká spojené so zneužitím umelej inteligencie, však zostáva otázkou, na ktorú technologický priemysel stále hľadá odpoveď.
