Technológie

Blíži sa éra „infokalypsy“? Čoskoro nebudeme vedieť rozoznať, čo je na internete pravda a čo nie je, varujú vedci

Už dnes dokáže umelá inteligencia vygenerovať pomerne zmysluplný text. Čo nás čaká o pár rokov?

Umelá inteligencia v posledných rokoch zaznamenala ohromné pokroky. Ideálnym príkladom je populárny chatbot ChatGPT, ktorému sa v rámci zaujímavej štúdie podarilo oklamať vedcov, ktorí boli na umelú inteligenciu vopred pripravení.

Na internete sa objavujú chatboti, ktorí dokážu napodobniť nespočetné množstvo ľudí či vymyslených postavičiek. Potom tu máme aj umelú inteligenciu, ktorá vám v priebehu niekoľkých sekúnd vygeneruje akýkoľvek obraz. Všetky tieto nástroje zatiaľ nie sú dokonalé a slúžia primárne na zábavu a ďalší výskum v oblasti AI.

Odoberajte Vosveteit.sk cez Telegram a prihláste sa k odberu správ

Čoraz častejšie sa ale stretávame s reálnym obsahom, ktorý bol vytvorený pomocou AI generovaného textu. Napríklad technologický portál CNET využíval na tvorbu svojich článkov umelú inteligenciu a tlačová agentúra Associated Press publikuje automatizované články už od roku 2014, informuje portál Verge.

Pravdepodobne vyššie spomínané organizácie nebudú jedinými, ktoré uvažujú o nahradení redaktorov robotmi. Koniec koncov, ChatGPT vám už teraz dokáže za chvíľu vygenerovať pomerne slušný a zmysluplný text.

Lenže aká je budúcnosť umelej inteligencie? Postupom času by sme mali vidieť čoraz viac obsahu, ktorý bol napísaný umelou inteligenciou a editovaný človekom. V tomto prípade však dokáže umelá inteligencia jednoducho a efektívne zodpovedať čitateľove otázky. Môže sa ale za ňou ukrývať aj niečo zlé?

Môže byť AI aj hrozbou? Vedci hovoria, že áno. Rútime sa do „infokalypsy“?

Podstatou umelej inteligencie je to, že vám vytvorí prakticky čokoľvek, čo si viete predstaviť. Viacerí experti varujú, že s čoraz dokonalejšou umelou inteligenciou by sa mohla objaviť aj propaganda generovaná práve ňou. V globálne prepojenej dobe vidíme propagandu často a nemusíme ísť ani ďaleko do minulosti. Počas stále prebiehajúceho konfliktu na Ukrajine Rusko použilo „digitálnu armádu“ na to, aby vytvorilo tisíce falošných účtov po celom svete a prostredníctvom nich ovplyvňovalo verejnú mienku.

Ak sa do tohto procesu zapojí umelá inteligencia, útoky by boli oveľa efektívnejšie, ako píšu autori novej štúdie zaoberajúcej sa hrozbou umelej inteligencie.

„Jazykové modely majú potenciál porovnávať sa s človekom písaným obsahom, pričom sú lacné. Propagandisti by ich mohli použiť na ovplyvnenie masy ľudí,“ píšu autori.

Strata dôvery

Najhorší scenár podľa výskumníka menom Aviv Ovadya predstavuje takzvaná „infokalypsa“. Tá predstavuje internet, v ktorom dominujú „syntetické“ médiá, teda portály, kde obsah píše hlavne umelá inteligencia. To by viedlo k takmer nulovej dôvere, pretože v takomto svete by si nikto nemohol byť istý tým, kto čo napísal a prečo sa pozerajú práve na takýto druh obsahu.

Riešením by mohla byť regulácia samotnej umelej inteligencie a jej možností, rovnako ako aj prístupu k zariadeniam potrebným na ich konštrukciu. Druhou možnosťou je regulovať prístup k samotnej umelej inteligencii.

Ešte chvíľu potrvá, kým schopnosti umelej inteligencie dosiahnu desivých rozmerov. Dovtedy máme ešte čas rozmýšľať nad tým, ako túto revolučnú technológiu kontrolovať, aby ona nezačala kontrolovať nás. Už dnes ale majú chatboty naozaj široké možnosti a generovaný text len ťažko rozlíšiť od textu, ktorý napísal človek. Umelá inteligencia otvára nové možnosti propagandy či šírenia dezinformácií a experti veria, že aj na tieto účely bude AI použitá. Bolo by vhodné, aby sme dovtedy mali nástroje na odhalenie textu, písaného umelou inteligenciou.

Prihláste sa k odberu správ z Vosveteit.sk cez Google správy
Tagy
Zobraziť komentáre
Close
Close