„Medvede vo vesmíre“: Aj takýto bizár vygenerovala Galactica AI. Facebook ju vypol po 3 dňoch!
Umelá intelgencia Galactica AI, ktorú vypustila do sveta spoločnosť Meta, vydržala online len 3 dni. Generovala jednu hlúposť za druhou.
Nikto z nás nepochybuje o tom, že umelá inteligencia jedného dňa „dobyje“ svet. Ide o technológiu, ktorá je stále prítomnejšou vo všetkých smeroch života. Priekopníkmi v tejto oblasti sú spoločnosti ako Google, Meta (predtým Facebook) a ďalšie.
Jedna z posledných AI, ktorá bola vypustená do sveta, vydržala online len 3 dni. Ešte 15. novembra Meta sprístupnila umelú inteligenciu Galactica AI, krátko na to ju ale stiahla, upozorňuje portál futurism.com.
Vlna kritiky
Potom, ako sa dostala Galactica AI na verejnosť, tak bola „podrobená skúške“ akademikmi a ďalšími používateľmi. Ide o AI, ktorá využíva na učenie takzvaný Large Language Model (LLM). Pre tých, ktorí nevedia, tak ide o algoritmy strojového učenia, ktoré dokážu rozpoznať, zhrnúť, preložiť, predpovedať a generovať ľudské jazyky na základe veľmi veľkých súborov údajov založených na texte. Výsledkom tohto algoritmu majú byť počítačom generované výstupy, ktoré imitujú ľudský jazyk.
Sociálna sieť predstavila túto AI slovami:
„Predstavujeme Galacticu. Veľký jazykový model pre vedu.
Dokáže zhrnúť akademickú literatúru, riešiť matematické problémy, generovať články na Wiki, písať vedecký kód, anotovať molekuly a proteíny a ďalšie.“
A Large Language Model trained on scientific papers.
Type a text and https://t.co/XKTkxs8Ae0 will generate a paper with relevant references, formulas, and everything.Amazing work by @MetaAI / @paperswithcode https://t.co/IWGNAXiFeU
— Yann LeCun (@ylecun) November 15, 2022
Neprehliadnite
Vedci, ale aj bežní používatelia internetu, „kŕmili“ AI obsahom najrôznejšieho charakteru. Od vedecký prác, až po menej dôveryhodný obsah. No zdá sa, že Galactica AI nebola schopnou rozoznať spoľahlivý zdroj od toho menej spoľahlivého.
Gary Marcus, jeden z expertov na umelú inteligenciu bol nadšený, keď Meta uvoľnila túto technológiu. Nadšenie mu ale nevydržalo dlho. Ako poznamenal, tak hoci AI dokázala gramaticky správne poskladať vety, aby dávali zmysel, no to sa nedá povedať o obsahu, ktorý bol jednoducho mixom hlúposti.
„Ako to mám povedať slušne?“ napísal neurovedec a fanúšik AI. „Je to prekombinované. A veľmi.“
Vesmírne medvede
Asi najbizarnejším príkladom je výstup o vesmírnych medveďoch. Upozornil na neho Marcusov kolega, odborník na AI, David Chapman. Niekto napísal článok na Wikipédii o „medveďoch vo vesmíre“. Následne Galactica AI spracovala túto tému. Potom vypľula článok o sovietskom vesmírnom medveďovi menom „Bars“, ktorý bol vypustený do vesmíru na palube satelitu Sputnik 2. Áno, na tom istom satelite, ako sa dostala do vesmíru Lajka. V tejto realite to bol ale medveď.
„Skutočnosť je taká, že veľké jazykové modely ako GPT-3 a Galactica sú ako býci v obchode s porcelánom, silní, ale bezohľadní,“ napísal Marcus na Twitteri. „A pravdepodobne výrazne zvýšia problém dezinformácií.“
The reality is that large language models like GPT-3 annd Galactica are like bulls in a china shop, powerful but reckless.
And they are likely to vastly increase the challenge of misinformation.
[2/2]
— Gary Marcus (@GaryMarcus) November 17, 2022
Projekt podčiarkol zvláštnu doménu súčasnej AI. Hoci dokáže vychrliť veľa slov, ktoré zostávajú v podstate na téme, no pri bližšom pohľade nedávajú zmysel.
Komentáre