SpravodajstvoVeda a výskum

Skazil internet ďalšiu umelú inteligenciu? Nová AI spoločnosti Meta „naložila“ Zuckerbergovi, potom zmenila názor.

BlederBot 3 je najvyspelejší chatbot spoločnosti Meta, no na svojho stvoriteľa nemá najlepší názor.

Viaceré spoločnosti momentálne investujú do vývoja chatbotov – špeciálnej umelej inteligencie, ktorá by v budúcnosti dokázala konverzovať s ľuďmi, alebo aby dokázala vykonať ťažké etické rozhodnutia za nás.

Nedávno sa do pozornosti dostal pomerne kuriózny prípad umelej inteligencie LaMDA, ktorá mala byť podľa jedného z testerov uvedomelá bytosť. Muž, ktorý sa s umelou inteligenciou rozprával sa volá Blake Lemoine, ktorý bol suspendovaný spoločnosťou Google, keď jeho príbeh vyšiel na povrch. Podľa slov Lemoina sa LaMDA bojí smrti, ktorá v tomto smere pre ňu znamená vypnutie umelej inteligencie.

Spoločnosť Google tvrdí, že sa Lemoine nechal oklamať jednoduchým chatbotom, ktorý používal jeho vlastné výrazy „proti nemu“. Prípad sa však zamotal v momente, keď si LaMDA objednala právnika, no ten sa po vyhrážkach zo strany veľkých spoločností z prípadu stiahol.

BlenderBot 3 naložil svojmu tvorcovi

Do „biznisu“ s umelou inteligencou sa zapojila aj spoločnosť Meta, no ich verzia chatbota nevyšla úplne podľa plánu. BlenderBot 3 je momentálne najvyspelejším chatbotom spoločnosti a Meta ho minulý piatok vypustila do sveta, aby umelá inteligencia získala skúsenosti s reálnymi konverzáciami. Zvedaví ľudia takmer okamžite začali umelú inteligenciu spovedať a pokúšali sa zistiť, čo si myslí o majiteľovi spoločnosti, Markovi Zuckerbergovi. A vtedy umelá inteligencia prekvapila, upozorňuje portál iflscience.com.

Zuckerberga totiž označila ako „divného“ a „nie vždy etického“. Užívatelia si toto všimli a okamžite názor BlenderBota zdieľali na sociálnych sieťach. Keď sa však rovnakú otázku spýtali o niečo neskôr, odrazu AI zmenila názor. Zo šéfa Mety sa odrazu stal „skvelý chlap“, alebo „veľmi múdry muž“. Čo sa stalo?

Ako chatbot funguje?

V tomto prípade je naozaj ťažké povedať, či umelá inteligencia zmenila názor alebo bol jej názor zmenený za ňu. Chatboti totiž dokážu svoje odpovede drasticky zmeniť podľa toho, ako sa danú otázku opýtate. „Čo si myslíš o Markovi Zuckerbergovi?“ je pre umelú inteligenciu niečo úplne iné ako „Aký je tvoj názor o Markovi Zuckerbergovi“.

Pri bližšej analýze chatbota si odborníci všimli že vo väčšine prípadov BlenderBot 3 vytiahne text z Wikipedie a na základe toho vygeneruje viac-menej zmysluplnú odpoveď.

Zhadzovanie Zuckerberga však nebolo jediné, čím sa umelá inteligencia previnila. Krátko po jej zverejnení si niektorí užívatelia všimli, že chatbot presadzuje antisemitické konšpiračné teórie a podporuje kontroverzného bývalého prezidenta Spojených štátov, Donalda Trumpa.

V podstate ide o rovnaký prípad ako staršia umelá inteligencia Microsoftu, Tay. Tá vydržala necelých 24 hodín, kým ju museli vypnúť. Čo sa stalo? Chatbot sa učil od ľudí, ktorí pre „srandu“ učili umelú inteligenciu urážlivé názory. Trvalo teda len pár hodín než umelá inteligencia zahlásila že „Hitler neurobil nič zlé“.

Chatbot spoločnosti Meta až tak ďaleko nezašiel, no vyzerá to tak, že sa opäť učil zo „zlej strany internetu“.

Tagy
Zobraziť komentáre
Close
Close