Umelá inteligencia oklamala vedcov: Mysleli si, že čítajú skutočný vedecký text
Umelá inteligencia dokázala oklamať aj podozrievavých vedcov. Populárny chatbot ChatGPT vytvoril vedecké abstrakty, ktoré boli nerozoznateľné od ľudských.
ChatGPT je síce novinkou, no táto umelá inteligencia na seba momentálne strháva obrovské množstvo pozornosti. Ak by ste nevedeli o čo ide, ChatGPT je chatbot, teda umelá inteligencia, s ktorou sa môžete pomocou písaného textu rozprávať. Na normálne rozhovory síce nie je, no vie vám poskytnúť obrovské množstvo informácií.
Len nedávno sa tejto inteligencii podarilo napísať vedecké abstrakty, ktoré pomýlili aj vedcov. Tí si mysleli, že ide o reálnu štúdiu, informuje portál Northwestern University.
„Áno, aj vedci sa môžu pomýliť,“ píšu autori na úvod svojej štúdie.
V práci zistili, že recenzenti majú problém rozlíšiť AI písané texty, ak sú zamiešané medzi tými skutočnými. Len v 68% prípadov dokázali správne identifikovať abstrakt, ktorý bol napísaný pomocou ChatGPT. V 14% prípadov označili reálne abstrakty ako generované umelou inteligenciou. Výskumníci podotýkajú, že dobrovoľníci v tomto experimente vedeli, že sa medzi abstraktmi nachádzajú aj generované vzorky, preto boli veľmi podozrievaví.
„Táto situácia neodráža reálny svet, keď niekto náhodne natrafí na nejakú štúdiu. Naši výskumníci vedeli, že majú dočinenia s umelou inteligenciou a aj tak sa v 32% prípadov pomýlili. Inými slovami povedané, tieto abstrakty sú veľmi dobré,“ tvrdí Catherine Gao, autorka štúdie.
Gao tvrdí, že ak sa niekto k týmto textom dostane náhodou, pravdepodobne ho nenapadne, že ich písala umelá inteligencia. Zároveň sa objavuje aj jeden výrazný problém, tieto abstrakty by mohli podkopať skutočnú vedu. ChatGPT by mohli začať využívať záškodníci, ktorí by pomocou schopností umelej inteligencie mohli šíriť presvedčivé, no falošné vedecké texty. Zároveň existujú ilegálne organizácie, ktoré produkujú „falošnú vedeckú prácu“ za peniaze.
Ako vznikli falošné abstrakty?
Gao vybrala niekoľko titulkov z nedávnych vedeckých publikácií a následne požiadala AI, aby vytvorila vedecký abstrakt na základe týchto slov. Text následne prešiel detektorom plagiátorstva a až potom ho hodnotili vedci. Tí dostali do rúk 25 abstraktov, v ktorých sa nachádzali aj tie, ktoré boli generované chatbotom. Následne sa mali vyjadriť, či je abstrakt skutočný alebo nie.
Neprehliadnite
„Abstrakty, ktoré vytvoril ChatGPT boli naozaj presvedčivé,“ hovorí Gao.
Dobrou správou je, že texty dokázal rozoznať nástroj GPT-2, ktorý vie poznať, kedy bolo niečo vytvorené umelou inteligenciou.
Umelá inteligencia má svoje využitie v reálnom svete. Chatbot ChatGPT by mohol pomôcť vedcom pri písaní prác, teda za predpokladu, že ho využijú správnym spôsobom. Umelá inteligencia totiž dokáže za krátku chvíľu poskytnúť množstvo relevantných informácií. Čo sa týka vymyslených abstraktov, tie pochádzali zo sféry medicína a umelá inteligencia priniesla naozaj relevantné a presné dáta. Treba však ešte nájsť spôsob, ako vyriešiť niektoré etické a praktické medzery.
Komentáre