SpravodajstvoTechnológie

Písať diplomovku cez ChatGPT sa už nemusí vyplatiť: Tento nástroj spozná tvorbu AI v 99% prípadov!

Výskumníci v novej štúdii predstavujú model, ktorý dokáže spoľahlivo rozpoznať generovaný text. Toto je achilová päta umelej inteligencie

Umelá inteligencia v posledných mesiacoch žnie mimoriadne úspechy a teší sa čoraz väčšej popularite. Príkladom je chatbot ChatGPT, ktorého mnohí začali používať v bežnom živote. Umelá inteligencia vám môže pomôcť napísať pracovný e-mail, ponúknuť inšpiráciu na večeru, alebo vám povie zaujímavosti od výmyslu sveta. Možnosti sú v tomto smere nekonečné, no na jednu vec by sme ChatGPT predsa len nemali používať – na písanie záverečných prác.

Nebolo to až tak dávno, čo sme písali o tom, ako umelá inteligencia oklamala aj pozorných vedcov. Začiatkom tohto roka vedci z Northwestern University vytvorili zaujímavý experiment, v ktorom dali svojim kolegom niekoľko abstraktov vedeckých prác a oni mali posúdiť, či ich napísal človek alebo umelá inteligencia.

Odoberajte Vosveteit.sk cez Telegram a prihláste sa k odberu správ

Na tomto experimente sa ukázalo aký obrovský kus cesty technológia ušla, no stále nie je dokonalá. Ako dokazuje nedávna štúdia publikovaná v Cell Reports Physical Science, stále existuje niekoľko jasných rozdielov medzi spôsobom akým píšu chatboty a ako píšu ľudia. Výsledkom tejto štúdie je, že špecifické nástroje dokážu odhaliť použitie AI vo vedeckých prácach až s 99% presnosťou.

„V rámci našej štúdie sme chceli vytvoriť jednoduché overovacie metódy, ktoré by mohol vytvoriť aj stredoškolák, ak by ho niekto trochu naviedol. Umelá inteligencia sa do našich životov dostáva bleskovým tempom a potrebujeme mať nástroje, ktoré by prácu AI dokázali odhaliť,“ tvrdí Heather Desaire, jedna z autorov štúdie.

Ani platforma ako ChatGPT nie je dokonalá. Momentálne najväčším problémom chatbotov je to, že informácie čerpajú z niekoľkých rôznych zdrojov a neexistuje žiadna forma overovania informácií. Pokiaľ si človek neoverí informácie sám, nemá žiadnu istotu že chatbot hovorí pravdu.

Dnes existuje niekoľko detektorov na umelo písaný text, no tieto nástroje neboli vytvorené špecificky na kontrolu akademických textov. V rámci experimentu sa zamerali na typ článku, ktorý nazývajú perspektíva. Ide o akýsi prehľad špecifických výskumných tém napísaných vedcami. Vybrali si 64 perspektív a následne vytvorili na rovnaké témy 128 článkov cez ChatGPT. Následne všetky články vložili do modelu a všimli si jeden z indikátorov generovaného textu, jeho predvídavosť.

V čom umelá inteligencia pohorela?

Písanie človeka sa líši od odstavca k odstavcu. Pri písaní vytvárame komplexné odstavce, ktoré sa líšia počtom viet, dĺžkou viet či počtom slov. Umelú inteligenciu však prezradí aj slovník alebo interpunkčné znamienka.

V praktickej časti vedci porovnávali texty už na natrénovanom modeli. Ten mal 100% úspešnosť pri hodnotení celých článkov, no pri identifikovaní jednotlivých odstavcov úspešnosť klesla na 92%. Čo sa však výkonu týka, v tomto smere nový model prekonal komerčne dostupné AI detektory.

„Prvé čo učiteľov napadne zrejme bude – Môžem použiť tento model, aby som skontroloval práce študentov?“ povedala Desaire.

V nasledujúcich krokoch sa vedci pokúsia zistiť, či by ich model mohol byť uplatnený v praxi a do akej miery. Tento model zatiaľ nedokáže posúdiť záverečnú prácu písanú umelou inteligenciou, no profesori si ho môžu adaptovať na vlastné potreby.

Prihláste sa k odberu správ z Vosveteit.sk cez Google správy
Tagy
Zobraziť komentáre
Close
Close