Jeden z krstných otcov AI sa bojí, čo sa z tejto technológie stalo: Hrozí nám nebezpečenstvo?
Jeden z krstných otcov AI sa vyjadril, že sa bojí, čo sa z moderných AI modelov stalo. Navrhuje bezpečnejšiu a úprimnú umelú inteligenciu.
Umelá inteligencia je s nami už nejaký piatok a zatiaľ čo na jednej strane ukazuje, ako môže transformovať naše životy k lepšiemu, na druhej strane čoraz častejšie čítame o prípadoch, kedy kyberzločinci zneužili AI na vytvorenie realistických kampaní alebo ešte horších útokov, informuje Techxplore.
Americká FBI napríklad minulý týždeň obvinila dvoch mužov z bombového útoku na kliniku v Kalifornii, pričom mali využiť práve AI na získanie inštrukcii ako vyrobiť po domácky výbušninu. FBI neprezradila, aký AI model presne útočníci využili, no poukazuje to na obrovský problém, ktorému ľudstvo čelí.
Experti nespochybňujú to, že je umelá inteligencia revolučná technológia, no volajú, že musíme vyvinúť ochranné mantinely, ktoré by umelú inteligenciu urobili bezpečnejšou. Momentálne môžeme pozorovať, ako sa technologickí giganti predbiehajú v tom, ktorí prinesie najpokročilejšiu a najrýchlejšiu umelú inteligenciu na trhu. Prirodzene chcú spoločnosti prekonať svojich konkurentov a umiestniť sa na vrchole s najlepším produktom. Bohužiaľ, to môže viesť k prehliadnutiu dôležitých bezpečnostných faktorov, alebo dokonca v niektorých prípadoch aj úmyselnými rizikovými skratkami.
Aj najlepšie bezpečnostné mantinely môžu zlyhať
AI modely prechádzajú naozaj náročnými bezpečnostnými testami. Ak sa tieto testy zanedbajú, môžu v modely vzniknúť medzery, cez ktoré dokáže skúsený užívateľ AI presvedčiť, aby mu prezradila aj zakázané informácie. Napríklad počas prvých dní AI sme mohli vidieť, ako umelá inteligencia s radosťou odhodí svoje bezpečnostné prvky, ak jej dáme zahrať úlohu “zlej AI, ktorá nerešpektuje pravidlá”. Takáto jednoduchá forma jailbreaku už dnes síce nefunguje, no existujú aj iné spôsoby.
Krátko po správe FBI prehovoril aj jeden z “krstných otcov” modernej AI, Yoshua Bengio. Prezradil založenie novej neziskovej organizácie, ktorá chce vytvoriť AI model, ktorý by bol oveľa bezpečnejší ako iné AI modely. Tou organizáciou je LawZero, ktorá momentálne pracuje na AI vedcovi. Tento model by bol úprimný a neklamal by užívateľov.
Neprehliadni
Nový AI model sa líši od bežnej umelej inteligencie v dvoch smeroch. Prvým rozdielom je, že AI vedec dokáže vyjadriť mieru istoty vo svojej odpovedi. Ak sa spýtaš tejto umelej inteligencie na niečo, čo nie je dostupné vo veľkom množstve zdrojov, AI model ti automaticky povie, aby si jeho odpoveď bral s rezervou, pretože nemal dosť informácií na správnu odpoveď. Naopak ak sa ho opýtaš na všeobecne známy fakt, povie ti, že si je odpoveďou istý a poskytne ti zdroje, z ktorých čerpal.
Bengio zároveň chce, aby jeho AI vedec slúžil ako strážca pred nie tak úplne bezpečnou AI. Jeho úlohou by bolo monitorovať iné AI modely, napríklad ChatGPT a varovať, ak by táto umelá inteligencia poskytovala klamlivé alebo nebezpečné informácie.
“ChatGPT za deň vybaví viac ako miliardu požiadaviek. Obsah v takomto rozsahu môže efektívne monitorovať len iná AI. Našim nápadom je v podstate bojovať ohňom proti ohňu. Použitie AI na monitorovanie AI ale nie je nejakým futuristickým sci-fi konceptom. Bežne sa AI modely porovnávajú proti sebe, aby sme porovnali ich úrovne inteligencie alebo ďalšie vlastnosti,” hovorí Bengio.
Poctivá AI, ktorá rozumie svetu
Bengio chce zároveň umelej inteligencii poskytnúť “svetový model”. Tento model by mohol AI vedcovi ponúknuť väčšiu istotu a presnosť v jeho odpovediach. Ako by mohol svetový model pomôcť vysvetľuje výskumník na “probléme rúk”.
Na úsvite AI, ale aj teraz môžeme často pozorovať, že umelá inteligencia má problém s rukami. Hoci sa ich už naučila správne kresliť, častokrát sa stane, že nedokáže replikovať prirodzené pohyby rúk. Tento problém vzniká preto, lebo AI model nemá pochopenie pre základné fyzikálne zákony alebo anatómiu. Model, ktorý by vysvetlil ako sa môže ruka hýbať alebo ako fyzika ovplyvňuje pohyb by mohol poskytnúť oveľa presnejšie odpovede.
Spoločnosť LawZero má veľa talentovaných výskumníkov, no aj tak to bude podľa Bengia komplikovaná cesta. Uvidíme, ako jeho AI vedec bude v konečnom dôsledku vyzerať.
Komentáre