BezpečnosťSpravodajstvoTechnológie

CEO OpenAI vraví, že je v poriadku mať z AI obavy: Tieto hrozby by podľa neho mohli vzniknúť

Umelá inteligencia by so sebou mohla priniesť aj niektoré hrozby. Na tieto poukazuje CEO spoločnosti OpenAI, ktorá stojí za ChatGPT.

Umelá inteligencia sa stala v poslednej dobe skutočne populárnou témou medzi nadšencami do technológií. S príchodom chatbota od spoločnosti OpenAI, ktorý sa nazýva ChatGPT, sa začali rôzne dohady o tom či je táto technológia bezpečná. Okrem ChatGPT však môžeme na internete naraziť aj na rôznych ďalších chatbotov ako napríklad Bard od Googlu či dokonca vlastný chatbot od Microsoftu. Ten ho postupne prenáša aj do svojich služieb ako je prehliadač Edge, vyhľadávač Bing či dokonca komunikačná platforma Skype. Spoločnosť OpenAI je však výrazným hráčom na tomto trhu a k problematike AI sa teraz vyjadril aj CEO tejto spoločnosti. Jeho vyjadrenie nám priniesol portál andro4all.com.

Obavy z AI sú oprávnené, tvrdí CEO OpenAI

Spoločnosť sa dnes delí na dva tábory, pričom jeden z nich berie AI ako skvelú zábavu a technologický progres. Druhý si však od toho drží odstup, keďže zvažujú rôzne riziká, ktoré by so sebou mohla prinášať. Obe strany pritom majú na svoj postoj právo, kedže umelá inteligencia môže byť skvelým pomocníkom napríklad pri písaní prác či dokonca aj epizód seriálu, čo sa stalo v prípade seriálu South Park. Podľa CEO spoločnosti OpenAI však máme brať umelú inteligenciu trochu s rezervou, keďže môže prinášať dve hlavné hrozby.

Odoberajte Vosveteit.sk cez Telegram a prihláste sa k odberu správ
Umelá inteligencia môže byť jednoducho zneužitá na zlé účely
Zdroj: labs.openai.com, Vosveteit.sk

Jednou z nich je najmä možnosť šírenia dezinformácií a chybných správ, keďže AI nedokáže rozpoznať správne informácie. Toto sa týka najmä progresu so ChatGPT-4, ktorý dokáže ako svoj vstup brať aj obrázky. Vďaka tomu vie chatbot od spoločnosti OpenAI napríklad riešiť puzzle, popísať čo sa nachádza na obrázku alebo vysvetliť vtipný meme obrázok. Podľa CEO spoločnosti však vie tento model používať len deduktívne uvažovanie namiesto memorovania. ChatGPT ale aj ďalšie nástroje sú tak vytvorené ako rozumové motory a nie ako faktické databázy. A aj z tohto dôvodu by sa tak mohlo stať, že by nám AI sprostredkovala nepravdivé informácie.

Umelá inteligencia by mohla narušiť kyberbezpečnosť

Okrem šírenia dezinformácií má však CEO spoločnosti OpenAI aj obavy z toho, že by sa ChatGPT mohol využiť k vytváraniu kódov ku škodlivému softvéru. Možno ste aj vy narazili na informáciu, že ChatGPT dokáže vytvárať aj rôzne kódy v programovacích jazykoch. Ak by však AI dostala správny príkaz, mohlo by sa stať, že by vytvorila aj skutočne škodlivé kódy k softvérom. V súčasnosti nemá ChatGPT takmer žiadne limity a podľa slov CEO spoločnosti by sme sa s AI chatbotmi mali naučiť pracovať teraz, kým nie sú v pokročilej fáze. Zistíme tak, kam až môže AI zájsť a do akej miery s ňou môžeme bezpečne pracovať.

CEO spoločnosti OpenAI taktiež poukazuje na to, že nie sú jedinou spoločnosťou, ktorá pracuje na vlastnom chatbotovi. Aj keby sa teda pokúšali zachovať bezpečnosť v rámci používania ich nástroja, konkurencia by to spraviť nemusela. V budúcnosti by sme sa teda mohli stretnúť so závažnejšími problémami. A aj z toho dôvodu treba brať ChatGPT a aj ostatných AI chatbotov s rezervou.

Využívate nejakého AI chatbota aj vy? A k akému úkonu ste to zatiaľ skúšali? Podeľte sa s nami v komentároch!

Prihláste sa k odberu správ z Vosveteit.sk cez Google správy
Tagy
Zobraziť komentáre
Close
Close