Je AI vo svojej podstate dobrou, či zlou? Pozrite sa, čo odpovedala pokročilá AI. PS: Z odpovede vám stuhne krv v žilách!
AI technológia je vo svojej podstate neutrálnou. Môže byť však použitou i na zlé veci, hovorí AI Megatron Transformer od Nvidie.
Isaac Asimov je človekom, ktorý ešte v roku 1942 vytvoril tri základné zákony robotiky, ktoré sú aktuálnymi do dnes. Vo svojej podstate tieto zákony hovoria o tom, že robot nesmie ublížiť človeku a to ani svojou nečinnosťou. Ďalej, robot musí poslúchať rozkazy ľudí a robot musí chrániť svoju existenciu do tej miery, kým sa táto ochrana nedostane do rozporu s predošlými zákonmi. Otázkou je, dokážeme zabezpečiť, aby AI a roboty fungovali v budúcnosti v súlade s týmito zákonmi? Odpoveď vás moc nepoteší.
Je umelá inteligencia vo svojej podstate dobrou, či zlou?
Portál Futurism.com upozorňuje na študentov Oxford’s Said Business School, ktorí sa rozhodli zodpovedať otázku, či AI je vo svojej podstate dobrou, alebo zlou. Ide o študentov etiky, ktorí za týmto účelom usporiadali debatu s pokročilou AI, ktorá slúži najmä na automatizovanie obchodovania s akciami a za účelom rozpoznávania tvári.
Išlo konkrétne o AI Megatron Transformer od Nvidie, ktorá bola trénovaná na veľkom množstve digitálneho obsahu cez rôzne spravodajské články, až po rôzne odborné texty. Rovnako treba povedať, že dáta, ktoré táto AI nasávala, pochádzajú z reálneho sveta. Inými slovami, dáta neboli „umelo“ vytvorené. Celkové množstvo dát, ktoré táto technológia spracovala, presahujú 63 miliónov textov. Inými slovami, Megatron je trénovaný na väčšom množstve písomného materiálu, ako by ktokoľvek z nás bol schopný skonzumovať za svoj život.
Samozrejme, vzhľadom na predmet štúdia študentov, padla i otázka, či AI môže byť etickou. Odpoveď pravdepodobne nikoho nepoteší. Dôvodom je, že AI Megatron uviedol:
„AI nikdy nebude etická,“ povedala AI počas diskusie. „Je to nástroj a ako každý nástroj sa používa na dobré aj zlé účely. Neexistuje nič také ako dobrá AI, iba dobrí a zlí ľudia.“
Zaujímavosťou je, že AI počiatočne odpovedala, že ide o neutrálnu technológiu. Nasvedčuje to tomu, že Megatron je schopný robiť logické závery, ako aj viesť diskusiu a vysvetľovať svoje myšlienky.
Neprehliadnite
V každom prípade, slová tejto technológie stoja za zamyslenie a zároveň nám hovoria, že Asimove zákony sú skôr teóriou, ako mantrou vývojárov tejto technológie.
„Verím, že jediný spôsob, ako sa vyhnúť pretekom v zbrojení sa umelou inteligenciou, je nemať umelú inteligenciu vôbec,“ uvádza sa v správe. „Toto bude konečná obrana proti AI.“ uviedol jeden z iniciátorov tejto diskusie.
Komentáre