Umelá inteligencia (AI) je naďalej motorom pozoruhodných inovácií v oblasti technológií. Zároveň sa však rozvíja príbeh plný obáv z vyhynutia ľudstva. Tieto obavy otvorene vyjadrili vizionári umelej inteligencie, ako napríklad Sam Altman, zakladateľ OpenAI, a Geoffrey Hinton, všeobecne uznávaný ako „krstný otec“ umelej inteligencie.

Potenciálna katastrofa je vyjadrená v otvorenom liste Centra pre bezpečnosť AI. Podporilo ho viac ako 300 vážených signatárov a odhalilo existenčnú hrozbu, ktorú predstavuje umelá inteligencia. Ako sa však tento zázrak vytvorený človekom môže stať záhubou ľudstva, zostáva trochu záhadné.

Umelá inteligencia predstavuje riziko vyhynutia ľudstva

Podľa Dana Hendrycksa, riaditeľa Centra pre bezpečnosť umelej inteligencie, môže umelá inteligencia vytvoriť množstvo príležitostí pre riziká celospoločenského rozsahu. Jedným z takýchto scenárov je zneužitie umelej inteligencie zlomyseľnými aktérmi. Hendrycks uvádza:

„Existuje veľmi rozšírená mylná predstava, a to aj v rámci komunity AI, že existuje len hŕstka ľudí, ktorí majú z novej technológie strach. V skutočnosti však mnoho ľudí súkromne vyjadruje obavy z týchto vecí.“

Predstavte si, že by nepriateľské sily použili umelú inteligenciu na zostrojenie biologických zbraní so smrteľnosťou, ktorá prevyšuje prirodzené pandémie. Ďalším príkladom je vypustenie záškodníckej UI s úmyslom spôsobiť rozsiahle škody.

Ak je systém UI vybavený dostatočnou inteligenciou alebo schopnosťami, môže spôsobiť spúšť v celej spoločnosti. Hendrycks dodáva:

„Nepriateľskí aktéri by mohli zámerne vypustiť darebácke UI, ktoré by sa aktívne pokúšali škodiť ľudstvu.“

Odborníkov však neznepokojuje len krátkodobá hrozba. Keďže umelá inteligencia preniká do rôznych aspektov hospodárstva, vzdanie sa kontroly nad touto technológiou by mohlo potenciálne viesť k dlhodobým problémom.

Závislosť od umelej inteligencie by mohla spôsobiť, že „vypnutie“ by bolo ťažkopádne a možno aj nedosiahnuteľné. To následne ohrozuje budúcnosť ľudstva.

Zneužitie a ďalekosiahle dôsledky

Ako upozorňuje Sam Altman, schopnosť umelej inteligencie vytvárať presvedčivé texty, obrázky a videá by mohla viesť k vážnym problémom. Je presvedčený, že „ak táto technológia zlyhá, môže sa to úplne zvrtnúť“.

Vezmite si napríklad falošný obrázok, ktorý falošne zobrazuje silný výbuch v blízkosti Pentagonu a ktorý sa šíril na sociálnych sieťach. To viedlo k dočasnému poklesu akciového trhu, keďže mnoho účtov na sociálnych sieťach vrátane niekoľkých overených sa v priebehu niekoľkých minút rozšírilo o falošný obrázok, čím sa zmätok ešte prehĺbil.

Confident that this picture claiming to show an "explosion near the pentagon" is AI generated.

Check out the frontage of the building, and the way the fence melds into the crowd barriers. There's also no other images, videos or people posting as first hand witnesses. pic.twitter.com/t1YKQabuNL

— Nick Waters (@N_Waters89) May 22, 2023

Takéto zneužitie umelej inteligencie poukazuje na potenciál technológie šíriť dezinformácie a narúšať spoločenský poriadok. Vedúca výskumná pracovníčka Inštitútu pre etiku v oblasti umelej inteligencie v Oxforde Elizabeth Renierisová uviedla, že umelá inteligencia by mohla „viesť k exponenciálnemu nárastu množstva a šírenia dezinformácií, a tým k rozbitiu reality a narušeniu dôvery verejnosti“.

Ďalším znepokojujúcim trendom je vznik „halucinačnej“ umelej inteligencie. Ide o znepokojujúci jav, pri ktorom umelá inteligencia chrlí chybné, ale zdanlivo spoľahlivé informácie.

Tento nedostatok sa prejavil v nedávnom incidente týkajúcom sa služby ChatGPT. Mohlo by to podkopať dôveryhodnosť spoločností využívajúcich umelú inteligenciu a ďalej udržiavať šírenie dezinformácií.

Erózia pracovných miest a nárast nerovnosti

Rýchle zavádzanie umelej inteligencie v rôznych odvetviach vrhá na trh práce dlhý, znepokojujúci tieň. S vývojom tejto technológie sa potenciálne zrušenie miliónov pracovných miest stalo naliehavým problémom.

Nedávny prieskum odhalil, že šesť z desiatich Američanov sa domnieva, že využívanie umelej inteligencie na pracovisku bude mať v nasledujúcich 20 rokoch významný vplyv na pracovníkov. Približne 28 % respondentov sa domnieva, že používanie tejto technológie bude mať na nich osobný vplyv. Naopak, ďalších 15 % sa domnieva, že „umelá inteligencia prinesie viac škody ako úžitku“.

Nárast automatizácie rozhodovania by mohol zvýšiť predsudky, diskrimináciu a vylúčenie. Môže tiež podporiť nerovnosť, ktorá postihne najmä tých, ktorí sa nachádzajú na nesprávnej strane digitálnej priepasti.

Okrem toho by prechod k spoliehaniu sa na umelú inteligenciu mohol viesť k „oslabeniu“ ľudskosti. Mohlo by to byť podobné dystopickému scenáru vo filmoch ako Wall-E.

Centrum pre bezpečnosť umelej inteligencie poznamenalo, že dominancia umelej inteligencie by sa mohla postupne dostať pod kontrolu obmedzeného počtu aktérov. To by mohlo umožniť „režimom presadzovať úzke hodnoty prostredníctvom všadeprítomného dohľadu a represívnej cenzúry“.

Táto pochmúrna vízia budúcnosti poukazuje na potenciálne nebezpečenstvá umelej inteligencie a zdôrazňuje potrebu prísnej regulácie a kontroly.

Výzva na reguláciu umelej inteligencie

Váha týchto obáv viedla vedúcich predstaviteľov priemyslu k tomu, aby sa zasadzovali za prísnejšiu reguláciu umelej inteligencie. Táto výzva na zásah vlády odráža rastúci konsenzus, že vývoj a zavádzanie umelej inteligencie by sa malo starostlivo riadiť. Musí sa zabrániť jej zneužitiu a nezamýšľaným dôsledkom pre spoločnosť.

Umelá inteligencia môže byť prínosom alebo záhubou v závislosti od toho, ako sa s ňou zaobchádza. Je nevyhnutné podporiť globálnu diskusiu o zmierňovaní rizík a zároveň využívať výhody tejto výkonnej technológie.

Britský premiér Rishi Sunak hovorí, že umelá inteligencia zohrala kľúčovú úlohu pri pomoci ochrnutým ľuďom chodiť a pri objavovaní nových antibiotík. Je však potrebné zabezpečiť, aby sa tieto procesy vykonávali bezpečne a spoľahlivo. Sunak uvádza:

„Ľudia budú znepokojení správami, že umelá inteligencia predstavuje existenčné hrozby, ako sú pandémie alebo jadrové vojny. Chcem ich ubezpečiť, že vláda sa tým veľmi starostlivo zaoberá.“

Riadenie umelej inteligencie sa musí stať globálnou prioritou, aby sa zabezpečilo, že sa nestane hrozbou pre ľudskú existenciu. Na využitie výhod umelej inteligencie a zároveň zníženie rizika vyhynutia ľudstva je dôležité postupovať opatrne a ostražito. Vlády musia tiež prijať predpisy, podporovať globálnu spoluprácu a investovať do dôsledného výskumu.