Izraelský historik a filozof Yuval Noah Harari uverejnil v britskom týždenníku The Economist článok o umelej inteligencii. Vyjadruje v ňom svoje obavy z tejto technológie, ktorá sa v poslednom čase veľmi rozvíja.
Yuval Noah Harari varuje pred umelou inteligenciou
Harari poukazuje na to, že „obavy z umelej inteligencie (AI) prenasledujú ľudstvo od úsvitu počítačového veku. Doteraz sa tieto obavy sústreďovali na stroje využívajúce fyzické prostriedky na zabíjanie, zotročovanie alebo nahrádzanie ľudí. Lenže v posledných rokoch sa objavili nové nástroje umelej inteligencie, ktoré ohrozujú prežitie ľudskej civilizácie z neočakávaného smeru. Umelá inteligencia získala niekoľko pozoruhodných schopností manipulovať a vytvárať jazyk, či už prostredníctvom slov, zvukov alebo obrazov. Umelá inteligencia sa tak nabúrala do operačného systému našej civilizácie“.
Vstúpil, samozrejme, na tému ChatGPT:
„Keď sa ľudia zamýšľajú nad ChatGPT a ďalšími novými nástrojmi AI, často poukazujú na príklady, ako sú školáci, ktorí používajú AI na písanie esejí. Čo sa stane so školským systémom, keď to budú robiť deti? Takáto otázka však postráda širší obraz. Zabudnime na školské eseje. Zamyslime sa nad ďalšími prezidentskými voľbami v USA v roku 2024 a skúsme si predstaviť vplyv nástrojov AI, ktoré by mohli byť vytvorené na masovú produkciu politického obsahu, falošných správ a písma pre nové kulty.“
Nové orákulum
Falošné správy nie sú jediným problémom. Harari poukazuje na to, že čoskoro veľká časť ľudstva už nemusí čerpať vedomosti len z Googlu, ktorý nám napriek tomu vždy ponúka minimálne niekoľko zdrojov informácií, ale práve z nástrojov umelej inteligencie. Programy ako ChatGPT sa tak stanú akýmsi orákulom.
„Načo sa namáhať s hľadaním, keď sa môžem jednoducho opýtať orákula? Aj spravodajský a reklamný priemysel by mal byť zdesený. Načo čítať noviny, keď sa môžem jednoducho opýtať orákula, aby mi oznámilo najnovšie správy? A na čo je reklama, keď sa môžem jednoducho opýtať orákula, aby mi povedal, čo si mám kúpiť?“ pýta sa.
Hrozba pre demokraciu
Vráťme sa k téme falošných správ. Historik poukazuje na to, že na konci druhej svetovej vojny sme ako ľudstvo zistili, že „jadrová technológia môže vyrábať lacnú energiu v prospech ľudstva, ale môže aj fyzicky zničiť ľudskú civilizáciu“. To spôsobilo, že politickí lídri zreformovali celý medzinárodný poriadok s cieľom „chrániť ľudstvo a zabezpečiť, aby sa jadrová technológia využívala predovšetkým pre dobro“. Dnes čelíme rovnakej hrozbe, ale „stále môžeme regulovať nové nástroje umelej inteligencie“.
„Zatiaľ čo jadrové zbrane nemôžu vytvoriť silnejšie jadrové zbrane, umelá inteligencia môže vytvoriť exponenciálne silnejšiu umelú inteligenciu,“ Harari píše ďalej.
Navrhuje, aby sa nezodpovedné zavádzanie nástrojov umelej inteligencie rýchlo zastavilo. Okrem toho musí vstúpiť do hry aj regulácia odvetvia umelej inteligencie.
Jeho článok zapadá v poslednom čase do populárneho príbehu, že AI sa môže ukázať ako veľká hrozba pre nás. Na nebezpečenstvo, ktoré z toho vyplýva, poukázali Elon Musk, Mike Novogratz alebo Eliezer Yudkowski.
