Spoločnosť OpenAI oznámila grantový program v hodnote 1 milión dolárov na zlepšenie schopností kybernetickej bezpečnosti umelej inteligencie. Táto správa prichádza v čase, keď svet prechádza od nadšenia k obavám z rizika zániku umelej inteligencie.
Tento krok signalizuje, že OpenAI chce ukázať zodpovednú tvár rýchlo sa rozvíjajúcej technológii. Hoci fond bude pravdepodobne skromný pre spoločnosť, ktorá do roku 2024 predpokladá tržby vo výške 1 miliardy dolárov.
Stačí 1 milión dolárov na kybernetickú bezpečnosť OpenAI?
OpenAI chce „posilniť postavenie obrancov“ – subjektov, ktoré chránia počítačové systémy a siete pred škodlivou činnosťou. Spoločnosť chce tiež „zvýšiť úroveň diskurzu“ a podporiť hĺbkové diskusie o prieniku umelej inteligencie a kybernetickej bezpečnosti.
V súčasnosti sa posudzuje niekoľko možností. Patrí medzi ne identifikácia bezpečnostných problémov v zdrojovom kóde, vytváranie klamlivých technológií na zavádzanie útočníkov a pomoc reverzným inžinierom pri odhaľovaní škodlivého softvéru.
OpenAI je jedným z najznámejších subjektov v tejto oblasti, ktorý je priekopníkom ChatGPT. Podľa UBS, ktorá sa odvoláva na údaje analytickej spoločnosti Similarweb, je chatbot AI „najrýchlejšie rastúcou spotrebiteľskou aplikáciou v histórii“.
Niektorí budú nepochybne tento zásah považovať za symbolické gesto spoločnosti, ktorá dominuje v oblasti AI.
Riziko zániku prijatia AI
Oznámenie prišlo niekoľko dní po tom, ako spoločnosť podpísala otvorený list s Centrom pre bezpečnosť AI. V ňom varoval, že umelá inteligencia môže spôsobiť vyhynutie.
Navyše medzi ďalšími signatármi boli významní vedci, odborníci na AI, politici, technológovia a Bill Gates.
Vo vyhlásení sa píše:
„Zníženie rizika vyhynutia spôsobeného umelou inteligenciou by malo byť globálnou prioritou, popri iných spoločenských hrozbách, ako sú pandémie a jadrová vojna.“
Tento grant nie je prvým, ktorý udelila organizácia OpenAI. Minulý mesiac spoločnosť oznámila svoj program Bug Bounty, v rámci ktorého vyzýva odborníkov, aby hľadali „zraniteľnosti, chyby alebo bezpečnostné diery“ v jej systémoch.
Explózia nástrojov umelej inteligencie od minulého roka bola spočiatku prijatá s pobavením. V prvej vlne dominovali generátory obrázkov s umelou inteligenciou, ako napríklad DALL-E (tiež vlastnený spoločnosťou OpenAI), ktorých výtvory boli často úžasné, ale skreslené.
Spustenie ChatGPT koncom roka 2022 však znamenalo explóziu popularity a zviditeľnenia tejto technológie. Odvtedy sa naplno prejavil exponenciálny rast technológie a potenciálne hrozby.
Vlády na celom svete sa predháňajú v regulácii tohto rodiaceho sa odvetvia a zavádzajú ochranné bariéry pre technológiu, o ktorej na prelome desaťročí uvažoval len málokto.
