SLOUPEK IVANA ZELINKY


Umělá inteligence a kyberbezpečnost

V posledních letech zcela neodmyslitelně patří do oblasti kybernetické bezpečnosti i umělá inteligence. Samotný pojem umělá inteligence je na první pohled zcela jasný a i pro neznalce je pochopitelné, co vlastně reprezentuje. Než si povíme něco málo o možných spojeních umělé inteligence s algoritmy v oblasti kybernetické bezpečnosti, je dobré se zmínit o samotné umělé inteligenci.

Autor: Ivan Zelinka, odborník na kyberbezpečnost a umělou inteligenci

Profesor na Fakultě elektrotechniky a informatiky VŠB TU v Ostravě a senior researcher ve skupině Big Data v IT4Innovations v Národním superpočítačovém centru. 

Špetka historie a úvah

Tento pojem vznikl v druhé polovině 20. století, kdy bylo definováno co patří a nepatří do umělé inteligence z oblasti algoritmů. Nicméně je nutno podotknout, že i přes rigidnost některých vědců se tato oblast samozřejmě a přirozeně rozšiřuje o nové typy algoritmů. Snahou současné vědy, přesněji řečeno kybernetiky a informatiky, je napodobit lidské inteligentní chování. A odtud tedy onen výraz umělá inteligence. 

I když se tisíce výzkumníků a stovky týmů snaží v tomto směru dosáhnout výrazného průlomu, a v některých směrech se to i daří, je nutné poznamenat, že i přes všechny možné snahy a různé definice do dnešního dne vlastně nevíme, co inteligence je. Někdo se odvolává na duši, někdo na reakci složitých systémů na podněty z okolí s tím, že tyto systémy jsou schopny uchovávat a zpracovávat informaci a tak podobně. Definicí umělé inteligence je spousta, nicméně, když si je procházíme, zjistíme, že ani jedna z nich nesedí na to, co tak přirozeně jako inteligenci vnímáme. Takže i když máme v dnešní době výborné systémy na rozpoznávání obrazů, objektů v obrazech, rozpoznávání řeči a mnohá další specifika inteligentního chování, dosud nemáme inteligentní systém jako takový. 

Před 20 lety zněly nadšené prognózy, že v roce 2020 budeme mít ekvivalent lidského mozku ve formě strojového zařízení. A jak vidíte sami, nic takového se zatím nestalo. I když pokrok v kybernetice a informatice je v tomto směru velmi významný, je trochu úsměvné, když si uvědomíme, že se snažíme napodobit něco, co vlastně ani neumíme pochopit. Bohužel je pravdou i to, že inteligenci jako takovou nikdo doposud pořádně nedefinoval a můj názor je, že se ani definovat nedá. Což je v souhlasu s oním slavným Einsteinovým výrokem, že pokud máme něco, co modeluje realitu velmi přesně, pak tuto realitu de-facto neobsahuje a naopak. 

Pokud se zamyslíme nad vývojem umělé inteligence, velmi rychle si uvědomíme, že chceme-li mluvit o umělé inteligenci, mluvíme nejen o softwarovém napodobení chování inteligentní bytosti, ale také o strojích, které jsou v pozadí. Jinými slovy, inteligence bez hardwarové platformy existovat nemůže. Tak jako lidé potřebují mozek, umělá inteligence potřebuje něco jako počítač, který by ji realizoval a vykonával. Pokud se tedy někdo zabývá umělou inteligencí, musí samozřejmě znát i vývoj výpočetních technologií od samotného pravěku našich počítačů až po dnešní superpočítače. Jen na toto téma by se dalo mluvit mnohem déle, než nám tento sloupek umožňuje. Nezbývá nám tedy nic jiného, než odkázat čtenáře na příslušnou literaturu, která se tímto zabývá.

 

Sherlock nebo Professor Moriarty?

Je logické, že umělou inteligenci v dnešní době již nacházíme v systémech, které se starají o kybernetickou bezpečnost, a to ve formě různých filtrů odchytávajících podezřelé vzory chování či neznámé vzorky malware. Na druhou stranu umělou inteligenci můžeme brzy očekávat i v malware samotném.

Pro myšlenky kombinace umělé inteligence a kybernetické bezpečnosti samozřejmě nemusíme chodit do vysoce odborných vědeckých publikací. Tyto myšlenky se už delší dobu objevují i v beletrii. Příkladem je román Mrak od Raye Hammonda, který popisuje použití nové kybernetické zbraně Pentagonu. Ta spočívá v tom, že je založena na viru, který je schopen se množit, ovládat všechny typy procesorů a vytvářet něco čemu dnes říkáme hejnová intelligence. 

V poslední době se objevuje mnoho úvah na toto téma a popravdě řečeno, spojení umělé inteligence a malware se stává víceméně noční můrou všech antivirových společností. Tato kombinace je mnohdy zobrazována jako součást představ o chytrých škodlivých algoritmech, které jsou používány v kybernetických válkách, jsou samostatné stejně jako autonomní drony v reálném světě a co víc, dokážou svým způsobem napodobovat inteligentní chování v konkrétní krizové situaci, která se týká plnění úkolů daného malware. 

Jsou případy, kdy i u nás v České republice byly vyvinuty systémy obsahující umělou inteligenci, které slouží jak pro obranu, tak i pro útok a samozřejmě toto se děje i ve světě. Cílem těchto experimentů není vyrobit super virus a pustit ho do světa, ale spíše zkoumat, jak takový malware může vypadat, jaké může být jeho chování, jak se dá detekovat a případně, jak se proti němu dá bránit. Pokud by se to nedělo, sami bychom se dobrovolně stavěli do rolí malých dětí, které jsou překvapeny, když se přižene něco zlého. 

Zatím existuje jen málo důkazů podporujících přesvědčení, že zločinecké gangy již používají umělou inteligenci k zahájení a šíření různých útoků. To ale neznamená, že takové vzorky už dneska neexistují. Již dnes víme, že existuje tak zvaný DeepLocker, což je dle výzkumníků malware poháněný umělou inteligencí, který je vysoce cílený a vyhýbavý a dokáže vybírat oběť dle mnoha faktorů jako je například geolokace, rozpoznání obličeje, případně analýza dat shromážděných ze zdroje. Pokud tato data splňují kritéria, DeepLocker může zahájit útok. Podle výzkumníků z IBM tuto schopnost lze přirovnat k útoku odstřelovače, zatímco “útok” klasického malware se spíše podobá střelcům, kterým jsme na vojně říkali kropiči ☺.  

 

A jak je to u nás?

I v České republice existují pokusy studovat kombinaci umělé inteligence a malware. Jedním z pracovišť, které se touto možností zabývá, je například Fakulta elektrotechniky a informatiky na VŠB-TU Ostrava, kde se úspěšně podařilo využít tzv. hejnovou inteligenci. Ta napodobuje chování hejna živých tvorů, jako jsou například ptáci, ryby nebo mravenci a převádí jej do obranných procedur a prvků bezpečnostních systému v počítačích. Hejnová inteligence byla konkrétně použita k simulaci velkého množství inteligentních útoků na takzvaný testovací systém, který měl za úkol se na takové útoky adaptovat. Všechny experimenty dopadly velmi úspěšně. 

Na druhou stranu se tento tým zabývá i možností spojení hejnové inteligence s počítačovým virem a výzkumem jeho vlastností v síťovém prostředí. Z pochopitelných důvodů zde nemůžeme říkat žádné velké detaily, nicméně již teď existuje vzorek, který je schopen pohybovat se v kybernetickém prostředí cíleným způsobem. Skládá se z hejna totožných virů, které mezi sebou komunikují a ovlivňují své chování. Tato komunikace běží přes temný web (dark web) a samotné hejno má v sobě ještě navíc i distribuovanou neuronovou síť. Takže jde vlastně o umělou inteligenci v umělé inteligenci neboli neuronovou síť v hejnu. 

Samozřejmě že využití umělé inteligence v oblasti kybernetické bezpečnosti nespočívá jen v kombinaci s malwarem nebo antimalwarem, ale toto jsou v podstatě úhelné kameny, kde se tyto dvě oblasti mohou spojit. Pokud jsme pod útokem nějakého hackera, tak vždy používá nějaké nástroje typu malware k tomu, aby se dostal do našeho počítače, případně získal informace. 

Co bude dál?

Z těch několika málo příkladů, které jsem zde zmínil, je zcela jasné, že jde o problematiku velmi zajímavou, důležitou a zcela jistě nabývající na významu. Je jasné, že se s těmito variantami škodlivého kódu, ve kterých bude čím dál tím více hrát roli umělá inteligence, budeme zcela jistě setkávat. To je také důvod proč současné antivirové společnosti, tedy pokud přemýšlí nad budoucností, investují do výzkumu obranných prostředků s výraznými rysy umělé inteligence. To je zcela nezbytné, uvědomíme-li si velké množství útoků, které se odehrávají každý den na světové síti, velké množství jejich variant a mutací. Toto vše klasické algoritmy nemusí nutně postihnout. Na druhou stranu právě v tom je umělá inteligence výborná. Dokáže pracovat s informacemi s vysokou mírou nejistoty a její chování připomíná opravdu chování inteligentního člověka ve specializovaných úkolech.