Viry teď půjdou po vaší tváři. Kredit: TriStar Pictures.

Možná si myslíte, že malware je odporná ničemnost. Jenomže dnešní malware ještě nijak zvlášť nevyužívá umělou inteligenci. A odborníci předpovídají, že by se to rychle mohlo změnit. Malware vybavené lstivou inteligencí by se mohlo stát libovou noční můrou. Počátkem srpna se v Los Angeles odehrála letošní konference o kyberbezpečnosti, ostře sledovaná akce BlackHat 2018. Mluvilo se tam i o malware s umělou inteligencí. Jestli se někdo strachuje o klidný spánek, tak by raději ani neměl číst dál.

Marc Ph. Stoecklin. Kredit: IBM Research.

Na BlackHat zaznělo, že by se brzy mohlo objevit malware, který bude prakticky nezjistitelný. Bude totiž vybaven inteligencí, která bude čekat na to, až se před počítač či mobil posadí konkrétní osoba, představující cíl útoku. Inteligence rozezná její obličej. A pak zaútočí.

Tradiční antiviry hledají nebezpečný malware tak, že porovnávají útržky počítačových programů s knihovnou malwaru. Sofistikovanější antiviry poznávají malware podle toho, že cílí na zranitelná místa systému a citlivá data. Pokročilé obranné programy vytvářejí virtuální prostředí, takzvané sandboxy, v nichž nechají podezřelé programy předvést, co v nich vlastně je. Malware s umělou inteligencí ale bude nesmírně obtížným soupeřem. Neurální sítě odolávají analýzám zkušených lidských analytiků, natož antivirovým programům. Stejně jako zatím příliš nechápeme, jak funguje lidská mysl, tak je téměř nemožné proniknout do uvažování neurálních sítí a zjistit, jak fungují.

BlackHat 2018. Kredit: BlackHat.

Neurální sítě mají tři funkční vrstvy. Skrz jednu vrstvu přicházejí vstupy z vnějšího světa, ať už z klávesnice, naskenovaných snímků nebo něčeho jiného. Druhou vrstvou zase vycházejí ven výstupy neurální sítě. A mezi nimi leží vrstva, které se říká skrytá (hidden layer), ve které umělá inteligence dělá cosi, co vytěží ze vstupů výstupy. My do toho ale příliš nevidíme, protože neurální sítě se trénují samy. Takže vlastně nevíme, jak přesně umělá inteligence dospěje k požadovaným výsledkům.

Právě neprůhledná povaha neurálních sítí je jedním z důvodů, proč jsou šéfové zpravodajských služeb a obrany stále ještě rezervovaní vůči využití umělých inteligencí v situacích, kdy jde o otázku života nebo smrti. Pro velitele je těžké zdůvodnit jiným i sobě rozhodnutí zlikvidovat cíl na základě procesu, jemuž nikdo do detailu nerozumí. V civilních aplikacích je to s rozhodováním snazší, takže tam už je možné narazit na umělé inteligence na každém kroku.

Výzkumný tým společnosti IBM, který vedl Marc Ph. Stoecklin, se pustil ještě hlouběji do neznáma. Objevili způsob, jak weaponizovat skrytou vrstvu neurálních sítí. A zhmotnili tím nové, doposud nepoznané riziko. Vědci z týmu varují, že viry s umělou inteligencí bude velice těžké odhalit, stejně jako vystopovat, na co vlastně útočí. Jak podotýká Stoecklin, komplexní rozhodování neurálních sítí je zakódováno ve skryté vrstvě. Konvenční antivirové programy nedovedou identifikovat cíle malwaru s umělou inteligencí a sandboxy zase neumí spustit akce takového malwaru, takže taky selhávají.

Stoecklinův tým vytvořil malware s inteligencí tak, že do něj zabudoval jako klíč ke spuštění podobu konkrétní tváře. Když algoritmy pro rozeznání tváře zabudované do viru identifikují určenou tvář, tak se malware pustí do zkázonosného díla. Malware v takovém případě pracuje pouze s částmi systému, které nespustí alarm konvenční antivirové obrany, jako je například kamera. Malware s takovou inteligencí prostě jenom tiše sedí, hlídá si kameru a trpělivě čeká na správnou tvář. Jak přitom podotýkají Stoecklin a spol., nemusí jít jenom o tváře. Mohou to být obrazy, symboly, události nebo třeba určitý zvuk či melodie. Kdypak asi takové zrůdy dorazí na naše počítače?

Video:  Black Hat USA 2018 Keynote: Parisa Tabriz


Literatura
Defense One 14. 8. 2018.