Inteligentní malware zítřka zaútočí, když uvidí váš obličej  
Počítačoví vědci IBM okořenili viry neurálními sítěmi. S umělou inteligencí bude malware velice dobře maskované a schopné útočit na konkrétní cíle. Jsme na pokraji věku personalizovaných kyberútoků?

 

Viry teď půjdou po vaší tváři. Kredit: TriStar Pictures.
Viry teď půjdou po vaší tváři. Kredit: TriStar Pictures.

Možná si myslíte, že malware je odporná ničemnost. Jenomže dnešní malware ještě nijak zvlášť nevyužívá umělou inteligenci. A odborníci předpovídají, že by se to rychle mohlo změnit. Malware vybavené lstivou inteligencí by se mohlo stát libovou noční můrou. Počátkem srpna se v Los Angeles odehrála letošní konference o kyberbezpečnosti, ostře sledovaná akce BlackHat 2018. Mluvilo se tam i o malware s umělou inteligencí. Jestli se někdo strachuje o klidný spánek, tak by raději ani neměl číst dál.

Marc Ph. Stoecklin. Kredit: IBM Research.
Marc Ph. Stoecklin. Kredit: IBM Research.

Na BlackHat zaznělo, že by se brzy mohlo objevit malware, který bude prakticky nezjistitelný. Bude totiž vybaven inteligencí, která bude čekat na to, až se před počítač či mobil posadí konkrétní osoba, představující cíl útoku. Inteligence rozezná její obličej. A pak zaútočí.


Tradiční antiviry hledají nebezpečný malware tak, že porovnávají útržky počítačových programů s knihovnou malwaru. Sofistikovanější antiviry poznávají malware podle toho, že cílí na zranitelná místa systému a citlivá data. Pokročilé obranné programy vytvářejí virtuální prostředí, takzvané sandboxy, v nichž nechají podezřelé programy předvést, co v nich vlastně je. Malware s umělou inteligencí ale bude nesmírně obtížným soupeřem. Neurální sítě odolávají analýzám zkušených lidských analytiků, natož antivirovým programům. Stejně jako zatím příliš nechápeme, jak funguje lidská mysl, tak je téměř nemožné proniknout do uvažování neurálních sítí a zjistit, jak fungují.

BlackHat 2018. Kredit: BlackHat.
BlackHat 2018. Kredit: BlackHat.

 

Neurální sítě mají tři funkční vrstvy. Skrz jednu vrstvu přicházejí vstupy z vnějšího světa, ať už z klávesnice, naskenovaných snímků nebo něčeho jiného. Druhou vrstvou zase vycházejí ven výstupy neurální sítě. A mezi nimi leží vrstva, které se říká skrytá (hidden layer), ve které umělá inteligence dělá cosi, co vytěží ze vstupů výstupy. My do toho ale příliš nevidíme, protože neurální sítě se trénují samy. Takže vlastně nevíme, jak přesně umělá inteligence dospěje k požadovaným výsledkům.


Právě neprůhledná povaha neurálních sítí je jedním z důvodů, proč jsou šéfové zpravodajských služeb a obrany stále ještě rezervovaní vůči využití umělých inteligencí v situacích, kdy jde o otázku života nebo smrti. Pro velitele je těžké zdůvodnit jiným i sobě rozhodnutí zlikvidovat cíl na základě procesu, jemuž nikdo do detailu nerozumí. V civilních aplikacích je to s rozhodováním snazší, takže tam už je možné narazit na umělé inteligence na každém kroku.


Výzkumný tým společnosti IBM, který vedl Marc Ph. Stoecklin, se pustil ještě hlouběji do neznáma. Objevili způsob, jak weaponizovat skrytou vrstvu neurálních sítí. A zhmotnili tím nové, doposud nepoznané riziko. Vědci z týmu varují, že viry s umělou inteligencí bude velice těžké odhalit, stejně jako vystopovat, na co vlastně útočí. Jak podotýká Stoecklin, komplexní rozhodování neurálních sítí je zakódováno ve skryté vrstvě. Konvenční antivirové programy nedovedou identifikovat cíle malwaru s umělou inteligencí a sandboxy zase neumí spustit akce takového malwaru, takže taky selhávají.

 

Stoecklinův tým vytvořil malware s inteligencí tak, že do něj zabudoval jako klíč ke spuštění podobu konkrétní tváře. Když algoritmy pro rozeznání tváře zabudované do viru identifikují určenou tvář, tak se malware pustí do zkázonosného díla. Malware v takovém případě pracuje pouze s částmi systému, které nespustí alarm konvenční antivirové obrany, jako je například kamera. Malware s takovou inteligencí prostě jenom tiše sedí, hlídá si kameru a trpělivě čeká na správnou tvář. Jak přitom podotýkají Stoecklin a spol., nemusí jít jenom o tváře. Mohou to být obrazy, symboly, události nebo třeba určitý zvuk či melodie. Kdypak asi takové zrůdy dorazí na naše počítače?

Video:  Black Hat USA 2018 Keynote: Parisa Tabriz


Literatura
Defense One 14. 8. 2018.

Datum: 20.08.2018
Tisk článku

Červ - Daškievič Zmicer
Knihy.ABZ.cz
 
 
cena původní: 199 Kč
cena: 167 Kč
Červ
Daškievič Zmicer
Související články:

Počítačový super-virus badBIOS komunikuje zvukem     Autor: Josef Pazdera (07.11.2013)
Nakažlivý WiFi virus, co se šíří vzduchem     Autor: Stanislav Mihulka (28.02.2014)
Červ Hajime imunizuje elektroniku proti infekci Mirai     Autor: Stanislav Mihulka (07.05.2017)
Vědci rafinovaně hackli počítač pomocí kódu ukrytého v syntetické DNA     Autor: Stanislav Mihulka (13.08.2017)



Diskuze:

Již zítra Inteligentní Malware upřeným pohledem z obr.1 přenese hidden vrstvu do Vašeho mozku a zahyne hlady. Zakupte si lístky do 1. řady!

Josef Hrncirik,2018-08-21 21:31:19

Odpovědět


Re:

Milan Krnic,2018-08-21 22:25:50

A pak budou příběhy ... průnik se dal počítat na atosekundy plus mínus třináct procent, a mohl jste být nezlomný, jak jste jen chtěl, nejdéle tehdá vydržel nějaký Karel, atosekundu plus mínus dvanáct a půl procenta plus mínus sedmdesát šest procent od pohledu. Dnes už se ani dívat nemusíte.

Odpovědět


Re: Re:

Karel Rabl,2018-08-24 12:19:53

Dříve než nastartujete počítač v Biosu už u nového přístroje "zrůdy" proniknou dříve to bylo přes nulový sektor disku(W95) a poslední verze je přes procesor, který se přihlásí rovnou na určitou adresu(než probudí systém biosu), která se cyklicky mění (dříve podle data, dnes podle času).

Odpovědět


Re: Re: Re:

Milan Krnic,2018-08-24 13:42:59

Paranoia z CPU bez vPro a zrůdy na každém rohu jsou po hacknutí mozku projevujícím se údajnou neurodegenerativní chorobou samozřejmé. Pomáhá prý ocet.

Odpovědět


Re: Re: Re: Re:

Karel Rabl,2018-08-24 21:45:00

Kéž by jste měl pravdu, ale mé dlouholeté zkušenosti(přes 40 let)i profesionální(živilo mě to) s výpočetní technikou hovoří o opaku. Proto jsem šel, radši nějakou dobu (cca 15 let po revoluci) pěstovat dobytek, abych se zbavil každodenní smutné reality, a máte pravdu hrozilo mi z toho to, z čeho mě podezíráte.
Ale nemusíte mít o mě strach a děkuji Vám za Vaše obavy, ale doktoři (specialisté) nic podezřelého nezjistili.

Odpovědět


Re: Re: Re: Re: Re:

Milan Krnic,2018-08-24 22:18:15

Na sebe jste mnou uvedené vztáhl sám.
Kéž bych měl pravdu v čem? Rozviňte vaše teorie o zrůdách v moderních CPU, opět se rád poučím.

Odpovědět


Re: Re: Re: Re: Re: Re:

Karel Rabl,2018-08-25 14:33:33

Vy nečtete pozorně, mezi řádky netu (např. neodstranitelný průser Intelu a dalších zejména "telefonních procesorů" kdy se může obejít i operační paměti a (mezi instrukce vložit škodlivý kód a tvářit se jako normální instrukce), kdy některé, tam už jsou od výroby a tím se vyhnout jakékoliv kontrole Antiviru, např nezávisle na Vás zapnout počítač a připojit se na net..................) tak to je mně Vás líto a i kdybych věděl něco jiného než co je všeobecně známo z dostupných tiskovin, už bych nebyl takový vůl, abych se s tím zde svěřoval(to jsem dělal před mnoha lety a dokonce i zde na Oslu).

Odpovědět


Re: Re: Re: Re: Re: Re: Re:

Karel Rabl,2018-08-25 14:38:56

Samozřejmě tím počítačem myslím jakékoliv zařízení s procesorem tedy telefon, Auto, ledničku, pračku, letadlo,......

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Re:

Karel Rabl,2018-08-25 14:43:46

A ještě jednu věc je to jen, špička ledovce kdy náhodně spíše nedopatřením se na něco přišlo dole ve vodě je toho mnohem víc.

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Re: Re:

Milan Krnic,2018-08-26 08:57:13

To jste možná četl zavádějící články. Jen CPU nestačí.
https://en.wikipedia.org/wiki/Intel_vPro
Je to firemní technologie správy počítačů. "nezávisle na Vás zapnout počítač a připojit se na net" je správci užívaná funkcionalita, cíleně, nikoli náhodou. Jako vždy je to o uživateli, zde pravděpodobně správci sítě ve firmě, a o tom, jak moc ignoruje možnosti nasazení a nastavení technologie, od čehož se odvíjí i možnost zneužití.

Odpovědět

Já si myslím že ty zrůdy jsou nejen,

Karel Rabl,2018-08-21 14:12:52

součástí operačních systému, ale dnes i přímo zakomponované v hardwaru. A některé součásti hardwaru snad ani nepocházejí ze země, už při Windows 95 se dal jejich "průnik" počítat na sekundy.A mohl jste mít antivir jakýkoliv, tenkrát vydržel nejdéle norton security a to celých 29 sekund od připojení telefonní linky dnes se dá průnik některých vládních i soukromých zahraničních institucí, počítat v desetinách sekundy.

Odpovědět

Musím se pousmát jak jednoduché,

Karel Rabl,2018-08-20 18:48:50

je myšlení některých lidí, kteří vidí jediné nebezpečí v "umělé inteligenci" kdyby totiž umělá inteligence byla skutečně svobodná vůlí, v první řadě by musela zlikvidovat toho, kdo ji ovládá.

Odpovědět


Re: Musím se pousmát jak jednoduché,

Milan Krnic,2018-08-20 22:10:37

Svobodná vůle je pouze iluze, kdy stroj by musel nejprve dostat ekvivalent mozku, aby mohl propadávat různým iluzím i ignorovat většinu vstupů tak, jako to činíme my lidé, což máme ve vínku s největší pravděpodobností proto, abychom se nezbláznili z přehršle informací. No a proč tvořit umělé nás, vskutku nedokonalé tvory, toť otázka.

Odpovědět

Upozornění na akci

Josef Pazdera,2018-08-20 11:36:32

Vážení přátelé sci-fi technologií,

čtyřdenní konference Human-Level AI, kde se setkají významní světoví odborníci v oblasti umělé inteligence, začíná v Praze tuto středu 22. srpna. Od ostatních akcí ve světě se konference liší svým zaměřením na tzv. obecnou umělou inteligenci – tu, která podle vizionářů v budoucnu dokáže samostatně uvažovat a způsobí významné společenské změny.

„Na téma AI existují i jiné, větší a známější konference, ale ty jsou zaměřené jen na úzké aplikace, ne na opravdovou snahu vybudovat myslící stroje,“ říká Ben Goertzel, jeden z pořadatelů konference HLAI, vedoucí výzkumník společností SingularityNET a HansonRobotics a spoluautor známého robota Sophie. „Takže pokud chcete zjistit, jak vypadají skutečně přelomové úvahy, experimenty a výzkum v oblasti budování myslících strojů a umělé inteligence, představy, které znáte ze sci-fi filmů, a možná ještě ambicióznější, pak je konference HLAI letos tím jediným místem.“

Program vyvrcholí sérií atraktivních prezentací pro širší odbornou veřejnost s názvem Future of AI v sobotu 25. srpna v Divadle Hybernia, vstupenky pro zájemce jsou k dispozici na webu akce. V přiložené tiskové zprávě najdete detaily o sobotním programu včetně témat a osobností.

Odpovědět


Re: Upozornění na akci

Milan Krnic,2018-08-20 22:33:20

Teď jen jestli upozornění na akci není skrytá inzerce. Ne jednomu by se, vašnosto, pane rado, hodilo ukázat, jak že taková skrytá a odhalená inzerce vypadá, aby nedošlo k nějaký mejlce :)
Aneb díky za echo.

Odpovědět

Čteme stejný článek

Petr Klíma,2018-08-20 09:28:40

Četl jste vůbec článek? O rozpoznání obličeje je tam jeden a to ten nejkratší odstavec.

Já jsem si z článku vzal především obavu z UI v malware.

Nebude snadné - možná až nemožné - ho detekovat behaviorální analýzou, analýza podle vzorků je pasé už pár let. To konkrétní cílování - rozpoznání obličeje - je v článku jen třešnička na dortu.

Domnívám se, že UI se v téhle oblasti uchytí rychle, už jen proto, že začíná být dostatek počítačového výkonu na koncových strojích - notebooky, mobily, auta ...

Odpovědět


Re: Čteme stejný článek

Jiri Naxera,2018-08-20 13:15:13

Tak problém bych neviděl ani tak v inteligentním malware, ale spíš v vzniklém ekosystému, kde ten malware žije.
Vůbec mě neděsí, že se nějaká breberka aktivuje podle obličeje nebo něčeho takového.
To, co mě opravdu děsí je to, že čtvrt století po éře DOSu, který žádné bezpečnostní mechanismy neměl, je vůbec možné uvažovat o softwaru (malwaru) který má plný přístup nejméně ke všem uživatelským datům a ke kameře (mikrofonu, geolokaci, ...), a nikomu to nepříjde divné, natož pak špatně.

Odpovědět

Andrzej Kowalski

,2018-08-20 08:45:57

Neomalený výlev, který se nevěnoval problematice a podstatě článku a který zde předvedl Andrzej Kowalski, byl adminem smazán.
Upozorňujeme, že stejně tak bude zde mazána i skrytá inzerce.

Odpovědět




Pro přispívání do diskuze musíte být přihlášeni


















Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace