Jak přelstít systém umělé inteligence pro rozpoznávání lidí?  
Systémy inteligencí rozpoznávající postavy nebo tváře bývají trénované na mnoha tisících obrázcích, které si zařazují do příslušných kategorií. Pokud chcete takový systém obelstít, musíte vytvořit vizuální hack s obrázkem, na kterém příslušná inteligence netrénovala.

Jak přelstít umělou inteligenci? Kredit: Thys et al. (2019).
Jak přelstít umělou inteligenci? Kredit: Thys et al. (2019).

Umělé inteligence jsou boží. Chytré, rychlé, vytrvalé, bezcitné a s neuvěřitelnou chutí najít v ohromné záplavě dat požadovanou informaci. Jenomže, jak potvrdí každý fanoušek série o terminátorech, inteligence nemusejí být vždy úplně kamarádské. Na rozdíl od Elona Muska se nemusíme automaticky bát každé umělé inteligence, která je chytřejší než kalkulačka. Nicméně, nebude na škodu být ve střehu a mít plán pro případ, že by se chopila vlády nějaká zlovolná inteligence nebo třeba stabilizátoři společnosti se zálibou v čínských šmírovacích technologiích.

Simen Thys vpravo. Kredit: Thys et al. (2019).
Simen Thys vpravo. Kredit: Thys et al. (2019).


Trio vědců belgické Katholieke Universiteit Leuven zjistilo, že přinejmenším soudobé inteligence pro rozeznávání lidských postav nejsou všemocné. Simen Thys, Wiebe Van Ranst a Toon Goedemé přišli na to, že je možné vybraný systém s umělou inteligencí zmást vytvořením určitého obrázku, který drží na svém těle rozpoznávaná osoba. O svém podivuhodném hacku sepsali vědeckou studii a natočili video.


Aby soudobá umělá inteligence něco uměla, jako třeba rozeznávat objekty, tak ji na to její tvůrci musí vycvičit. Takové umělé inteligence obvykle trénují na mnoha tisících objektech, které náležejí do určitých kategorií, dokud si nevytvoří pravidla, podle nichž pak objekty mohou rozeznat. Dřívější výzkum ale ukázal, že podobné systémy je možné přelstít, pokud jim ukážete něco, na co nebyly trénované. Thys a spol. v tomto případě použili obrázek s lidmi, kteří drží barevné deštníky. Takové obrázky jsou teď novým pozoruhodným fenoménem a říká se jim „adversarial patches“, česky by to mohlo být třeba „rozporné skvrny“.

Rozporná skvrna. Kredit: Brown et al. (2017).
Rozporná skvrna. Kredit: Brown et al. (2017).


Jak se umělé inteligence stávají chytřejšími a výkonnějšími, tak je soukromé společnosti i vlády začínají používat v praktických aplikacích. Jednou z vykřičených aplikací jsou přitom systémy pro rozeznávání nežádoucích osob, ať už to jsou teroristé, kriminálníci, disidenti nebo lidé, co nepozdravili tajemníka strany. Podle nedávného výzkumu je možné takové systémy přelstít třeba speciálními brýlemi. A teď se ukazuje, že umělé inteligence neobstojí ani vůči vhodně navrženým rozporným skvrnám. Vizuální hack je pošle do kolen.


Thys a jeho společníci se rozhodli přelstít konkrétní systém umělé inteligence pro rozeznávání lidí YoLo(v2). Badatelé vytvořili různé typy obrázků, které pak testovali tak dlouho, dokud nenašli takový, který zmátl inteligenci obzvláště účinně. Aby obrázek s lidmi a deštníky fungoval, tak ho experimentátoři museli držet uvnitř pomyslného obdélníku, který si umělá inteligence vytváří při rozhodování o identitě zkoumaného objektu. A rozporná skvrna s lidmi a deštníky funguje na inteligenci systému YoLo(v2) skvěle. Bez tohoto obrázku inteligence zcela v pohodě rozpoznává postavy. Když si ale člověk drží tuhle rozpornou skvrnu u pasu, tak je pro inteligenci YoLo(v2) neviditelný. Terminátoři, na nás si nepřijdete!

Video:  Generating adversarial patches against YOLOv2


Video: Adversarial Patch


Literatura

TechXplore 24. 4. 2019, arXiv:1904.08653.

Datum: 28.04.2019
Tisk článku

Inteligence psů - Coren Stanley
 
 
cena původní: 279 Kč
cena: 223 Kč
Inteligence psů
Coren Stanley
Související články:

Umělá inteligence Shelley píše hororové texty. A je v tom dobrá     Autor: Stanislav Mihulka (27.10.2017)
Mohou být umělé inteligence depresivní a mít halucinace?     Autor: Stanislav Mihulka (11.04.2018)
Nová umělá inteligence je výkonnější, když spí a sní     Autor: Stanislav Mihulka (16.02.2019)



Diskuze:




Pro přispívání do diskuze musíte být přihlášeni




Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace