O.S.E.L. - Neurální sítě potřebují odpočívat. Stejně jako my
 Neurální sítě potřebují odpočívat. Stejně jako my
Chtěli jsme mít umělé inteligence. Aby nám pomáhaly se vším možným. Což dělají, někdy velice úspěšně. Jsou to skvělí pracanti. Jenomže, nejsou tak neunavitelné, jak jsme si mysleli. Ve skutečnosti si občas potřebují zdřímnout. Je to naprostá jízda, jak jsou nám umělé inteligence podobné, i ve věcech, kde jsme to vůbec nečekali.

Neuromorfní čip Loihi. Kredit: Intel Corporation.
Neuromorfní čip Loihi. Kredit: Intel Corporation.

Umělé inteligence dnes zastanou ohromné množství práce. Analyzují veliké soubory dat a hledají v nich zajímavé věci. Mohou vypátrat nádory, diagnostikovat covid-19, vystopovat rychlé rádiové záblesky nebo třeba simulovat vesmír. Vždy jsme si mysleli, autora tohoto textu nevyjímaje, že jednou z předností umělých inteligencí je jejich neunavitelnost. Přece jenom to jsou programy. Existence in silico.

 

Jenomže, jak se zdá, byl to pozoruhodný, přímo fascinující omyl. Neurální sítě si podle všeho občas potřebují odpočinout. Úplně jako my. Na jednu stranu je to mrazivé, ale zároveň z toho máme pocit, že ve vývoji umělých inteligencí kráčíme správnou cestou.

 

Ukazuje se totiž, že se neurální sítě občas prostě potřebují vzít dovolenou. Mezi tím vším rozeznáváním tváří, filtrováním spamu nebo třeba výzkumem rakoviny musejí také relaxovat. Počítačová vědkyně Yijing Watkins z Los Alamos National Laboratory (LANL) a její kolegové dospěli k závěru, že umělé inteligence vyloženě potřebují si tu a tam si zdřímnout, přinejmenším ve strojovém významu tohoto slova.

 

Když pokročilé neurální sítě pracují dlouhou dobu a neustále hledají požadované vzory v souborech dat, tak se mohou stát nestabilními. Podle Watkinsové by řešení mohlo být vcelku jednoduché. Nechat takovou umělou inteligenci, ať si „zdřímne“. To by mělo celý systém vrátit zpět do pohody.

 

Jak je možné nechat neurální síť, která běží na počítači, vyspat? Watkinsová a její tým vymysleli pro umělé inteligence „umělý spánek“. Zavedou do neurální sítě, která by se měla vyspat, specifický typ šumu, který odpovídá hluboké a útlumové fázi lidského spánku NREM (bez rychlých pohybů očí). Jde o Gaussův šum (Gaussian noise), který zahrnuje soubor různých frekvencí a amplitud vln.

Los Alamos National Laboratory, logo.
Los Alamos National Laboratory, logo.

 

Badatelé věří, že jejich nový algoritmus, který vytváří zmíněný šum pro umělé inteligence, může zdařile napodobovat útlumové NREM fáze lidského spánku, co „občerstvují“ biologické neurony v lidském mozku. Je to podle nich stejné, jako kdyby si neurální síť dala šlofíka.

 

Watkinsová a spol. by rádi v dohledné budoucnosti svůj „spánkový“ algoritmus otestovali na neuromorfním čipu Loihi společnosti Intel, který napodobuje neurální strukturu lidského mozku. Tento či obsahuje 130 tisíc umělých „neuronů“ a je vhodný pro provoz inteligencí zaměřených na strojové vidění, analýzy videí, a další strojové „smysly“. Vědci jsou moc zvědaví na to, jak budou inteligence na čipu Loihi reagovat na odpočinek s jejich algoritmem.

 

Video: NICE 2019 - Day 3g Yijing Watkins

 


Literatura

Popular Mechanics 3. 8. 2020.

IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) Workshops, 2020.


Autor: Stanislav Mihulka
Datum:10.08.2020