O.S.E.L. - Nová umělá inteligence předpovídá smrt. A její tvůrci nevědí jak
 Nová umělá inteligence předpovídá smrt. A její tvůrci nevědí jak
Inteligence vycvičená na 1,77 milionu záznamů vyšetření srdce slušně předpoví, kdo do roka a do dne zemře. A kdo nikoliv. Odhalí dokonce i problémy se srdcem u lidí, které lékaři považovali za zdravé. Taková inteligence by nás mohla naučit, které přehlížené detaily v EKG jsou vlastně kriticky důležité.

Umělé inteligence „vidí“, co my ne.
Umělé inteligence „vidí“, co my ne. Kredit: Salvatore P / Flickr.

Umělé inteligence jsou úžasné, dech beroucí a někdy taky strašidelné. Právě to je případ nové medicínské inteligence, kterou vycvičili odborníci amerického lokálního zdravotního systému z Pensylvánie a New Jersey Geisinger Health System (GHS). Tahle inteligence se slušným úspěchem předpovídá, kteří pacienti během příštího roku zemřou. Problém je v tom, že samotní její tvůrci přesně nevědí, jak to vlastně dělá.

 

Geisinger Health System, logo.
Geisinger Health System, logo.

Specialisté Geisingeru nakrmili svoji inteligenci celkem 1,77 milionu záznamů vyšetření srdce, které pocházely od zhruba 400 tisíc pacientů. Jejich cílem bylo, aby se umělá inteligence naučila rozeznávat v EKG situace, které jsou známkou budoucích problémů se srdcem, včetně infarktu a fibrilace síní.

Běžný průběh signálu EKG. Kredit: Agateller (Anthony Atkielski) / Wikimedia Commons.
Běžný průběh signálu EKG. Kredit: Agateller (Anthony Atkielski) / Wikimedia Commons.

 

Výsledky jejich práce jsou skutečně impresivní. A také trochu strašidelné. Vytrénovaná umělá inteligence předčí veškeré v současnosti používané metody předpovědi zdravotního stavu pacientů. Jak uvádí vedoucí výzkumu Brandon Fornwal, nenarazili na model pro tyto předpovědi, který by byl lepší, než jejich inteligence. Dokáže dost spolehlivě určit, kdo z pacientů do roka a do dne zemře. Dokáže dokonce odhalit problémy se srdcem u lidí, které předtím kardiologové prohlásili za zdravé, přiměřeně věku.


Fornwalt je přesvědčený, že jejich inteligence „vidí“ věci, které lidští odborníci zřejmě vidět nemohou nebo je ignorují jako šum nebo kolísání v mezích normálu. Vycvičená umělá inteligence nás podle Fornwalta vlastně může naučit, které věci jsou u pacientů se srdečními obtížemi skutečně důležité, zatímco my jsme je ignorovali dlouhá desetiletí.

Kuba za pomoci Kmocháčka to před více než půl stoletím uměli také. Kredit: Filmové studio Barrandov.
Kuba za pomoci Kmocháčka to před více než půl stoletím uměli také. Kredit: Filmové studio Barrandov.


Není to poprvé, kdy vědci a lékaři vyvinuli umělou inteligenci, která předpovídá smrt pacientů. Specialisté Google v kalifornském Mountain View loni vyvinuli umělou inteligenci, která na základě elektronických záznamů pacientů předpovídá délku jejich pobytu v nemocnici a případně také jejich úmrtí. Rovněž již existují umělé inteligence, které diagnostikují různá závažná onemocnění, jako třeba choroby srdce nebo nádory plic, a to lépe, než jejich lidští kolegové.


Umělá inteligence Geisingeru nicméně zaujala tím, že stejně jako v případě řady dalších pokročilých umělých inteligencí, jejich tvůrci vlastně nevědí, jak jejich stvoření přesně funguje. To je ta strašidelná část. A taky je to důvod, proč mnozí lidští odborníci varují před tím, abychom z předpovědí takových tajuplných inteligencí dělali závažné závěry. Nicméně, podle všeho nejde o to, že by tyto inteligence posedl nějaký zlovolný duch či démon. Tím, že inteligence vytrénujeme, a pak nerozumíme tomu, co přesně dělají, jsme vlastně jenom geniálně obešli fakt, že stále moc nechápeme, jak funguje naše vlastní inteligence.

Video:  DBMI Seminar: Brandon Fornwalt (Oct. 14, 2018)


Literatura
Futurism 11. 11. 2019.


Autor: Stanislav Mihulka
Datum:13.11.2019