Online svět je zaplavený falešnými zprávami, nesmysly a výmysly všeho druhu. Veškeré lidské angažmá ve snaze tenhle problém řešit se zatím ukázalo jako nepříliš účinné. Když lidé nestíhají, tak by podle všeho měla přijít na řadu umělá inteligence. Tým amerického institutu Allen Institute for Artificial Intelligence na University of Washington na tom zapracoval a vyvinul umělou inteligenci GROVER, která je něco jako jaderná bomba v internetovém zpravodajství.
Vedoucí výzkumu Yejin Choi a její tým stvořili inteligenci, která je zřejmě momentálně nejlepším generátorem fake news na světě. GROVER dokáže sepsat kompletně vymyšlenou a zároveň velice uvěřitelnou zprávu, třeba jenom podle zadaného chytlavého nadpisu. Všechno ostatní pak GROVER udělá sám. Jak si Choi a spol. ověřili, GROVER vytvoří falešné nebo zavádějící zprávy, které jsou pro lidské čtenáře uvěřitelnější, než zprávy vytvořené lidmi.
Až potud je to vcelku černobílé. GROVER je děsivá záležitost, takže by bylo nejlepší, jak se zdá, všechno smazat, zapomenout a modlit se, aby podobný systém ještě dlouho nevymyslel někdo další. Jenomže takhle svět obvykle nefunguje. Tvůrci inteligence totiž zároveň zjistili, že GROVER je naproste excelentní také v rozpoznávání cizích fake news.
Současní nejlepší rozpoznávači fake news vytvořených umělými inteligencemi, kteří měli možnost obstojným způsobem trénovat, takové zprávy rozliší od reálných zpráv lidského zpravodajství s úspěšností asi 73 procent. Je zneklidňující, možná až tragikomické, že systém GROVER, tedy tvůrce téměř dokonalých fake news, zvládne rozpoznat fake news inteligencí s úspěšností 92 procent. Nejlepší obranou proti fake news systému GROVER je tedy GROVER sám. Analyzuje nejen samotný text fake news, ale i doprovodné prvky, jako je nadpis, médium publikace, uvedený autor, jakož i další detaily, které mohou odhalit, že jde o podvrh.
Jako by svět byl málo cynický. Když na to přijde, GROVER by mohl prošpikovat celý internet lavinou velmi nebezpečných fake news a propagandy. Ale zároveň je právě GROVER lepší v detekci takových fake news, než kterýkoliv jiný známý nástroj. Nejspíš to byla nelehká volba, ale tým Choiové se rozhodl, že inteligenci GROVER vypustí do světa. Podobně jako jsou jaderné zbraně fakticky nejlepší známou obranou proti jaderným zbraním, tak i GROVER bude bojovat proti záplavě fake news v online prostoru. Je to přesně opačný přístup, než jaký zaujal tým OpenAI, který naopak zásadně odmítl zveřejnit plnou verzi podobného algoritmu GPT-2.
Sledovat GROVER při práci je fascinující. Zjednodušená online verze pracuje tady. Během chvilky uvaří z ničeho celý text, který přizpůsobí konkrétní podobě podle zvoleného online média, od vědecké přílohy New York Times až po magazín Wired. S GROVERem bude svět možná ještě o něco nebezpečnějším, ale rozhodně zajímavějším místem.
Literatura
Futurism 30. 5. 2019, arXiv:1905.12616.
Diskuze:
