Generátor fake news GROVER je ďábelská zbraň o dvou ostřích  
Američtí specialisté na umělé inteligence stvořili GROVER, ultimátní generátor velmi věrohodných fake news. A vypustí ho mezi lidi. Protože GROVER je zároveň nejlepší obranou proti nejlepším fake news, tedy vlastně proti sobě samotnému. To je ironie na druhou!
Podmaní si GROVER celý svět? Kredit: Sesame Workshop.
Podmaní si GROVER celý svět? Kredit: Sesame Workshop.

Online svět je zaplavený falešnými zprávami, nesmysly a výmysly všeho druhu. Veškeré lidské angažmá ve snaze tenhle problém řešit se zatím ukázalo jako nepříliš účinné. Když lidé nestíhají, tak by podle všeho měla přijít na řadu umělá inteligence. Tým amerického institutu Allen Institute for Artificial Intelligence na University of Washington na tom zapracoval a vyvinul umělou inteligenci GROVER, která je něco jako jaderná bomba v internetovém zpravodajství.

Yejin Choi. Kredit: Allen Institute for Artificial Intelligence.
Yejin Choi. Kredit: Allen Institute for Artificial Intelligence.


Vedoucí výzkumu Yejin Choi a její tým stvořili inteligenci, která je zřejmě momentálně nejlepším generátorem fake news na světě. GROVER dokáže sepsat kompletně vymyšlenou a zároveň velice uvěřitelnou zprávu, třeba jenom podle zadaného chytlavého nadpisu. Všechno ostatní pak GROVER udělá sám. Jak si Choi a spol. ověřili, GROVER vytvoří falešné nebo zavádějící zprávy, které jsou pro lidské čtenáře uvěřitelnější, než zprávy vytvořené lidmi.


Až potud je to vcelku černobílé. GROVER je děsivá záležitost, takže by bylo nejlepší, jak se zdá, všechno smazat, zapomenout a modlit se, aby podobný systém ještě dlouho nevymyslel někdo další. Jenomže takhle svět obvykle nefunguje. Tvůrci inteligence totiž zároveň zjistili, že GROVER je naproste excelentní také v rozpoznávání cizích fake news.


Současní nejlepší rozpoznávači fake news vytvořených umělými inteligencemi, kteří měli možnost obstojným způsobem trénovat, takové zprávy rozliší od reálných zpráv lidského zpravodajství s úspěšností asi 73 procent. Je zneklidňující, možná až tragikomické, že systém GROVER, tedy tvůrce téměř dokonalých fake news, zvládne rozpoznat fake news inteligencí s úspěšností 92 procent. Nejlepší obranou proti fake news systému GROVER je tedy GROVER sám. Analyzuje nejen samotný text fake news, ale i doprovodné prvky, jako je nadpis, médium publikace, uvedený autor, jakož i další detaily, které mohou odhalit, že jde o podvrh.

Allen Institute for Artificial Intelligence, logo.
Allen Institute for Artificial Intelligence, logo.


Jako by svět byl málo cynický. Když na to přijde, GROVER by mohl prošpikovat celý internet lavinou velmi nebezpečných fake news a propagandy. Ale zároveň je právě GROVER lepší v detekci takových fake news, než kterýkoliv jiný známý nástroj. Nejspíš to byla nelehká volba, ale tým Choiové se rozhodl, že inteligenci GROVER vypustí do světa. Podobně jako jsou jaderné zbraně fakticky nejlepší známou obranou proti jaderným zbraním, tak i GROVER bude bojovat proti záplavě fake news v online prostoru. Je to přesně opačný přístup, než jaký zaujal tým OpenAI, který naopak zásadně odmítl zveřejnit plnou verzi podobného algoritmu GPT-2.


Sledovat GROVER při práci je fascinující. Zjednodušená online verze pracuje tady. Během chvilky uvaří z ničeho celý text, který přizpůsobí konkrétní podobě podle zvoleného online média, od vědecké přílohy New York Times až po magazín Wired. S GROVERem bude svět možná ještě o něco nebezpečnějším, ale rozhodně zajímavějším místem.

Literatura
Futurism 30. 5. 2019, arXiv:1905.12616.

Datum: 03.06.2019
Tisk článku

Budoucnost lidstva - Kaku Michio
 
 
cena původní: 397 Kč
cena: 333 Kč
Budoucnost lidstva
Kaku Michio

Diskuze:




Pro přispívání do diskuze musíte být přihlášeni




Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace