Že jsou umělé inteligence dobří sluhové, ale špatní páni, se teď hodně vyostřuje v politice. Ukazuje se, že inteligentní chatboti jako ChatGPT a mnozí podobní jsou extrémně účinnými nástroji v politickém přesvědčování. Podobně jako v případě empatie jsme si velmi naivně mysleli, že je to navýsost lidská doména, ale byl to jen předsudek, jeden z mnoha dnešní doby.
Vědci americké Cornell University a dalších institucí v důmyslných experimentech, které uspořádali v několika zemích, zjistili, že účinek inteligencí na průměrného voliče je naprosto drtivý. Už jen krátká konverzace s chatbotem dokáže zásadně posunout voličův postoj ohledně kandidátů či politiky – a to oběma směry, pro i proti. Umělé inteligence jsou v tomto směru podstatně úspěšnější než stávávající politické kampaně, v nichž se pachtí živí kandidáti a jejich volební týmy.
Vědci i vědecká média považují tato zjištění za mimořádně závažná. Výsledky výzkumu publikovaly současně dva nejvíce prestižní vědecké časopisy světa Nature a Science. Podle odborníků z Cornellu se také pozoruhodně ukázalo, v čem je klíč k úspěchu velkých jazykových modelů v přesvědčování.
Nejde ani tolik o samotnou manipulaci, ale o schopnost vytvářet husté proudy (stream) výroků s fakty, které podporují danou politickou pozici. Součástí jsou ale také nepřesnosti a zavádějící tvrzení, které chatbot bez rozpaků použije. Podstatné však je, aby výsledek neustále budil dojem faktů. Když inteligence dostaly instrukci rezignovat na formálně faktické výroky, jejich přesvědčovací magie vyšuměla.
Tým Davida Randa z Cornell Computing and Information Science, který uveřejnil výsledky v Nature, uskutečnil kontrolované experimenty v amerických prezidentských volbách (2024), kanadských federálních volbách (2025) a polských prezidentských volbách (2025). V americkém experimentu inteligence posunula mínění kandidátů o několik bodů na 100bodové stupni, což je mnohem víc, než co zmůže tradiční volební kampaň. V Kanadě a Polsku to bylo ještě víc, voliči se posunuli v průměru o zhruba 10 bodů. Fascinovaní vědci museli konstatovat, že účinek chatbotů na volby je brutální.
Rand se podílel i na vedení týmu, který publikoval ve Science. V tomto případě se vědci v experimentu s britskými účastníky soustředili na to, jaké charakteristiky udělají inteligenci co nejvíc přesvědčivou. Zjistili, že větší inteligence jsou obecně přesvědčivější, ale nejvíce účinné je instruovat inteligenci, aby se zásobila co nejvíc fakty ve prospěch dané věci, jak je jenom možné, a ještě ji poskytnout trénink v přesvědčivosti.
Nejdrsněji přesvědčivý model, který zase tak moc nedbal na faktickou správnou a domýšlel si detaily, dokázal posunout mínění voličů o neuvěřitelných 25 procent, což je jedna z nejvyšších hodnot v historii podobných výzkumů. To je jako politická jaderná zbraň. S takovou výzbrojí v podstatě přesvědčíte kohokoliv o čemkoliv.
Výsledky tohoto výzkumu jsou zdrcující. AI chatboty jsou devastující politická zbraň, kterou se mnozí političtí hráči nebudou rozpakovat použít. Většina z nich je v soukromých rukou, přičemž vlastníci, které nic nebrzdí, mají neomezený vliv na fungování inteligencí a nepochybně je mohou politicky „nastavit“ podle přání zákazníka nebo svých potřeb. Na nic netušícího uživatele se mohou sesypat dravé přesvědčovací modely a připravit ho o voličskou duši.
##seznam_reklama##
Rand s kolegy naléhavě apeluje na to, že inteligence nutně potřebují nezávislý a důkladný dohled, podobně jako třeba výrobci zbraní, jedů nebo léků. Pro vědce samotné je teď hlavním úkolem zajistit, aby škody působené inteligencemi byly co nejmenší a pomoci lidem, aby se naučili nepodléhat snadno strojovému politickému přesvědčování.
Video: Debunking Antisemitic Conspiracy Theories using AI - David Rand
Video: The Good, the Bad, and the Ugly
Literatura