Že jsou umělé inteligence dobří sluhové, ale špatní páni, se teď hodně vyostřuje v politice. Ukazuje se, že inteligentní chatboti jako ChatGPT a mnozí podobní jsou extrémně účinnými nástroji v politickém přesvědčování. Podobně jako v případě empatie jsme si velmi naivně mysleli, že je to navýsost lidská doména, ale byl to jen předsudek, jeden z mnoha dnešní doby.
Vědci americké Cornell University a dalších institucí v důmyslných experimentech, které uspořádali v několika zemích, zjistili, že účinek inteligencí na průměrného voliče je naprosto drtivý. Už jen krátká konverzace s chatbotem dokáže zásadně posunout voličův postoj ohledně kandidátů či politiky – a to oběma směry, pro i proti. Umělé inteligence jsou v tomto směru podstatně úspěšnější než stávávající politické kampaně, v nichž se pachtí živí kandidáti a jejich volební týmy.
Vědci i vědecká média považují tato zjištění za mimořádně závažná. Výsledky výzkumu publikovaly současně dva nejvíce prestižní vědecké časopisy světa Nature a Science. Podle odborníků z Cornellu se také pozoruhodně ukázalo, v čem je klíč k úspěchu velkých jazykových modelů v přesvědčování.
Nejde ani tolik o samotnou manipulaci, ale o schopnost vytvářet husté proudy (stream) výroků s fakty, které podporují danou politickou pozici. Součástí jsou ale také nepřesnosti a zavádějící tvrzení, které chatbot bez rozpaků použije. Podstatné však je, aby výsledek neustále budil dojem faktů. Když inteligence dostaly instrukci rezignovat na formálně faktické výroky, jejich přesvědčovací magie vyšuměla.
Tým Davida Randa z Cornell Computing and Information Science, který uveřejnil výsledky v Nature, uskutečnil kontrolované experimenty v amerických prezidentských volbách (2024), kanadských federálních volbách (2025) a polských prezidentských volbách (2025). V americkém experimentu inteligence posunula mínění kandidátů o několik bodů na 100bodové stupni, což je mnohem víc, než co zmůže tradiční volební kampaň. V Kanadě a Polsku to bylo ještě víc, voliči se posunuli v průměru o zhruba 10 bodů. Fascinovaní vědci museli konstatovat, že účinek chatbotů na volby je brutální.
Rand se podílel i na vedení týmu, který publikoval ve Science. V tomto případě se vědci v experimentu s britskými účastníky soustředili na to, jaké charakteristiky udělají inteligenci co nejvíc přesvědčivou. Zjistili, že větší inteligence jsou obecně přesvědčivější, ale nejvíce účinné je instruovat inteligenci, aby se zásobila co nejvíc fakty ve prospěch dané věci, jak je jenom možné, a ještě ji poskytnout trénink v přesvědčivosti.
Nejdrsněji přesvědčivý model, který zase tak moc nedbal na faktickou správnou a domýšlel si detaily, dokázal posunout mínění voličů o neuvěřitelných 25 procent, což je jedna z nejvyšších hodnot v historii podobných výzkumů. To je jako politická jaderná zbraň. S takovou výzbrojí v podstatě přesvědčíte kohokoliv o čemkoliv.
Výsledky tohoto výzkumu jsou zdrcující. AI chatboty jsou devastující politická zbraň, kterou se mnozí političtí hráči nebudou rozpakovat použít. Většina z nich je v soukromých rukou, přičemž vlastníci, které nic nebrzdí, mají neomezený vliv na fungování inteligencí a nepochybně je mohou politicky „nastavit“ podle přání zákazníka nebo svých potřeb. Na nic netušícího uživatele se mohou sesypat dravé přesvědčovací modely a připravit ho o voličskou duši.
Rand s kolegy naléhavě apeluje na to, že inteligence nutně potřebují nezávislý a důkladný dohled, podobně jako třeba výrobci zbraní, jedů nebo léků. Pro vědce samotné je teď hlavním úkolem zajistit, aby škody působené inteligencemi byly co nejmenší a pomoci lidem, aby se naučili nepodléhat snadno strojovému politickému přesvědčování.
Video: Debunking Antisemitic Conspiracy Theories using AI - David Rand
Video: The Good, the Bad, and the Ugly
Literatura
Zadrátované mozky: Politický postoj přebije jednoznačné důkazy jako nic!
Autor: Stanislav Mihulka (14.01.2017)
Jak změnit konzervativce v liberála? Psychologové to dokázali v experimentu
Autor: Stanislav Mihulka (25.10.2017)
Hamlet byl liberál
Autor: Josef Pazdera (18.07.2018)
V morálních a politických sporech nefungují fakta, ale osobní zkušenost
Autor: Stanislav Mihulka (27.01.2021)
Mě neoočkujete, jsem republikán
Autor: Miloslav Pouzar (10.12.2021)
Morální nálada: Základní lidské hodnoty se mění podle ročních období
Autor: Stanislav Mihulka (10.08.2024)
Politická příslušnost přebíjí pravdu při konzumaci zpráv
Autor: Stanislav Mihulka (04.11.2024)
Důvěřujeme vědě?
Autor: Miloslav Pouzar (13.08.2025)
Diskuze:
Bojím se, že to není ani tak o tom...
Pavel Kaňkovský,2025-12-11 00:31:19
...jak jsou umělé inteligence nebezpečné, jako spíš o tom, jak jsou lidi blbí.
"Nejdrsněji přesvědčivý model, který zase tak moc nedbal na faktickou správnou [sic] a domýšlel si detaily, dokázal posunout mínění voličů o neuvěřitelných 25 procent..."
Ale na to už leckterý politik přišel, že "hustý proud fakt(oid)ů" na lidi zabírá. Ale s umělou inteligencí už ani nebude potřebovat na to mít talent (nebo dost velký tým za zadkem).
Re: Bojím se, že to není ani tak o tom...
D@1imi1 Hrušk@,2025-12-11 00:41:29
Podepisuji v plném rozsahu. Bohužel.
"hustý proud faktoidů" - Hezké vyjádření :)
Re: Bojím se, že to není ani tak o tom...
Martin Novák2,2025-12-11 08:56:52
Pro to je nejdůležitější dodat faktoidy v souladu s přesvědčením daného konkrétního člověka, tj. to co chce slyšet a/nebo aspoň to co odpovídá jeho Overtonově oknu.
Na to je AI mnohem lepší než sebelepší tým. Ani ten nejlepší tým to nedokáže personalizovat v reálném čase pro několik lidí. AI si dokáže udělat analýzu předchozích rozhovorů a psychologický profil v reálném čase a podle toho přizpůsobit/halucinovat faktoidy.
Se zlepšováním výsledků normální AI ve vyhledávači budou lidé čím dál méně pochybovat o tom co jim jiná AI napíše...
Re: Re: Bojím se, že to není ani tak o tom...
František F,2025-12-11 10:18:42
AI bude vnucovat.
Ale stejně ještě bude záležet na tom, jak který zelenáč bude mluvit a jevit se před mikrofonem. Dál je třeba, aby skončila éra skrz AI vytvořených "lidí" (řeč a video), šířených přes internet. Nesmí nás pouhý obraz a zvuk zmýlit, že snad jde o člověka.
Re: Re: Re: Bojím se, že to není ani tak o tom...
D@1imi1 Hrušk@,2025-12-11 11:12:23
Skončí éra, kdy bez odborné analýzy takové video zvládnete podle artefaktů a chybějících či nesedících detailů rozpoznat. Můžete pak klidně žít s dobrým pocitem, že už konečně nejsou na internetu ty AI vytvořené podvrhy :)
Možná se dočkáte i doby, kdy budeme mít opravdové ministerstvo pravdy, které bude nežádoucí obsah na internetu blokovat v reálném čase a bude to podáváno jako boj proti falešnému obsahu. Už teď to jednotlivé internetové společnosti dělají, ale nemůžou to dělat příliš agresivně, protože nechtějí ztratit uživatele z žádného politického či názorového tábora. Ministerstvu pravdy ale žádný odchod uživatelů hrozit nemůže. A Vy budete moci žít s dobrým pocitem, že Vás stát chrání před AI generovanými podvrhy na internetu :)
Terminator: Genysis
Tomáš Novák,2025-12-09 10:04:32
Pořádně se na ten film podívejte - toto nás čeká a bude to ve skutečnosti ještě mnohem horší...pokud nedostaneme rozum a AI striktně neomezíme.
Re: Terminator: Genysis
Martin Novák2,2025-12-09 10:31:15
Na to je pozdě a navíc AI ve formě různých botů operuje skrytě. Stejně tak AI s biasem, a každá AI má bias k levici, která například píše články do novin, zprávy atd není vidět. Těžko najdete novináře který AI nepoužívá - je to příliš pohodlné.
Navíc už se i někteří premiéři přiznali že se s AI radí...
Je pozdě zavírat vrata, kůň už utekl.
Re: Re: Terminator: Genysis
F M,2025-12-13 11:40:11
Ta AI co myslíte je hlavně směřována zákazy a omezeními (tabu), potom také složením obsahu na internetu, tedy opět s těmi filtry a navíc i těmi u tvůrců obsahu. Zahrnuje to i převahu "oficiálních verzí" a pokud je to na internetu dost často opakováno tak to přechází v pravdu. Že se z nich dá vyloudit leccos je spíš problém autora a ruku na srdce, většina jich (vyšší příjmy) táhne spíš k pravici.
S levicí to nemá společného nic víc než s pravicí, ty deformace jdou spíš za ideologiemi, ale spíše jde o výhodnost pro různé skupiny.
Dnes je to odtržení některých těch skupin/lidí (od ostatních/reality, v rámci těch výhodností a světonázoru) tak daleko, že se jim předkládá obsah vytvořený jako by pro tu jinou (tedy vycházející z požadovaného obrazu o ní) a oni i věří, že je ten obsah opravdu určený pro ty druhé a ne pro ně samotné, i když se na té druhé trefí když už vůbec, tak maximálně do pár % členů. A tradičně funkce ani vzdělání tu příliš roli nehraje (s rostoucí izolací tak leda negativní).
Re: Terminator: Genysis
D@1imi1 Hrušk@,2025-12-09 10:48:06
Snaha o zákaz (omezení) AI by měla stejný úspěch jako snaha o zákaz jaderných zbraní. Obojí zakážete leda slabším hráčům, u kterých zákaz dokážete vynutit buď sankcemi nebo hrubou silou. Silnějším hráčům nezakážete nic.
Uz len
Jan Pastrnak,2025-12-08 15:56:37
Nejako presvedcit dezolatov, aby si s nimi pokecali...
Re: Uz len
Jan Hanza,2025-12-08 16:23:04
Příteli, teď už jen zadefinujte kdo je to ten "dezolát" :) Už jen to, že jste použil tento výraz svědčí o tom, že ani nic definovat vlastně nemusíte. Stydím se za vás. Z kovaných liberálů a progresivistů se vždycky nakonec vyklubou fašisté, kteří jsou skálopevně přesvědčeni o své morální a intelektové nadřazenosti, a že ve jménu idejí, kolem kterých se tak pevně semkli, jsou oprávněni zlikvidovat všechny méněcenné, tedy ty, jež stejnému fanatismu nepropadli. A samozřejmě pod tím vším vždy nějak probleskává přesvědčení o tom, že oni jsou celkově ostatním nadřazeni jako nějaký lepší a vyšší druh lidí.On se ten Marxův výrok, že náboženství je opium lidstva, dá zobecnit tak, že jakákoliv idea, které lidi bezhlavě propadnou, je jak opium. Člověk ztrácí soudnost, kontakt s realitou a propadá se čím dál víc do omamných snů onou ideou generovaných. Pokud se může koupat v její domnělé dokonalosti, zažívá až extatické pocity vytržení, pokud má ale pocit, že ti ostatní neprožívají totéž, dostává se abstinenčních psychotických stavů, v nichž je schopen klidně i páchat zločiny, jen aby ta jeho idea ze světa nevyprchala úplně. A právě to se teď libtardům a progresivistům začíná dít.
Re: Re: Uz len
Ivo Petrouš,2025-12-09 15:49:50
Napsala to hezky již J. K. Rowling v posledním díle Harry Pottera: mladý Brumbál napsal Gellertu Grindelwaldovi (záporňák):
„Ano, my [kouzelníci] jsme nadáni mocí, a to nám dává právo vládnout [nad mudly] a samozřejmě nám to dává i zodpovědnost za ovládané ... Uzmeme moc Pro Větší Dobro.“
(„Yes, we [wizards] have been given power and, yes, that gives us the right to rule [trh muggles], but it also gives us responsibilities over the ruled... We seize control For the Greater Good.“)
.
A ještě explicitněji to formuloval Eliezer Yudkowsky:
"„Ano!“ řekl Brumbál. „Mým vlastním velkým sokem byl Grindelwald a jemu jsem rozuměl skutečně velmi dobře. Byl mým temným zrcadlem, mužem, kterým bych se snadno mohl stát, kdybych propadl pokušení uvěřit, že jsem dobrým člověkem, a tudíž je každý můj čin oprávněný." https://archetypal.cz/.../harry-potter-a-metody-racionality/
"“Yes!” said Dumbledore. “My own great foe was Grindelwald, and him I understood very well indeed. Grindelwald was my dark mirror, the man I could so easily have been, had I given in to the temptation to believe that I was a good person, and therefore always in the right." http://www.hpmor.com/
Re: Re: Uz len
Pavel 1,2025-12-09 16:19:16
Takovou míru sebekritiky bych od tebe soudruhu kovaný fašisto, nečekal.
Re: Re: Uz len
Michal Kára,2025-12-09 17:50:20
Co to? Zdá se mi to, nebo opravdu slyším kejhat nějakou potrefenou husu...
Re: Re: Re: Uz len
Martin Novák2,2025-12-09 19:31:17
Pavel 1 je dokladem pravdivosti výroku tuším Winstona Churchilla během Norimberského procesu: "Budoucí generace fašistů se bude nazývat antifašisty"
Re: Re: Re: Re: Uz len
Mintaka Earthian,2025-12-12 19:48:21
Nepotřebujeme ani tu AI abychom byli v "loji", když skočíme nemorálním populistům a psycho-sociálně narušeným jedincům na lep a necháme se rozeštvat.
https://manipulatori.cz/hoax-fasiste-budoucnosti-budou-sami-sebe-nazyvat-antifasisty-mel-rici-winston-churchill/
Re: Re: Uz len
F M,2025-12-13 12:20:30
Tak definice podřadné skupiny a možnost patřit "levně" do nějaké vyvolené je věky ověřený způsob jak se dá prosadit/obhájit téměř cokoli, třeba ta kontrola nad obsahem, genocida, bída, no ledacos. Ta lidská potřeba patřit mezi vyvolené, nebo alespoň nezůstat pozadu je silná. Dvouciferné je i zastoupení lidí u kterých je ta potřeba nadřazenosti hypertrofovaná (někdo to vždycky rád povede). Většina potřebuje relativně silný impulz k tomu, aby proti tomu něco podnikla (+hloubka již vzniklé a prohlubující se jámy), což může vést k dost silným a stabilním deformacím, zvlášť když je jí něčím hrozeno, nebo se cítí relativně slušně sanována, zvlášť když je "pod ní" ještě nějaká relativně objemná skupina a kombinace.
Přesně toto vlákno a k tomu na spektru navazující přechody do širší populace, jsou to nejhorší co české společnosti způsobila (nejen) odcházející vládní koalice a nikdy by ji neprošlo bez podpory (médií, koho?). Asi se to dá v mírnější formě vztáhnout minimálně i na EU, USA, patří sem minimálně ze slušné části i deal. Cokoli kde vnímáme nějaké ty "dezoláty" je silný kandidát.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
