Lidská psychika je zvláštní věc. Opájíme se představou, jak je naše vůle svobodná a rozhodování nezávislé, ale ve skutečnosti se naše chování do značné míry automaticky podřizuje mnoha vnějším i vnitřním faktorům. Důvodem je především to, že jsme společenské zvíře, pro které bylo během celé historie pro přežití zcela klíčové žít v tlupě s ostatními lidmi.
Vždy to byla naše silná stránka, ale v moderní době, plné divných věci, s nimiž jsme se na afrických savanách nikdy nesetkali, se z našeho společenského nastavení zároveň stala ohromná slabina. Naše psychika je udělaná tak, že velmi přihlížíme, a často se přímo podřizujeme tomu, co si myslí „většina.“ Jinak by tlupy lovců a sběračů na savaně nemohly fungovat. Teď žijeme v betonové džungli, ale mozek máme stejný.
Na zneužívání těchto mechanismů lidského mozku, které jsou až překvapivě silné, je postavená propaganda i šíření dezinformací. Právě proto se v diskuzích pod příspěvky na sociálních médiích objevují spousty vášnivě přikyvujících či naopak dramaticky nesouhlasících reakcí, které ale přitom nejsou autentické a mnohdy ani lidské.
Vytvářejí falešný dojem většinového názoru. Možná si řeknete, že tomu jen tak někdo nepodlehne, ale je překvapivě těžké odolat. Je to jako vábení sirén nebo pornografie. Nedávné výzkumy ostatně ukazují, že inteligence jsou extrémně účinné v přesvědčování, mnohem zdatnější než průměrný člověk. A koho nepřesvědčí, u toho alespoň vyvolají depresi. Aby toho nebylo málo, teď se na obzoru rýsují ještě mnohem horší věci.
V rubrice Policy Forum prestižního Science se nedávno objevil článek mezinárodního týmu odborníků, který naléhavě varuje před novou generací dezinformací. Daniel Thilo Schroeder ze SINTEF Digital v norském Oslu a jeho kolegové upozorňují, že přicházející vlivové operace budou jako koordinované flotily AI osobností, které se budou adaptovat v reálném čase, budou infiltrovat skupiny uživatelů a vyrábět většinový názor veřejnosti v průmyslovém měřítku.
Schroeder a spol. upozorňují, že velké jazykové modely propojené s multiagentovými systémy (soustavy kooperujících AI agentů) mohou vytvořit dezinformační roje inteligencí (AI swarm), které budou zdařile napodobovat sociální dynamiku. Je to zásadní hrozba svobodné soutěži demokracie a útok na společenský konsenzus, už tak dost nalomený stále se prohlubující polarizací.
Podle badatelů je rizikem nejen falešný obsah, plný lží a manipulací, ale především syntetická většina. Falešně vyrobený dojem, že většina lidí v dané zemi nebo určité skupině zastává postoj, který vůbec neodpovídá skutečné situaci.
Dezinformační roj inteligencí tvoří síť navzájem propojených AI agentů, kteří si udržují trvalé identity a paměť. Tito AI agenti jsou navzájem koordinovaní, a mohou být velmi rozmanití, přičemž jako součást operace mohou hrát i například role vášnivých oponentů, jejichž hádky ale ve skutečnosti tlačí lidské uživatele k předem nastavenému cíli vlivové operace dezinformačního roje. AI agenti se neustále adaptují na vyvíjející se situace a operují prakticky autonomně.
Detekovat dezinformační roj soudobými metodami by bylo velmi těžké. Vědci ale naštěstí mají pár tipů, co s tím. Namísto moderování příspěvků jednoho po druhém navrhují obranné mechanismy, které budou sledovat koordinované chování a původ obsahu, detekovat statisticky nepravděpodobnou koordinaci účtů, provádět zátěžové testy sociálních médií pomocí simulací, nabízet možnosti ověření s ohledem na soukromí a sdílet důkazy prostřednictvím distribuované AI Influence Observatory. Jinými slovy, před dezinformačními rojí inteligencí nás musejí bránit obranné inteligence.
Video: The Geopolitics of Disinformation: Reports on the Summer Academy in Bonn, Germany
Literatura
Jak změnit konzervativce v liberála? Psychologové to dokázali v experimentu
Autor: Stanislav Mihulka (25.10.2017)
V morálních a politických sporech nefungují fakta, ale osobní zkušenost
Autor: Stanislav Mihulka (27.01.2021)
Lepší než kampaň: Umělé inteligence levou zadní přesvědčí voliče oběma směry
Autor: Stanislav Mihulka (08.12.2025)
Diskuze:
AI
Peter Taraba,2026-01-30 14:18:11
Na priklade tejto diskusie by sa dalo povedat, ze naozaj velka cast prispevkov musi byt AI.....
Greendeal
Jiri Kamecek,2026-01-28 18:26:49
Oteplení způsobené C02 je přesně ta dezinformační realita, která vznikla hromadně kopírovaním "vědeckým důkazům".
koupené lajky
Juras Jurij,2026-01-28 14:03:04
Stačí vidět neonacistu, jako je třeba pan poslanec "já jsem právník" Dr. Rajchl a každý jeho status má hned desítky tisíc lajků. Koupených z Ruské Federace, z Indie, Bangladéše. Hned to dělá dojem, že jeho slova mají dosah, i když ho vůbec nemají. Tím to algoritmus jako relevantní tlačí dál. A lidé co nejsou uplně lvi ducha to berou jako názor, co s nimi sdílí velká masa lidí. I když je to jen pár set / tisíc tupců.
Re: koupené lajky
Petr Nováček,2026-01-28 14:20:51
Rajchl neonacista není. To by musel být plešatý, nosit bejzbolku a hajlovat. Nicméně ty lajky si opravdu zaplatil. Když se dívám na seznam, kdo lajkuje, tak je to zhruba půl na půl opravdoví lidé vs zaplacené lajky. Nicméně Facebook to vyhodnotí tak, že je o Rajchla velký zájem a FB pak jeho příspěvky zobrazuje normálním lidem. Jinak by FB jeho příspěvky neupřednostňoval.
Re: Re: koupené lajky
Stanislav Čeřovský,2026-01-28 15:46:36
Vážně se domníváte, že neonacista musí být plešatý, nosit bejzbolku a hajlovat? To máte hodně zjednodušený pohled na věc.
Neonacista nemusí být plešatý, nosit bejzbolku ani veřejně hajlovat. To jsou jen historické nebo mediální obrazy spojené s určitými subkulturami, např. skinheads z 80.–90. let. Ideologie ale není účes ani módní styl. Je to soubor názorů, například víra v rasovou nadřazenost, autoritářství, antisemitismus, popírání či relativizace nacistických zločinů, případně otevřená sympatie k nacistickým symbolům nebo režimu. Dnes se extremisté často prezentují úplně nenápadně: v oblecích, na sociálních sítích, s ústy plnými "ochrany tradic" nebo "svobody slova".
Re: Re: Re: koupené lajky
Petr Nováček,2026-01-28 15:52:45
Jasně, že musí hajlovat. nosit bejzbolku a být plešatý. Pokud označujete neonacistu jako člověka, který chce "ochrany tradic" nebo "svobody slova", tak to jednoduše není neonacista. Spíše člověk, který takto nálepkuje pravděpodobně chce nějakou formu totality a nesnese jiný názor.
Re: Re: Re: Re: koupené lajky
Stanislav Čeřovský,2026-01-28 20:51:33
Zkuste zapracovat na chápání textu.
Nenapsal jsem, že "neonacisté jsou lidé, kteří chtějí ochranu tradic a svobodu slova", ale dal jsem vám definici toho, co dělá neonacistu neonacistou:
"víra v rasovou nadřazenost, autoritářství, antisemitismus, popírání či relativizace nacistických zločinů, případně otevřená sympatie k nacistickým symbolům nebo režimu".
A ano, i mezi nimi jsou takoví, kteří vykládají třeba o "ochraně tradic".
Domnívat se, že neonacistu definuje jeho vzhled, je naprosto pomýlené, ve skutečnosti to je jeho ideová orientace.
Re: Re: Re: Re: Re: koupené lajky
Petr Nováček,2026-01-28 21:17:49
víra v rasovou nadřazenost - takových lidí bude minimum, takový člověk musí například tvrdit, že černoši jsou horší v basketbalu nebo běhu
autoritářství - neboli zakazování jiných politických stran, omezování svobody slova, ... tyto věci můžeme v současnosti vidět u novodobých liberálů, kteří chtějí zakazovat jiné strany třeba AFD a obecně omezovat svobodu slova
antisemitismus - neboli nenávist k židům je dnes hlavně mezi liberály, kteří nenávidí židy a podporují Palestince
popírání či relativizace nacistických zločinů - neznám nikoho takového, kdo by je popíral, nicméně i tak si myslím, že o těchto historických událostech by mělo být možné vést debatu, aby nebyl pouze jeden výklad a ostatní by byly trestné
případně otevřená sympatie k nacistickým symbolům nebo režimu - toto jsou ti hajlující plešatí týpci s bejzbolkou, kteří byli v devadesátkách, dnes jsou z nich fotrové od rodin, někteří už mají vnoučata a hajlující nástupce nemají
Ve výsledku jsou k neonacistům neblíže novodobí liberálové. Ne Turek nebo Rajchl.
Re: Re: Re: Re: Re: Re: koupené lajky
D@1imi1 Hrušk@,2026-01-28 23:46:34
Rasová nadřazenost opravdu není o zpochybňování jakýchkoliv pozitivních predispozic. Aristokraté také nezpochybňovali, že dělný lid je na kopání příkopů lepší než aristokracie, což nijak nevylučuje, že sebe považovali za nadřazenou kastu, právě naopak.
Jinak souhlasím, že Rajchl nejspíš není neonacista. On je především populista a primitiv cílící na ještě větší primitivy. Že se ho zastáváte zrovna vy, mě vůbec nepřekvapuje. Ani mě moc nepřekvapuje váš úsměvný argument s pleškou a basebolkou.
temná budoucnost?
Frantisek Zverina,2026-01-28 12:25:59
Pokud se chce člověk bránit, musí asi rezignovat na sociální sítě, čímž bude docházet k další atomizaci společnosti. Tím ale nahráváme sociálním inženýrům. Vidí někdo cestu z tohoto bahna, do kterého jsme systematicky zašlapáváni?
Re: temná budoucnost?
Katarína Pillárová,2026-01-28 18:27:47
Máte deti, vnukov? Pozrite sa na ne a učte ich chodiť medzi ľudí. Uprednostňovať face to face pred technológiami. Učte ich vytvárať si reálne vzťahy s reálnymi ľuďmi a obmedzovať čas na nete, hlavne na sociálnych sieťach. Nové technológie prinášajú nové životné prostredie (nemyslím tým stromy v lese a tak). Zvíťazí ten, kto sa adaptuje. Prejavom adaptácie v tomto prípade je rýchle rozlíšenie medzi digitálnym fejkom a realitou. Môj syn rozoznáva veľmi efektívne AI obrázky. Ja si to častokrát ani nevšimnem, neriešim to, ale on hneď povie, že táto taška, alebo papierový obrúsok sú nevkusné, lebo sú vyrobené AI a neprirodzené.
Ľudia, ktorí sa stretávajú mimo virtuálnu realitu sa učia, ako iní ľudia rozmýšľajú a zároveň to nedovolia učiť sa umelej inteligencii. Tá sa učí iba z toho čo má dostupné na nete. Neznamená to totálne sa vyhýbať internetu, ale netreba zdieľať všetko. My máme výhodu, že môžeme byť aj tu aj tam. AI je iba tam.
Re: Re: temná budoucnost?
Matěj Jánský,2026-01-28 22:26:11
Dnes to rozliší, za pár let (možná měsíců) už ne. Ty výstupy budou, pokud se to nějak nebude označovat, k nerozeznání. Ergo bude úplně jedno jestli bude nebo nebude mezi lidmi. Prostě na to nenatrénuje. Ani on ani Vy nebo já. Nelze. Dezinformační nebezpečí je zřejmé. Co s tím nevím, pravděpodobně nějaká singularita vývoje lidstva a změní se přirozeně celkově přístup k takovým zásadním technologickým směrům a budeme si vážit slunce, lidského rozhovoru, kontaktu, trávy, větru a smyslů zbavení investoři lačnící po moci (vždyť to stejně kvůli tomu financují) nebudou nikoho zajímat...
Re: Re: Re: temná budoucnost?
Martin Novák2,2026-01-29 15:42:16
Nerozliší, stejně jako u Youtube. Tam máte dva druhy videí, před rokem 2025 kde je editace trochu poznat a 2025 a později kde je možné vše a editace/vytvoření není vůbec vidět (pokud to někdo nezvoral).
Navíc AI v prohlížeči pozná že hledáte potvrzení nějaké konkrétní informace a může výsledky hledání snadno přizpůsobit vašemu psychologickému profilu v reálném čase (také už bylo několik afér s úpravou výsledků hledání s určitým biasem). Takže pro potvrzení čehokoli musíte osobně najít očité svědky :-)
Singularita (nikoliv vývoje lidstva) je za rohem a vypadá to že aspoň ti co to přežijí budou mít času víc než dost. I ti invesoři přijdou o moc poměrně rychle.
Není to s křížkem po funusu?
Martin Novák2,2026-01-28 09:10:21
Při pohledu na politiku EU, GD a nástup woke progresivismu se nemůžu ubránit dojmu že to tak funguje už 15-20 let protože tohle by nikdo normální nemohl podporovat.
Nelogické do očí bijící věci jako přechod veškerých energií na elektřinu + zavírání elektráren, totální závislost na elektřině + občasné zdroje v zimě nefungující, zavírání fungujících atomových elektráren + net zero CO2, neřízená imigrace kde většina imigrantů je na podpoře + deficitní ekonomika, dušení ekonomiky miliony zákonů a nařízení + výzvy Ústředního Výboru k rozvoji a inovacím (stejně jako za socializmu jenom těch zákonů a nařízení je 5x víc)...
Re: Není to s křížkem po funusu?
Petr Nováček,2026-01-28 14:25:25
Hodně lidí jsou konformisti, viz Milgramův experiment, chtějí patřit do stáda. Třeba takový Svěrák. Podepisoval antichartu, aby dokázal jak moc je pro komunisty, aby pak obrátil o 180 stupňů a stal se s něho velký komunistobijec. Jakmile se kormidlo otočí, tak otočí znovu. Podobně náš prezident. A tyto lidi se diví, proč se tak nechovají všichni. Vždyť je to přeci výhodné být vždy pro režimní.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
