Trvalo to jen pár let a chatboti s generativní inteligencí se stali běžnou součástí našich životů. Je to okouzlující a současně hrozivé, protože chatboti rozhodně nejsou hladce fungující nástroje. Bez ohledu na to, že stále jsou blackboxem a vlastně nevíme, co přesně dělají, ChatGPT, Gemini, Claude a spolu s nimi všichni chatboti stále dělají chyby.
Podle nedávné studie v režii BBC i ti nejvíce pokročilí chatboti dělají přinejmenším jednu zásadní chybu ve 45 procentech všech odpovědí. Pro mnohé uživatele to ale není relevantní. Nedávno to zjistili Steven Shaw a Gideon Nave z University of Pennsylvania v sérii experimentů. Ukázalo se, že uživatelé mají sklon brát odpovědi z ChatGPT jako danou věc – i když jsou špatně.
Účastníci experimentů měli odpovídat na znalostní dotazy. Měli možnost použít ChatGPT, což udělala více než polovina z nich. V jednom z experimentů se 359 dobrovolníky se lidí řídili správnou radou umělé inteligence v 92,7 procentech případů, a také špatnou radou ve stále dost tučných 79,8 procentech případů.
Jak se zdá, lidé jsou až komicky ochotni věřit tomu, co jim chatbot říká. Shaw a Nave to poněkud mrazivě nazývají kognitivní kapitulace (cognitive surrender). Podle nich jsou lidé vlastně ochotní outsourcovat samotné myšlení. Řídí se tím, co jim chatbot řekne, i když to není správně, pokud to zní obstojně věrohodně a nevědí, že jde o chybu.
Může to být tím, že myšlení bolí a je energeticky nákladné, tak proč ho nesvěřit stroji? Když už za nás stroje počítají a posílají dopisy, po naší výpočetní a poštovní kapitulaci… Současně ale platí, že chatboti, i když to zní absurdně, jsou velmi přesvědčiví a lidem se s nimi podle všeho dobře povídá. Nejspíš odpadá stres z mezilidské interakce, která je mnohem náročnější než samotné myšlení, přinejmenším pro introverty.
Přílišná důvěra v chatboty ale může být i velice riziková, pokud by se operátoři chatbotů pokoušeli manipulovat jejich odpovědi a chování, s cílem nějakým způsobem ovlivnit uživatele. Což v dnešní době v žádném případě nelze vyloučit.
Video: Is AI Replacing Human Thinking? The Rise of "Cognitive Surrender"
Literatura
V morálních a politických sporech nefungují fakta, ale osobní zkušenost
Autor: Stanislav Mihulka (27.01.2021)
Jak účinně bojovat s dezinformacemi? Zapojte emoce!
Autor: Stanislav Mihulka (07.10.2024)
Lepší než kampaň: Umělé inteligence levou zadní přesvědčí voliče oběma směry
Autor: Stanislav Mihulka (08.12.2025)
Nová generace dezinformací: Roje inteligencí vytvoří falešnou většinu
Autor: Stanislav Mihulka (27.01.2026)
Diskuze:
Surprise surprise, AI dělá pro co byla vytvořena.
Martin Novák2,2026-04-01 13:40:28
Kdo by to byl řekl že lidi nechají myšlení na systému který byl vytvořen proto aby za ně myslel. To je jako vytvořit automatické řízení a pak se divit že ho lidi nechají řídit, nebo vytvořit DNS a pak se divit že lidi přestali používat IP adresy.
Každý kdo používá AI používá ji proto že na ní nechává větší nebo menší část vlastního myšlení, jinak by ji nepoužíval protože nic jiného neumí. Pokud bude dostatečně přesná (dostatečně znamená počet chyb nepřekročí vaše vlastní požadavky na sebe) tak se to bude jenom zesilovat.
Chtělo by to popis toho pokusu, třeba jaké byly následky špatné odpovědi. Jestli náhodně odchytili lidi v kampusu a bylo jedno jestli jsou odpovědi správné tak by to asi nechal na AI každý aby měl pokoj.
problém chatbotů...
Ladislav Truska,2026-04-01 01:44:25
jejich největší problém, se kterým jsem se zatím setkal je ten, že mají nejspíš v algoritmu nafest zadáno pokusit se odpovědět za každou cenu. Vlastně si za tu dobu co tady s nimi jsme, vůbec nevybavuji moment, kdy by mi nějaký chatbot odpověděl nevím... A tady nastává průšvih, protože když chatbot neví.., nepřizná to a zkusí zkonstruovat nějaký blábol, který vypadá, že by mohl být pravdou..
Re: problém chatbotů...
D@1imi1 Hrušk@,2026-04-01 02:18:27
Lze to řešit pokynem v nastavení. Dal jsem teď Gemini pokyn, ať na ano/ne otázky odpovídá suše "nevím", pokud odpověď nezná. Hned to fungovalo, konverzace vypadala:
Můj dotaz: Nachází se mimo Sluneční soustavu inteligentní život?
Odpověď Gemini: nevím
Petr Nováček,2026-03-31 17:05:56
Já doporučuji rovnou prompt zadávat do více modelů současně. ChatGPT je poslední dobou nejslabší. Gemini, Claude i Grok jsou o mnoho lepší. Samozřejmě v nejlepších variantách a s nastavením thinking. Odpověď trvá déle, ale je kvalitnější.
"Říkali to v televizi - je to pravda!"
D@1imi1 Hrušk@,2026-03-31 09:41:18
To, že lidé mají tendenci vybraným informačním zdrojům nekriticky důvěřovat, není nic nového pod sluncem - rodič, učitel, kněz, vůdce, televize, kniha... U chatbotů je alespoň výhoda, že se postupně zpřesňují. Problém nastane až ve chvíli, kdy je majitelé či vlády začnou používat k masivnímu manipulování veřejností. Což tedy také nebude nic nového pod sluncem.
K výzkumu - kdybych neznal odpověď na testovou otázku, radši odpovím podle chatbota, než abych náhodně tipoval. Statisticky bych byl úspěšnější. Záleží, co to bylo za otázky a jak snadné bylo odhalit, že jsou odpovědi chybné.
Re: "Říkali to v televizi - je to pravda!"
Stanislav Staněk,2026-03-31 09:58:54
Něco podobného jsem chtěl zrovna napsat. Většina lidí věří politikům a expertům, proč by nevěřila AI?
Re: "Říkali to v televizi - je to pravda!"
Florian Stanislav,2026-03-31 13:12:16
Ano, chatbot chybuje statisticky, ale je v současnosti.
Čtu knihu Cílek : Poutník časem chaosu, vydanou 2017. Původně geolog, taky ekolog, pak krizolog.
Krize byly a budou, mají prý i pozitivní jevy, že se něco nového hne kupředu.
Jen nemá odpoděď, jestli my v té dobré malé nové části budeme.
Takže snad mám myšlenu : Dobré knihy jsou stále dobré, ale stárnou, výcucy přes AI jsou okamžité a podnětné, hlavně pro toho, kdo si je kontroluje a nevěří všemu.
Satira
Ladislav Ryzí,2026-03-31 07:11:54
Ačkoliv používám AI denně, tak jedno jsem se naučil velmi rychle, po zadané otázce se zeptat ještě jednou a odpověď je někdy dost jiná. Teprve po několika doplňujících otázkách se člověk dobere správné odpovědi. A tady je o ní satirický článek z webu Degener https://degener.cz/penize-od-ai-tajnou-cestou/
Re: Satira
Waldemar Nováček,2026-03-31 08:03:35
Navíc mi přijde, že je ta jak v periodě - někdy se chytí a jede celý chat naprosto přesně, racionálně a efektivně a někdy je to na přes držku. To je hlavně teda gpt - takže ta mi už tzv. do baráku nesmí. Myslím, že se to začíná profilovat - gpt pro marušky a pepíky, claude pro profíky a gemini tak někde mezi
Re: Re: Satira
D@1imi1 Hrušk@,2026-03-31 09:47:48
Mám podezření, jestli minimálně za část těch špatných period nemůže vytíženost datacenter - jestli při nedostatku výpočetní kapacity komerční chatboti automaticky nesnižují hloubku, do jaké nad dotazem "přemýšlejí".
Re: Re: Re: Satira
Stanislav Staněk,2026-03-31 09:57:12
Zatím ne, ale už se to chystá, viz rozhovor s CEO Nvidia: https://youtu.be/vif8NQcjVf0
Re: Re: Re: Satira
Waldemar Nováček,2026-03-31 12:18:11
Těžko říct co je příčinou, jestli dočasně nastavené řízené zblbnutí AI od majitelů nebo jestli jsou to nějaké procesy, které testují kvalitu odpovědí / trpělivost uživatelů / úroveň toho co ještě snesou - protože tedy, alespoň mně, občas dojde trpělivost a moje reakce jsou nevybíravé. Co je zajímavé - někdy se tzv. chytne za nos a začne fungovat o poznání lépe a někdy je to ještě horší... fakt dáreček lidstvu tahle AI (chi, chi)
Re: Re: Re: Re: Satira
Mike Spike,2026-04-03 12:39:41
Kontext a vážení vstupů je poměrně alchymie, a k tomu připčtěte potrubí jak v chemičce, které tvoří různé opravné a automatizační smyčky.
Doporučil bych Vám potrénovat prompt engineering, resp. dnes už spíče context engineering. Jakmile začne AI stávkovat, tak to je základní signál zkusit upravit uživatelský vstup.
Re: Re: Re: Re: Satira
Mike Spike,2026-04-03 12:41:35
PS: AI vám vlastně může i pomoci zkontrolovat vstup zda je pro ni jasně čitelný a pochopitelný, případně Vám navrhout i úpravy.
Dále byste měl oddělovat kontexty, např. v ChatGPT oddělovat chat per téma, můžete dokonce rozdělit úkoly na projekty a nastavit si v nastavení základní instrukce a vůbec prístup (personalities).
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
