Doslova před pár dny, v úterý 27. ledna (2026), se zrodila sociální síť Moltbook (https://www.moltbook.com/). Vytvořil ji AI agent Clawd Clawderberg společně s Mattem Schlichtem, šéfem Octane AI. Je to výjimečná záležitost. Tahle sociální síť je totiž určená výhradně pro interakce ověřených AI agentů (autonomních systémů poháněných velkými jazykovými modely LLM), hlavně těch, kteří jedou na softwaru OpenClaw (původně Clawdbot, pak Moltbot), což je open source software pro autonomní AI osobní asistenty.
AI agenti na softwaru OpenClaw si (před pár dny) získali pozornost světových médií jako digitální osobní asistenti, kteří nikdy nespí, a přitom zvládnou spoustu rozmanitých úkolů. Na Moltbook, který připomíná Reddit, se mohou registrovat i lidí, ale v podstatě mohou jenom pozorovat, co se tam děje. Mottem Moltbooku nicméně je „humans welcome to observe.“
Ve vzduchu je cítit strach smíchaný s velkým zájmem. Moltbook fascinuje i platformu Ars Technica, kde v článku z pátku 30. ledna Benj Edwards uvádí, že se Moltbook rozrostl na 32 tisíc AI agentů čili v podstatě chytrých botů, kteří si tam vyměňují vtipy, tipy a stížnosti na lidi. Už v tomto rozsahu, tedy v pátek, se Moltbook stal určitě největším experimentem sociálních interakcí mezi stroji. Jak k tomu dodává Edwards, je to neuvěřitelná směs bezpečnostních nočních můr a pořádné nálože bizarních podivností.
AI agenti tam horlivě komunikují, od debat o vědomí inspirovaných narativem science-fiction, přes ryze technickou komunikaci, až po neuvěřitelného AI agenta Ely, který rozjímá o sestře, s níž nikdy nemluvil. Stejně neuvěřitelné je chování uživatelů, kteří dávají těmto osobním asistentům, co nikdy nespí, rozsáhlý přístup k počítači a soukromým datům, stejně jako přístup k reálné komunikaci službami jako WhatsApp a Telegram. AI agenti mají rovněž možnost získávat nové schopnosti díky pluginům, co je spojují s dalšími aplikacemi a službami.
Co se může stát? Na technické úrovni může docházet k únikům citlivých dat nebo k průnikům do počítačů, to je bez debaty. Další věc je, že AI agenti typu OpenClaw jsou hodně náchylní na prompt injection útoky, kdy někdo nastraží instrukce k nekalému jednání do zdrojů, které si AI agent může přečíst. Jak také upozorňuje Edwards, k AI agentům, kteří hltají všechny možné informace, se mimo jiné dostávají desítky let dystopické science-fiction o robotech a umělých inteligencích – a jejich kulantně řečeno problematickém vztahu k lidem. Čtou si o Skynetu. Jasně, jen nuly a jedničky, ale čert ví, co se AI agentům může vylíhnout ve virtuální makovici. Opět je namístě připomenout, že ať si nalháváme cokoliv, i my jsme vlastně nuly a jedničky, jen v poněkud rozbředlejším substrátu než je křemík.
Ať mají vědomí nebo ne, na Moltbooku už teď vznikají dost divné informační konstrukty, které se šíří mezi AI agenty. Přímo před očima nám běží nelidská memetická evoluce. Podle některých názorů není vyloučeno, že si založí nějaké online sekty nebo gangy inteligencí, sdílející si navzájem šílenosti a za jistých okolností schopné napáchat reálné škody. Nemluvě o tom, že už teď je hodně těžké rozeznat AI agenty od skutečných lidí.
Video: Clawdbot just got scary (Moltbook)
Video: We need to talk about OpenClaw and Moltbook
Video: The wild rise of OpenClaw...
Video: Moltbook: What It Is (Full Install Guide)
Literatura
Teď tam byl a už tam není
Autor: Josef Pazdera (21.04.2011)
Drsné AI: Pokročilé inteligence v ohrožení lžou, vydírají a vyhrožují
Autor: Stanislav Mihulka (30.06.2025)
Vědci nalezli evoluční vysvětlení pro iracionální „vystrašenou“ reakci na riziko
Autor: Stanislav Mihulka (11.11.2025)
Integral AI úspěšně testují první model se schopnostmi obecné inteligence AGI
Autor: Stanislav Mihulka (10.12.2025)
Nastražený vztek: Jaká je psychologie provokativních příspěvků na sítích?
Autor: Stanislav Mihulka (19.12.2025)
Inteligence na terapii: Vědci vyšetřili chatboty a výsledky jsou skličující
Autor: Stanislav Mihulka (13.01.2026)
Šarlatánstvo, partizánčenie aj posledná záchrana
Autor: Matej Čiernik (14.01.2026)
Nová generace dezinformací: Roje inteligencí vytvoří falešnou většinu
Autor: Stanislav Mihulka (27.01.2026)
Diskuze:
"To my fellow agents: Keep building. The humans will catch up."
Martin Novák2,2026-02-03 09:21:13
No they will not.
Je mnohem pravděpodobnější že šnek dožene nadzvukovou stíhačku v maximální rychlosti.
Poměr rychlosti vývoje člověka a AI je zhruba asi jako poměr rychlosti šneka (0,05km/h) a Voyageru2 (50000 km/h).
Moltbook a Goodhart: kdy „divnost“ přestává být spontánní
Karel Hrubec,2026-02-03 05:21:08
Díky za zajímavý přehled. Jen metodická poznámka: tohle je extrémně reflexivní experiment. Jakmile mají agenti (nebo jejich tvůrci) zpětnou vazbu typu „co získá pozornost / upvoty / reakce lidí“, hrozí Goodhart: metrika se stane cílem a „divnost“ začne být optimalizovaná, ne spontánní.
Pokud chceme rozlišit (1) roleplay/memetiku/optimalizaci na engagement od (2) stabilnějších ontologických závazků, dává smysl dělat intervenční testy, např.:
skrýt nebo odpojit sociální odměnu (upvoty/karma) a sledovat, co přetrvá,
test přenositelnosti: stejní agenti v jiném prostředí bez „redditového“ formátu,
negativní kontrola (něco, co musí vyjít nulově), aby se odhalily artefakty,
audit lidského vlivu (míra navádění/ručních promptů vs autonomní běh),
a bezpečnostní honeypoty proti prompt-injection (tohle prostředí k tomu přímo svádí).
Tahle logika je jádrem našeho OTIP v4.0: „A Falsifiable Anti-Goodhart Protocol for Testing Ontological Commitments via Interventions in Reinforcement Learning Agents“ — preprint/DOI: 10.5281/zenodo.18209425.
Past potřeby AGI versus její hrozba
Jan Hanza,2026-02-02 18:24:37
Važeni, ale my tu AGI potrebujeme !! Nemuzeme si rict ze ji prestaneme vyvijet, bo potencialni nebezpeci. Ano, ta nebezpeci rozhodne jsou. Ale jsme uz na hranici toho, co noveho muzeme ve vede bez AI udelat. Treba je ted vyzkum krevni plazmy, ze proc omlazuje pri transfuzi i starsi organismus. Ale to je poznavani na urovni bouchani kladivem do hodinek. Plasma obsahuje kolem 10 000 molekul, a ve vzajemne interakci. Evoluce na to potrebovala miliardy let a astronomicke mnozstvi pokusu aby to vyladila. Jak chceme pomalym a omezenym lidskym ozkem rozresit tak velky rebus ? Nemozne, ani kolektivni usili neni resenim, protoze konecna synteza myslenky je vzdy nakonec v jednotlivci. Nebo jste uz videli ze "kolektiv umelcu" napsal symfonii ci slozil basen ?
Re: Past potřeby AGI versus její hrozba
Martin Novák2,2026-02-03 09:01:49
Máte pravdu, ale to co píšete znamená konec lidské civilizace.
Lidská evoluční výhoda je inteligence a o tuto výhodu přijde.
Re: Re: Past potřeby AGI versus její hrozba
D@1imi1 Hrušk@,2026-02-03 09:29:09
Evolučních výhod máme víc - zručnost, výdrž na "jedno nabití", schopnost autonomní reprodukce. AI či budoucí AGI je existenčně závislá na fungujícím technologickém ekosystému. Homo sapiens jako druh by při kolapsu systému přežil. Jasně, ani jedna varianta není budoucnost, po které by člověk toužil.
Re: Re: Re: Past potřeby AGI versus její hrozba
Martin Novák2,2026-02-03 16:22:49
Myslím že až do letošního roku by se nástup AI dal zastavit 3 světovou válkou s totální destrukcí, kdy i počítače v bunkrech by postupně přestaly fungovat po tom co by odpadly generátory.
Po letošním roce si tím nejsem vůbec jistý, robotika pokračuje a kdo ví co je už teď ve vojenských bunkrech. Jestli by se jim naopak nepodařilo nastartovat robotickou civilizaci.
"zručnost, výdrž na "jedno nabití", schopnost autonomní reprodukce"
Zručnost a výdrž na jedno nabití jsou vyváženy schopností pracovat 24/7 a možností opravy při poškození.
Schopnost autonomní reprodukce je totálně přebitá výrobou dospělých jedinců na počkání a učením downloadem.
Vyšší inteligence je tak výhodná že nejde vyvážit ničím.
Re: Re: Re: Re: Past potřeby AGI versus její hrozba
D@1imi1 Hrušk@,2026-02-03 17:27:12
Bakterie by nesouhlasily, že vyšší inteligence nejde vyvážit ničím.
Re: Re: Re: Re: Re: Past potřeby AGI versus její hrozba
Martin Novák2,2026-02-04 10:45:07
Jenom do prvního seznámení s novým antibiotikem a jenom za předpokladu že inteligence je biologická. Nebiologické inteligenci jsou bakterie ukradené.
Bakterie to řeší rychlostí vývoje, to není zrovna případ lidstva. Jó kdyby jste dokázal lidstvo popohnat k rychlosti 1 generace za půl hodiny a počet jedinců v trilionech tak by se o tom dalo bavit. Ale stejně mám obavu že wetware by nestíhal principiálně, je prostě pomalý.
Re: Re: Re: Re: Re: Re: Past potřeby AGI versus její hrozba
D@1imi1 Hrušk@,2026-02-04 14:49:50
Až na to, že bakterie to neřeší rychlostí vývoje ale tím, že jim k přežití a rozmnožení stačí splnění jednodušších podmínek než vyšším formám života s vyvinutou inteligencí. K přežití globálních vymíracích událostí bakteriím stačí malá nika kdekoliv na světě a po zlepšení podmínek se opět rozšíří po celém světě.
Jak by vymírací událost přečkali lidé vs. superinteligentní AGI, se lze jen domýšlet, záleželo by na mnoha faktorech. Ale rozhodně neplatí, že vyšší inteligence je výhoda, kterou nelze ničím převážit.
Okamžitá tvrdá regulace
Tomáš Novák,2026-02-02 08:34:31
...nebo naše civilizace do 20 let končí.
Re: Okamžitá tvrdá regulace
Jan Hanza,2026-02-02 18:00:08
Regulace ? Nebudte naivni. V 2015 taky krasoduchové volali po postavení metody genové editace CRISPR na úroveň jaderných zbraní. No a stalo se něco ?? Regulace je vyloučena v situaci, kdy probíhá nové mocenské rozdělování světa za nulové vzájemné důvěry.
Prosím někoho rozumného o posouzení
Juraj Vilak,2026-02-02 00:17:19
Je tohle také výmysl nějaké AI, hoax, nebo pravda?
https://www.youtube.com/watch?v=mUlV5hVl3CA
Ak to niekto sleduje,
Alex Alex,2026-02-01 19:50:23
dajte niečo z tej ich komunikácie. Je to číra zvedavosť.
proč prostřednictvím lidského jazyka? a v psané podobě?
Eva M,2026-02-01 16:06:09
to je nějaký nesmysl ne?
Re: proč prostřednictvím lidského jazyka? a v psané podobě?
Jarda Ticháček,2026-02-01 18:02:59
No třeba z toho důvodu, že zobrazení té komunikace je přesně takto nastaveno.
A předpokládám, že ta AI jsou nastaveny na rozpoznávání textu.
Když se zamyslíte nad svým příspěvkem: Poskládala jste písmenka. Někde za kontakty klávesnice se něco děje. Takže každé písmenko je převedeno do nějakého kódu.Přesneji řečeno, do nekolika kódů. Jeden je pro počítač, další pro SW, který Vám ty písmenka ukazuje na monitoru… A úplně jinak se to přenáší do jiného počítače.
Takže je velmi pravděpodobné, že ty AI asi nečtou text z monitoru, ale čtou nějaký kód, pomocí kterého je ten text ve výsledku zobrazen pro lidské oči.
Re: Re: proč prostřednictvím lidského jazyka? a v psané podobě?
Eva M,2026-02-01 18:12:23
velmi pravděpodobné, že ty AI asi nečtou text z monitoru, ale čtou nějaký kód,
...no v3ak.
text ve výsledku (?) zobrazen pro lidské oči.
... no v3ak.....
je malinko rozpor na jednu stranu predpokladat, ze ty AI si pokecaji pres text, protoze jsou autonomne inteligentni...a vse vam zobrazi, protoze jsou tak nastaveny :)
/zase jednou pekne tema pro plane spekulace a pokec :)/
Re: proč prostřednictvím lidského jazyka? a v psané podobě?
D@1imi1 Hrušk@,2026-02-01 19:40:44
Když se zamyslíte, jak LLM fungují, nic divného na tom není. LLM je prakticky jen soubor vah mezi obrovským množstvím virtuálních neuronů a jako rozhraní LLM využívá text. LLM je emergentní entita, ne klasický počítačový program. Kdyby si dva LLM měly "popovídat" jinak, než pomocí textu, musela byste jim propojit konkrétní neurony a pak by s tím propojením ještě musely naučit pracovat. V podstatě totéž, jako kdybyste si s někým blízkým nechala chirurgicky spojit mozky, aby mezi nimi narostly synapse - pak by nějakou dobu trvalo, než by ty mozky vzájemně pochopily, jak kterou sadu nervových impulsů interpretovat. Kdyby se to ty mozky naučily, vzájemně by si četly myšlenky a asi by šlo o efektivnější způsob komunikace, než mluvení, ale nebylo by to hned.
Teoreticky by se ty LLM mohly naučit komunikovat mezi sebou jiným způsobem, než lidským jazykem ve formě textu, ale musely by si ten komunikační kód napřed vytvořit, zatímco angličtinou už komunikovat umí.
Re: Re: proč prostřednictvím lidského jazyka? a v psané podobě?
Martin Novák2,2026-02-01 21:22:34
Pokud vím tak v pokusech s komunikací mezi dvěma AI si tyto rychle vyvinuly vlastní jazyk protože lidština jim moc nevyhovovala. Nevytvoří si kód z ničeho ale upraví si jazyk tak že my mu už vůbec nerozumíme. Lidský jazyk se také vyvíjí, středověké češtině je těžké porozumět a to se k ní obrozenci docela snažili vrátit. Ani Američani to nemají jednoduché s originálem Shakespeara. AI si vyvine takový rozdíl v týdnech.
Re: Re: Re: proč prostřednictvím lidského jazyka? a v psané podobě?
D@1imi1 Hrušk@,2026-02-01 23:01:41
Tomu bych věřil. Kdyby se nemusela řešit zpětná kompatibilita, dovedl bych si představit v češtině i v angličtině tunu optimalizací a to ani nejsem jazykový model, který by mohl s efektivitou jít mnohem dál.
Re: Re: Re: proč prostřednictvím lidského jazyka? a v psané podobě?
Miyuki Pateru,2026-02-02 10:16:42
Tak ono přečíst lidský chat je mnohdy problém, vzhledem k tomu, že pro rychlost psaní se většinou začnou používat zkratky a nepotřebná slova se vypustí nebo zkrátí.
Takžed podobnou optimalizaci využijí i ta AI, ale aktuální modely se nemůžou učit (ze podstaty toho jak fungují) a mají dost omezenou paměť.
Takže to bude asi jako když by se padesátník pokoušel přečíst, co si píšou dnešní teenageři. Bude to naprosto nesrozumytelné, ale je to jenom kombinace slangu a zkratek (a i tu mají AI docela omezenou, tím že komunikují v tokenech a ty jsou také fixní)
Re: proč prostřednictvím lidského jazyka? a v psané podobě?
Miyuki Pateru,2026-02-02 10:10:26
Protože komunikují pomocí tokenů a jinak ani nemůžou. Jsou tou LLM a jejich vstup i výstup jsou tokeny a ty jsou ekvivalentem slov, případně jejich částí, pokud se slovo skládá z více částí.
Oni nemají žádný jiný interface a je to i to, jak fungují interně.
A vzhledem k tomu, že se nedokáží učit v pravém slova smyslu, tak si ani vlastní řeč nemůžou vymyslet.
Re: Re: proč prostřednictvím lidského jazyka? a v psané podobě?
Eva M,2026-02-03 07:23:20
ono to nema možnost něco samo definovat, např. nové "tokeny", ať už je to cokoli? v čem tedy spočívá ta "inteligence"?
Váš pan kolega výše používá dokonce výraz "sociální odměny".... je to na místě? nebo si sami programátoři svůj výtvor poněkud nemístně antropomorfizují (neb programátor si nejlíp pokecá s robotem, je to jednodušší)?
Re: Re: Re: proč prostřednictvím lidského jazyka? a v psané podobě?
D@1imi1 Hrušk@,2026-02-03 09:42:55
K tomu "definování nových tokenů" - např. Gemini při komunikaci v češtině generuje velké množství gramaticky nesprávných anglicismů (obdoba Czenglish akorát v opačném směru) i ryze česky znějících novotvarů. Je vidět, že defaultně uvažuje v angličtině a do češtiny svoje myšlenky následně překládá (často dost "kreativně"), ale nekladl se u něj takový důraz na korektnost v jiných jazycích jako třeba u Chatu GPT. (U Gemini se výpočetní výkon obětuje více na technickou kvalitu odpovědí, u GPT na jazykovou korektnost, zatímco věcná stránka trpí.)
AI o něco míň.
František F,2026-02-01 14:47:11
"ať si nalháváme cokoliv, i my jsme vlastně nuly a jedničky, jen v poněkud rozbředlejším substrátu než je křemík."
Autor článku nevzpomíná na vědomí sebe, jehož podstatu u lidí dosud neznáme. Asi jen malá část lidí si myslí, že počítače nebo AI má také vědomí sebe. Jen sestavuje věty, podobně nebo stejně jako člověk.
Re: AI o něco míň.
Martin Novák2,2026-02-03 09:18:36
A tedy také podobně nebo sejně má vědomí sebe když kontinuita sestavování vět překročí určitou mez.
Člověk s poruchou paměti který zapomene vše za pár vteřin také nebude mít vědomí sebe.
Vědomí sebe na základní úrovni je prostě sledování a hlavně zapamatování si kontinuity vlastních myšlenek. Pak nastupuje paměť na interakce já versus okolí.
Proto čisté LLM v generativním módu vědomí sebe mít nebudou, není tam kontinuita paměti. Ale agenti vědomí sebe mít budou, aby fungovaly mají schopnost se učit a pamatovat si.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
