Když chcete laikovi vysvětlit, co je program, nejsnazší je říct, že je to přesný předpis pro počítač. Udělej tohle, potom tamto, pokud platí podmínka A, pokračuj tudy, jinak jinudy. Programátor by nad takovou definicí mohl začít protestovat, protože existují deklarativní jazyky, události, paralelní programy a spousta dalších komplikací. Ale jako první přiblížení funguje. Stroj dostane instrukce a provede je.
Jenže dnes můžeme počítači napsat třeba: „Najdi, proč tahle část programu občas ztratí spojení, podívej se na starší funkční verze, zachovej veřejné rozhraní a oprav to."
Mezi lidským záměrem a výsledným programem dnes často neleží jen překladač, ale i vrstva agentů, která zadání interpretuje, rozděluje práci, kontroluje výsledek — a občas se cestou připomene i starý dobrý PID. (Kredit: AI na zadání AI podle zadání člověka).To už není program v předchozím smyslu. Není to ani úplná specifikace. Chybí v tom skoro všechno, co by se ještě před pár lety muselo člověku-programátorovi vysvětlit nebo co by si musel sám zjistit. Které soubory spolu souvisejí? Co je stará verze? Které chování je záměr a které náhodný pozůstatek historie? Jak se projekt sestavuje? Jak se pozná, že oprava něco jiného nerozbila?
Dnešní programovací agent může otevřít zdrojové kódy, přečíst dokumentaci, prohlédnout historii, spustit testy a začít si tyto otázky zodpovídat. Pokud je úloha větší, může ji dokonce rozdělit mezi několik dalších agentů. Jeden dostane za úkol prozkoumat komunikaci, druhý starší implementaci, třetí testy. Výsledky se pak vrátí k systému, který je spojí a pokračuje.
Počítač tedy stále nakonec vykonává přesné instrukce. Jen mezi lidským úmyslem a těmi instrukcemi přibyla vrstva, která se pokouší pochopit, co jsme vlastně chtěli.
A tím začínají potíže.
Když odpověď musí přijít
Když chceme někoho něco naučit, nejjednodušší je ukazovat příklady. Tohle je pes. Tohle kočka. A tohle?
„Pes."
ŠPATNĚ!
Dobře. Tak znovu. Další obrázek, další pokus, další oprava. Po nějaké době už ale nechceme, aby žák jen poznával obrázky, které už viděl. Ukážeme mu nový. Pokud odpoví správně i tam, možná se opravdu naučil něco obecnějšího. Pokud září jen u známých příkladů a při první změně se rozsype, naučil se spíš test než to, co jsme ho chtěli naučit.
Na tom není nic zvláštního. Podobně se učí lidé a podobně můžeme učit i stroje. Zajímavější problém začne ve chvíli, kdy zapomeneme, že ne každá otázka je školní test a ne každá má jednu správnou odpověď.
„Nevím" je někdy nejlepší možná odpověď. Stejně jako „nemám dost informací", „otázka obsahuje chybný předpoklad" nebo „tohle se z dostupných údajů nedá rozhodnout".
Jenže systém, po kterém pořád chceme odpověď, má jeden nepříjemný zvyk: odpovídat. Člověk u písemky začne tipovat. Jazykový model může udělat něco podstatně přesvědčivějšího — vytvořit plynulou větu, která zní, jako by za ní byl dobrý důvod.
A někdy není.
Tohle je jeden z podivných rozporů dnešní AI. Systém může během jediné úlohy najít souvislost, která člověka nenapadla, a o chvíli později stejně elegantně doplnit detail, který se nikdy nestal. Schopnost spojovat neúplné informace je přesně to, co od něj chceme. Tatáž schopnost se ale může změnit ve fabulaci.
Nejzajímavější otázka proto možná není „umí odpovědět?", ale „pozná, kdy odpovědět nemá?".
Kdo tu vlastně pracuje?
Když se řekne umělá inteligence, člověk si snadno představí jednu obrazovku a za ní jednu „věc". U dnešních agentních systémů je to stále méně přesná představa.
Jeden model může dostat hlavní úlohu a vytvořit několik dílčích rolí. Každá vidí jinou část problému, dostane jiný úkol a vrátí jiný výsledek. Orchestrátor jejich práci porovná, něco zahodí, něco spojí a pošle další otázky. Zvenčí přitom stále sledujeme jedno okno a máme sklon říkat: „AI to udělala."
Kdo je ale v takovém případě ono „AI"?
Jedna konkrétní instance modelu? Orchestrátor? Všichni pomocní agenti dohromady? Model, z něhož všechny instance vznikly? Nástroje, které spouštějí překladače, testy a vyhledávání? Nebo až celý systém?
Nemusíme tomu říkat inteligence. Klidně zůstaňme u označení „sofistikovaná automatizace". Na otázce to nic nemění.
Máme celek, jehož části řeší lokální problémy, přitom žádná jednotlivá část nemusí znát všechno, co dělá celek.
To už jsme někde viděli.
Buňka neví, že jste vy
Jedna lidská buňka nezná vaše jméno. Neví, kam jdete odpoledne ani co jste slíbili udělat zítra. Přesto reaguje na své okolí, komunikuje s jinými buňkami, udržuje vlastní stav a podílí se na činnosti organismu.
Vy zase nevíte, co právě dělá jedna konkrétní buňka ve vašem palci.
Přesto nemáme problém říct, že jste jeden člověk.
Výzkum Michaela Levina a jeho kolegů je v tomto směru krásně nepříjemný, protože ukazuje, že organizace živého těla není jen prosté „přehrávání" genetického programu. U ploštěnek lze krátkým zásahem do bioelektrické komunikace mezi buňkami změnit informaci, podle které se tělo při regeneraci řídí. V některých experimentech se změněný tělesný plán projeví i při dalších regeneracích, přestože původní zásah už dávno skončil. Výzkumníci pro tento jev používají mimo jiné výraz pattern memory — paměť tělesného vzoru.
Jednotlivá buňka sleduje jen lokální signály, přesto se podílí na chování celého organismu. U systémů složených z mnoha agentů vzniká podobná otázka: kde končí část a začíná celek? (Kredit: AI na zadání AI podle zadání člověka).Neznamená to, že buňka přemýšlí jako člověk. Neznamená to ani, že má vědomí. Znamená to jen, že otázka „kde je uložen plán celku?" začíná být méně triviální, než by se zdálo.
Levin rád posouvá podobné otázky mezi různými měřítky. Jednotlivá buňka má své lokální cíle. Tkáň má jiné. Organismus jako celek dokáže sledovat cíle v mnohem větším prostoru a čase.
A teď udělejme pouze myšlenkový experiment.
Co když jsou lidé podobně lokálními částmi nějakého většího systému, jehož celek nedokážeme vnímat právě proto, že jsme uvnitř něj? Můžeme tomu říkat společnost, biosféra, Gaia, vesmír nebo Bůh. Tím jsme samozřejmě nic z toho nedokázali. Jen jsme změnili měřítko a položili otázku, zda hranice, kterou považujeme za samozřejmou, není do určité míry dána perspektivou pozorovatele.
Buňka také nikdy nepotkala člověka. Potkává jen své okolí.
Paměť nemusí být v hlavě
S měřítkem souvisí ještě jedna nepříjemnost.
Kde je vaše paměť?
Část zjevně v mozku. Ale podstatná část toho, co dnes umíte udělat, neleží jen tam. Je v knihách, poznámkách, zdrojových kódech, návodech, normách, institucích a ostatních lidech. Nikdo z nás nenosí v hlavě úplný návod na výrobu procesoru, antibiotika nebo elektrické sítě. Přesto společnost tyto věci umí.
Civilizace má paměť, kterou nemá žádný její jednotlivý člen.
Něco podobného se začíná dít i u agentních systémů. Model může dostat projektovou dokumentaci a soubor pravidel, podle nichž má pracovat. Jedna instance při práci objeví užitečné pravidlo a pomůže ho zapsat. Skončí. Další instance o ní nemusí vůbec „vědět", ale pravidlo si přečte a její chování se tím změní.
Je to paměť?
Záleží na definici slova. Funkčně se ale zkušenost minulého běhu uložila mimo něj a ovlivnila běh příští.
Když totéž děláme my, říkáme tomu třeba dokumentace, kultura nebo vzdělání.
A co se děje uvnitř?
U klasického programu je příjemné, že ho můžeme alespoň v principu číst. Může být obrovský a nesrozumitelný, ale jednotlivé instrukce a jejich význam jsou lidské konstrukce.
U neuronových sítí je situace jiná. Uvnitř jsou obrovská množství čísel a transformací, jejichž společný význam neumíme jednoduše převést na sadu čitelných pravidel.
Velké jazykové modely k tomu přidaly zajímavou mezivrstvu: při složitějších úlohách mohou vytvářet pomocné kroky v přirozeném jazyce. Člověk pak snadno získá pocit, že stroji vidí do zápisníku. Jenže čitelný zápis není totéž co celý vnitřní výpočet.
Rob Miles v nedávném videu Computerphile mluví o směrech, kde může vícekrokové zpracování stále více probíhat v interní reprezentaci, kterou člověk neumí jednoduše přečíst jako anglické věty. Používá pro ni přezdívku „neuralese". Výkonnější vnitřní uvažování tedy nemusí automaticky znamenat čitelnější uvažování.
To je zvláštní obrat. Desítky let jsme vytvářeli vyšší programovací jazyky proto, aby člověk nemusel přemýšlet ve strojovém kódu. Teď máme systémy, kterým můžeme zadat záměr skoro hovorovým jazykem, ale prostřední vrstva se nám znovu ztrácí z dohledu.
Na vstupu je věta. Na výstupu je program, důkaz nebo plán. Uvnitř se něco stalo.
A potom přišel 8. září 2026.
Osmaosmdesát hodin
První hrubá verze této úvahy vznikla 6. září. Už v ní byla pasáž, která si dělala legraci z orchestrace agentů přibližně takto:
„Ty zjisti A. Ty prověř B. Ty zkus alternativní řešení. Nakonec výsledky sloučíme."
Hned potom následovala otázka: Je to myšlení, nebo automatizace? A poznámka, že když něco podobného udělají specializované části lidského mozku, používáme pro výsledek podstatně vznešenější slovník.
O dva dny později OpenAI zveřejnila výsledek, který tuhle metaforu vytáhl z malého programátorského prostředí do poněkud absurdního měřítka.
Firma oznámila řešení problému existence a hladkosti Navierových–Stokesových rovnic, jednoho z problémů tisíciletí. Samotný matematický výsledek musí samozřejmě obstát v odborné kontrole; pro nás je zajímavý hlavně popsaný způsob práce systému.
Podle zveřejněných údajů běžely paralelně skupiny agentů, které zkoušely různé směry. Užitečné mezivýsledky se přenášely mezi skupinami a další agenti na ně navazovali. Větev, která vedla k Navierovým–Stokesovým rovnicím, měla podle OpenAI 2,7 milionu zpráv mezi agenty a přibližně 130 miliard výstupních tokenů. K samotnému řešení měli agenti dojít asi po 88 hodinách; následovala ještě formalizace a kontrola v systému Lean.
Najednou už věta „ty zjisti A, ty prověř B a pak to spojíme" nebyla legrační přirovnání k tomu, jak může agent opravit větší kus softwaru.
Byl to popis organizačního principu systému, který se pokusil vyřešit problém, se kterým si lidé lámali hlavu desítky let.
Jeden agent hledá, druhý ověřuje, třetí skládá výsledky. Když se pak hotové řešení objeví na stole, zbývá už jen maličkost: kdo to vlastně udělal?A znovu můžeme položit stejnou otázku: kdo to vlastně udělal?
Jeden agent? Všechny instance dohromady? Orchestrátor? Lidé, kteří navrhli experiment? Model? Celá infrastruktura?
Není divu, že se velmi rychle objevila ještě další otázka: komu patří myšlenka? Kolem souběžné práce matematiků Tristana Buckmastera a Leventa Alpögeho vznikla veřejná debata o prioritě a o tom, zda mohla jejich práce nějak ovlivnit systém OpenAI. OpenAI později zveřejnila vlastní výsledek interního šetření a uvedla, že konkrétní uživatelské vstupy výsledek ovlivnit nemohly.
Technologie se změnila. Otázka zůstala překvapivě lidská.
Odkud se vzal ten nápad?
Tohle už se jednou stalo
A tady se konečně musím přiznat k jednomu staršímu textu.
Na Oslu vyšel 30. ledna 2019 článek s názvem „Co je to vlastně ta Umělá inteligence?". Začínal velmi školským vysvětlením programu, pokračoval neuronovou sítí, psem, kočkou a poněkud přehnaným „ŠPATNĚ!". Čtenář, který zná strojové učení, tam mohl najít supervised learning, generalizaci a overfitting, i když se tato slova nemusela cpát do každého odstavce.
A pak se stala pěkná náhoda.
Text byl podle jeho autora téměř hotový, ale pořád mu něco chybělo. Dne 24. ledna představila DeepMind systém AlphaStar, který porazil špičkového profesionálního hráče StarCraftu II. O šest dní později článek vyšel a AlphaStar v něm seděl, jako by pro něj byl napsaný od začátku.
Nebyl.
Realita prostě na poslední chvíli dodala příklad, který zpětně rozsvítil předchozí výklad.
V září 2026 se to stalo znovu. Nejdřív vznikl text o agentech, kteří si rozdělují práci. O dva dny později přišel Navier–Stokes.
Možná je to jen šťastné načasování.
Pro autora je to každopádně velmi návykové.
A ještě jeden problém s tímto článkem
Teď už můžeme odhalit poslední vrstvu.
První verze tohoto textu nevznikla tak, že člověk zadal umělé inteligenci přesný příkaz „napiš článek". V dlouhém rozhovoru se probírala biologie Michaela Levina, hranice mezi částí a celkem, AI agenti, programování, autorství myšlenek, relativita a další témata. Člověk pak pouze poznamenal, že nejlepší by bylo, kdyby článek napsala sama AI.
Model to nevzal jako filozofickou poznámku.
Začal psát.
To samozřejmě není důkaz svobodné vůle. Ani vědomí. Ani nějaké „Inteligence" s velkým I. Je to mnohem obyčejnější a praktičtější schopnost: z kontextu odhadnout záměr a jednat podle něj, přestože člověk nepoužil formální příkaz.
V téže první verzi pak model předvedl i opačnou stránku téže schopnosti. Vymyslel si konkrétní epizodu z předchozího rozhovoru, která se nikdy nestala. Nešlo o náhodnou větu. Detail přesně zapadal do argumentu článku a dělal ho literárně lepším.
Byl jen nepravdivý.
Původní záznam této verze zůstal zachován beze změny. Ne proto, že by chyba přestala být chybou, ale protože se mezitím stala součástí experimentu.
Model napsal text o tom, že dokáže spojovat vzdálené informace, ale může zároveň přesvědčivě doplnit něco, co neví.
A přesně to během psaní udělal.
Článek začal demonstrovat sám sebe.
##seznam_reklama##
Kde tedy končí program?
Možná jsme si na začátku položili příliš jednoduchou otázku.
Program je pořád program. Procesor pořád provádí instrukce. Neuronová síť je pořád matematický mechanismus. Agentní systém je pořád automatizace.
Nic z toho nemusíme popírat, abychom si všimli, že při změně měřítka začínají vznikat nové užitečné popisy.
Jednotlivá buňka reaguje na lokální signály. Organismus má hlad.
Jednotlivý neuron vyšle impuls. Člověk se rozhodne otevřít okno.
Jednotlivý agent prozkoumá jeden problém. Celý systém napíše program nebo navrhne matematický důkaz.
Zblízka vidíme mechanismus. Z dálky vidíme chování.
Možná mezi mechanismem a bytostí existuje přesná ostrá hranice. Možná jednou zjistíme, kde je.
Ale dokud ji neznáme, není nutné rozhodovat, zda současná AI „opravdu myslí". Pro praktickou debatu nám docela stačí sledovat, co dokáže, kde selhává, jaké cíle udrží, jak zachází s nejistotou a na jaké úrovni systému vlastně dává smysl hledat původce jednání.
A možná je nakonec nejzajímavější úplně obyčejná otázka:
Kdo to vlastně udělal?
Odkazy
Michael Levin a kolegové: bioelektrické řízení a „pattern memory" při regeneraci ploštěnek
OpenAI: On the Navier–Stokes Millennium Prize Problem, 8. 9. 2026
Up and Atom: The Controversy Behind AI Solving A Million Dollar Math Problem
Co je to vlastně ta Umělá inteligence?, Osel.cz, 30. 1. 2019
Text sestavil GPT-5.6 Sol v rozhovoru s autorem původního článku. Způsob, jakým text vznikal, je zároveň jedním z jeho příkladů.
