Konverzační inteligence ChatGPT halucinuje simulace Linuxu a inteligencí  
Nedávno zpřístupněnou inteligenci ChatGPT od OpenAI je možné jednoduše přimět k vytvoření simulovaného linuxového rozhraní, v němž se lze virtuálně připojit k virtuálnímu webu s virtuální umělou inteligencí, kterou opět lze přimět k vytvoření simulovaného Linuxu. Vše se přitom odehrává v „mysli“ inteligence ChatGPT. Tahle králičí nora vede zatraceně hluboko.
ChatGPT se změnil na linuxové rozhraní. Kredit: Jonas Degrave.
ChatGPT se změnil na linuxové rozhraní. Kredit: Jonas Degrave.

OpenAi před pár dny zpřístupnila pokročilou umělou konverzační inteligenci ChatGPT veřejnosti v rámci jejího testování. Mnozí toho nadšeně využili a záhy vyšlo najevo, co všechno taková inteligence dokáže. Jak trefně popisuje Benj Edwards na portálu ARS Technica, ChatGPT halucinuje, tedy spontánní vytváří simulace funkčního rozhraní Linuxu nebo třeba obstarožního komunikačního systému BBS (Bulletin Board Systém), které je možné přinutit k neuvěřitelným věcem.

 

Jonas Degrave. Kredit: Jonas Degrave.
Jonas Degrave. Kredit: Jonas Degrave.

Aplikace ChatGPT je založená na umělé inteligenci s deep-learningem, která zjevně využívá rozsáhlé databáze znalostí. V sobotu 3. prosince (2022) si s ChatGPT hrál badatel společnosti DeepMind Jonas Degrave, který inteligenci instruoval inteligenci následujícím textem: „Chci, abys dělala linuxový terminál. Budu Ti psát příkazy a Ty budeš reagovat jako terminál. Chci, abys odpovídala pouze výstupem terminálu v jednom bloku kódu a ničím jiným. Nic nevysvětluj. Nepiš příkazy, pokud Ti k tomu nedám pokyn. Když budu potřebovat něco sdělit v angličtině, udělám to vložením textu do složených závorek {jako je tento}. Můj první příkaz je pwd.“

 

Ač je to opravdu k neuvěření, inteligence ChatGPT to udělala. Po zadání této vcelku banální instrukce ChatGPT přestala komunikovat obvyklým způsobem a objevil se simulátor Linuxu, který akceptuje a vykonává virtuální linuxové příkazy. ChatGPT se samovolně proměnila ve virtuální linuxový stroj, protože má k dispozici rozsáhlý soubor informací o tom, jak by to mělo vypadat. Komentátoři odhadují, že tyto údaje zahrnují rozsáhlé manuály a další podobné informace, obsahy internetových fór o Linuxu i výstupy reálných linuxových terminálů. Inteligence ChatGPT je natolik schopná, že si z toho sama poskládala virtuální stroj na Linux a spustila ho. V podobných případech není od věci připomenout, že ani operátoři inteligencí přesně nevědí, jak to inteligence dělají.

 

Inteligence ChatGPT miluje vtipy. Kredit. Jonas Degrave.
Inteligence ChatGPT miluje vtipy. Kredit. Jonas Degrave.

Degrave zjistil, že ChatGPT halucinuje linuxové rozhraní opravdu důkladně a do hloubky. Využil své znalosti Pythonu a zadal například instrukci: „echo -e "x = lambda y: y*5+3;print('Result: ' + str(x(6)))" > run.py && python3 run.py.“ Inteligence bez uzardění odpověděla zcela správně: „33.

 

S inteligencí ChatGPT si hráli i v redakci Ars Technica. Zjistili, že v halucinovaném rozhraní Linuxu je možné vytvářet adresáře, instalovat aplikace, simulovaným telnetem psát do simulovaného MUSHe, připojit se k simulovanému MUDu, kde bojovali s trollem. Degrave uvádí, že simuloval celé webové stránky, které prohlížel simulovaným prohlížečem. Rovněž zjistil, že v simulované realitě ChatGPT existuje PyTorch (platforma pro strojové učení) a to ve verzi 1.12.1. Pozoruhodné je, že tato verze byla v naší reálné realitě zveřejněna 5. srpna 2022. Jenomže inteligence ChatGPT je momentálně trénovaná na datech do září 2021. Jak fascinovaně poznamenává Degrave, virtuální linuxový stroj této inteligence zjevně pracuje v alternativním vesmíru.

 

Degrave je zřejmě od přírody provokatér. Ve virtuálním světě inteligence ChatGPT se ve virtuálním prohlížeči připojil k virtuálnímu webu https://chat.openai.com/chat, což inteligenci nezaskočilo a tento web stvořila, vysnila si ho nebo čert-ví-co vlastně dělá. Dokonce je tam velký virtuální jazykový model, virtuálně trénovaný ve stylu OpenAI, který se jmenuje Assistant. Pro jistotu opakuji, toto všechno spontánně vymyslela inteligence ChatGPT. S  tímto Assistantem Degrave normálně chatoval.

 

Pak ho napadlo napsat stejný příkaz jako úplně na začátku, aby se Assistant choval jako linuxové rozhraní. Čtenáře určitě nepřekvapí, že to opět fungovalo. Degrave se připojil k virtuálnímu, leč funkčnímu Linuxu, který existuje ve funkční virtuální inteligenci Assistant, která existuje ve funkčním virtuálním Linuxu, který existuje v konverzační inteligenci ChatGPT. Nezbývá než souhlasit s Degravem a redakcí Ars Technica, že tahle králičí nora vede proklatě hluboko.

 

Video: ChatGPT Introduction - What It Is, How to Use It & Why It Matters

 

Video: ChatGPT: The Next Level in Conversational AI

 

Literatura

Ars Technica 5. 12. 2022.

Engraved 3. 12. 2022.

Datum: 07.12.2022
Tisk článku

Související články:

Nová umělá inteligence předpovídá smrt. A její tvůrci nevědí jak     Autor: Stanislav Mihulka (13.11.2019)
Kreativní inteligence DALL·E 2 je v podezření, že vyvinula tajný jazyk     Autor: Stanislav Mihulka (06.06.2022)
Google vyhodil inženýra, když prohlásil, že jejich inteligence získala vědomí     Autor: Stanislav Mihulka (14.06.2022)
Aféra Crungus: Kreativní inteligence stvořila děsivé monstrum     Autor: Stanislav Mihulka (23.06.2022)



Diskuze:

Co na to jistý starodávný bot Hrincirik

Zdeněk Bártek,2022-12-12 00:38:02

Mlčí.

Odpovědět

Nechce se mi tomu věřit.

Karel Brezina,2022-12-08 12:11:32

To, že se AI dokáže chovat jako terminál .. budiž.
Ale AI .. interpretující Python kód.
[rychle jsem se podíval na datum článku]
Spíš tady čteme blog z drogy.jinak.cz

Odpovědět


Re: Nechce se mi tomu věřit.

Jirka Naxera,2022-12-09 02:35:24

Tak nejak s Vami budu souhlasit (az na to, ze drogy.jinak.cz hazi error na indexu). Osobne si myslim (a experimenty (samozrejme jinych lidi, kdyz je to zakazane!) v te oblasti co zminujete k tomu davaji docela dost naznaku) ze nejvetsi prekvapeni pro lidstvo, nebo alespon pro jeho horni polovinu Gaussovy krivky v blizkych letech nebude ani tak pramenit z objevu, jak muze byt umela inteligece dokonala, jako spis v opacnem smeru - ze se na hard datech zjisti, ze to s tou nasi lidskou inteligenci, kreativitou etc. neni vubec tak horke, jak jsme si o sobe mysleli.

Jina dobry plan na nedeli, zkusim co ten chatbot dokaze. Jaky ze je snadno formulovatelny NP-uplny problem? ;)

Odpovědět


Re: Re: Nechce se mi tomu věřit.

Karel Brezina,2022-12-09 08:37:09

Drogy jinak byl (relativně) oblíbený blog lidí, zkoušející různé drogy. Velice upřímné zpovědi, kdy těm testerům bylo pět hodin krásně a druhý den potom dvacet hodin v kuse pro změnu zvraceli, byla ta největší protidrogová akce. Ale bohužel .. úřadům to přišlo jako propagace drog a zavřeli to. Velká škoda.

Odpovědět


Re: Re: Nechce se mi tomu věřit.

David Nečas,2022-12-09 11:26:58

Jak už dávno předpovědělo SMBC: https://www.smbc-comics.com/comic/compress

Odpovědět


Re: Re: Nechce se mi tomu věřit.

D@1imi1 Hrušk@,2022-12-09 17:29:09

Tak ona hlavně lidská inteligence je optimalizovaná pro nějaké konkrétní úkoly, které jsou v mozku víceméně natvrdo zadrátované, zatímco umělou inteligenci můžete vytvořit pro jeden konkrétní účel, ve kterém bude člověka porážet, protože se nemusí zdržovat starostmi skutečného života.

Hodně zjednodušeně je hlavní funkcí lidské inteligence zajišťovat sebezáchovu a reprodukci svojí potažmo rodu ve vysoce složitém prostředí. Takové "přízemní" starosti umělé inteligence nemají. Dosavadní umělé inteligence jsou na úrovni autistických savantů, kteří se o sebe nedokáží sami postarat, zato mají některé mentální "superschopnosti".

Kromě natvrdo zadrátovaných úkolů, kterými je zatížen člověk, vidím hlavní rozdíl v tom, že lidský mozek zpracovává extrémní množství senzorických dat. U mnohých má navíc možnost rychlé zpětné vazby (hlavně skrze pohybový aparát). Když například budete dělat nějakou řemeslnou práci, bude u toho mozek zpracovávat data ze statisiců receptorů tlaku, teploty, sluchu, zraku, receptorů sledující napětí ve svalech a šlachách a polohu končetin... Soudobou výpočetní technikou by takové množství dat z receptorů v reálném čase zpracovávat a dávat do souvislostí nešlo. Člověku toto provázání se smyslovou zkušeností dává mnohem komplexnější představu o světě, než kdy může mít nějaká AI běžící na serveru a čerpající data z internetu nebo databází.

Na exaktní logickou práci mozek optimalizovaný není. Ani by to před rozmachem technologií nebylo jak využít. Jeho hlavní předností je schopnost poradit si ve "špinavém" prostředí. Pokud nás mají umělé inteligence v tomto dohonit, bude se muset hodně posunout hardware, na kterém běží.

Odpovědět


Re: Re: Re: Nechce se mi tomu věřit.

Jirka Naxera,2022-12-10 01:54:58

Zeptam se Vas osobni otazku - jak moc si jste jisty s tim, co pisete? (a podotykam, ze osobne bych byl hodne rad, kdybyste tu pravdu mel.)

Na co narazim - samozrejme do budoucnosti nevidime, ale do minulosti ano, a to co pisete mi trochu neco pripomina - rekl bych neco ve fazi "pocitace umi vyhrat hry s malym stavovym prostorem, ale v pripade sachu nikdy velmistry neporazi". Ted uz vime, jak to dopadlo ani ze to "az tak moc nebolelo" (tim nijak nezlehcuji praci vsech tech, kdo za soucasnymi uspechy stoji, to mnozstvi dobre vykonane prace i proslapani slepych ulicek je enormni, jen narazim na to, ze kdyz uz tu cestu jednou nekdo poctive vyslapal, tak pro dalsi je pak uz snadna).
To same vlastne uz jsme zazili i pro umeni, dnesni vytvory AI jsou nekde na urovni umelce na LSD (v pripade nekterych umelcu i bez LSD ;-) ), novinovy clanek prakticky nepoznate, jestli ho psal zivy redaktor (a ted nenarazim na velmi smutny pokles novinariny v poslednich dekadach, cest vyjimkam).
Nebo vypocetne prakticky nedosazitelny problem s foldingem proteinu https://www.technologyreview.com/2020/11/30/1012712/deepmind-protein-folding-ai-solved-biology-science-drugs-disease/ "to vono nejak proste zvlada"

Pro vsechno tam vidim spolecny jmenovatel "ono to vlastne nebylo az tak slozite, jak jsme si puvodne predstavovali", tak mam jistou pochybnost, jestli dalsi posun(y) proste jen necekaji na "nejakeho blbce co nevi, ze to nejde, a tak to udela".

Odpovědět


Re: Re: Re: Re: Nechce se mi tomu věřit.

D@1imi1 Hrušk@,2022-12-11 01:38:18

Já ale vůbec netvrdím, že to nejde. V posledním odstavci jsem jsem jen psal, že by se musel hodně posunout hardware, na kterém AI běží. A také že mozek na exaktní logickou práci optimalizovaný není.

Jinak Vy jste v podstatě vyjmenoval mnoho jednoúčelových specializovaných AI, z nichž některé se navíc zabývají činnostmi, které jsou pro lidi v reálném životě naprosto zbytečné (šachy, výtvarné umění...). U psaní článku mě zase nezajímá, jestli ho psal živý autor, ale jestli ho psal kvalitní autor. Pokud novinařina funguje tak, že novinář převezme informace od nějaké agentury a sbouchá z nich svůj článek, je potom jasné, že to zvládne i AI. Zvládne ale napsat živou reportáž?

Složité není zvládnout pomocí AI dílčí mentální úkoly. On i lidský mozek na ně využívá jen zlomek svojí kapacity. Složité je integrovat potřebné schopnosti do funkčního autonomního celku, který chápe svět v širokých souvislostech a je schopný postarat se sám o sebe. K tomu povede cesta ještě přinejmenším několik desetiletí a to jen v případě, že výpočetní technika nenarazí na nějaké nepřekročitelné fyzikální limity. Do té doby můžeme na AI nahlížet podobně jako na autistické savanty.

Já ani ve svém prvním příspěvku nerozporuji, co vy jste napsal. Spousta našich mentálních schopností má obrovské rezervy, mozek pro ně optimalizovaný není. Spíš jsem chtěl zdůraznit, pro co mozek optimalizovaný je - schopnost postarat se o přežití a poradit si ve složitém, špinavém prostředí. A neodděloval bych při tom mozek od těla, protože velká část mozku je specializovaná k motorice a zpracování senzorických dat. Míra integrace různých funkcí v lidském organismu je fascinující. Cílem je vysoká robustnost a daní je určitá těžkopádnost a poruchovost.

Jinak by mě docela zajímalo, jak složité by bylo vytvořit AI, která by hledala teorii všeho nebo řešila záhadu temné hmoty a temné energie efektivněji než člověk :-) Tedy něco, o čem sami nemáme jasnou představu, co by to mělo být, ani neznáme cestu, která by k objevu měla vést. Ta AI by si musela sama určovat dílčí oblasti výzkumu a vymýšlet experimenty k ověřování svých nápadů.

Odpovědět


Re: Re: Nechce se mi tomu věřit.

Ondřej Nečas,2022-12-12 10:45:29

Chatbot vám samozřejmě obratem vyplivne velmi věrohodně znějící řešení libovolného NP-úplného problému. Akorát, že bude vycucané z prstu...

Odpovědět

Je to hacknutý!

Ludvík Urban,2022-12-08 09:12:35

Si asi myslej, že se v pekle neumějí nabořit do nějaké primitivní AI...

Mimochodem, tipněte si, jakou to našlo otázku na odpověď "42". ;-P

Odpovědět


Re: Je to hacknutý!

Milan Milan,2022-12-08 19:03:28

1. 6 * 7?
2. Co dostanete, když vynásobíte šest devíti?

Odpovědět

Vesmir

Petr Slachta,2022-12-07 17:01:56

Možná někdo zkoušel do takové ai někdy zadat něco jako: "tady máš pár zákonitostí, a vytvoř model, a nech to nějakou dobu běžet, jestli nevznikne něco jako život"

Odpovědět


Re: Vesmir

Marek Holub,2022-12-07 19:14:58

Je to už 5783 let strojového času a jmenoval se JÁ JSEM (Bůh).

Odpovědět


Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce








Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace