O.S.E.L. - Kreativní inteligence DALL·E 2 je v podezření, že vyvinula tajný jazyk
 Kreativní inteligence DALL·E 2 je v podezření, že vyvinula tajný jazyk
Inteligence DALL·E 2 vytváří fotorealistické obrázky podle textových povelů. Už to je samo o sobě fascinující. Vědci si ale všimli, že občas se na obrázcích objevuje hatmatilka, která pak následně funguje jako „tajná“ instrukce pro nakreslení určitých obrázků. Jakoby si DALL·E 2 vyvíjela svůj vlastní jazyk, kterému rozumí jen ona.

Jak vidí sama sebe. Výtvor inteligence DALL·E mini podle textu „AI model that generates images from any prompt you give“. Kredit: Boris Dayma et al. (2021).
Jak vidí sama sebe. Výtvor inteligence DALL·E mini podle textu „AI model that generates images from any prompt you give“. Kredit: Boris Dayma et al. (2021).

DALL·E (psáno opravdu se středovou tečkou) je podivuhodná pokročilá umělá inteligence, která dělá obrázky podle popisu. Prostě napíšete „kožená zelená kabelka ve tvaru pětiúhelníku“ nebo „izometrický pohled na smutnou kapybaru“ a DALL·E to nakreslí. Až překvapivě dobře. Je to skoro jako utržené sluchátko Macha a Šebestové ve verzi pro textovky. Můžete si přát víceméně reálné věci „vitráž s obrázkem modré jahody“ nebo třeba nepříliš reálné „kostka s texturou dikobraza“.

 

Giannis Daras. Kredit: G. Daras.
Giannis Daras. Kredit: G. Daras.

Inteligence DALL·E je založená na modelu Generative Pre-trained Transformer 3 (GPT·3), který je vynikající v psaní textu v podobě, jako by ho napsal člověk. Zrodila se v lednu 2021, ve výzkumné laboratoři umělých inteligencí OpenAI. Není jediná svého druhu, podobně funguje například Imagen ze stáje Google. Podobné věci sice uměly už neurální sítě z přelomu tisíciletí, ale tyto nové inteligence textovým pokynům „rozumějí“ a naprosté hlouposti dělají jen vzácně.

 

Je to jen pár týdnů, co OpenAI vypustili novou verzi DALL·E 2 (je to trochu složitější, údajně nenavazuje přímo na DALL·E, ale na další podobný projekt GLIDE). DALL·E 2 umí fotorealistické obrázky podle textu a podle ukázek je opravdu lepší než DALL·E. Podle OpenAI je nová inteligence stále ve fázi výzkumu a přístup k ní mají pouze pečlivě vybraní betatesteři. Tvůrci se obávají především možného zneužívání této inteligence vyšinutými jedinci či zeměmi a chtějí co nejvíce minimalizovat její případný toxický vliv na společnost. Nicméně, můžete si vyzkoušet ořezanou verzi DALL·E mini.

 

Přesto o DALL·E 2 prosakují pozoruhodné věci. Giannis Daras a Alexandros Dimakis z americké University of Texas podezřívají tuto inteligenci, že si vytvořila vlastní jazyk, jemuž rozumí jen ona sama. Jejich publikace ještě ani neprošla recenzním řízením a už teď vyvolává kontroverze. Nicméně, není to tak šílené, jak to první pohled vypadá. Pokročilé umělé inteligence v řadě případů pracují tak, že to ani jejich tvůrci do detailu nechápou, ale přesto dodávají výsledky. Ostatně, už před 5 lety byla z vývoje vlastního jazyka podezřelá jedna facebooková inteligence.

 

Tvorba inteligence DALL·E 2. Kredit: Ramesh et al. (2022).
Tvorba inteligence DALL·E 2. Kredit: Ramesh et al. (2022).

O DALL·E 2 je známo, že má určité trable s texty. Daras s Dimakisem si všimli, že inteligence za jistých okolností vytváří hatmatilku. Například povel „Obrázek slova letadlo“ vede v řadě případů k obrázkům s nesrozumitelným textem. Badatelé jsou přesvědčeni, že nejde o náhodné útržky textu, ale že je to projev skrytého jazyka, který si inteligence vytvořila. Když totiž jako povel použili hatmatilku z obrázků k textu „Obrázek slova letadlo“, tak jim DALL·E 2 často kreslila letadla.

 

„Apoploe vesrreaitais“ podle badatelů znamená „ptáci“ či „létající tvorové“. „Contarra ccetnxniams luryca tanniounons“ zase „havěť“ nebo „škůdci“. Pro člověka nesmyslný povel „Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons“ vede k obrázkům ptáků pojídajících havěť. Takových případů našli celou řadu. Některé jsou sporné, některé nekonzistentní, ale i odpůrci Darase s Dimakisem uznávají, že jisté případy jsou vážně divné a ukazují na existenci čehosi uvnitř inteligence DALL·E 2. Nakonec to nemusí být nic světoborného a vysvětlení bude vcelku prosté. Anebo nebude. Tak či onak, už jenom to, že se takovými věcmi lidé zabývají, ukazuje, že si s umělými inteligencemi ještě užijeme hodně zábavy. A kontrolu nad vojenskými obrannými systémy bychom jim raději opravdu dávat neměli. Zatím. Pro jistotu.

 

Video: DALL·E 2 Explained

 

Video: OpenAI’s DALL-E 2: Even More Beautiful Results

 

Literatura

IFL Science 2. 6. 2022.

arXiv:2206.00169.


Autor: Stanislav Mihulka
Datum:06.06.2022