Chatbot s AI neboli kecálek je hračka sugestivní, fascinuje už zvládáním češtiny. Naprosto přesvědčivě působící článek o principiální nenahraditelnosti lidské inteligence ve srovnání s arteficiální prý dokázal vygenerovat za pouhých 16 s. Dal bych přednost úplně jiným aplikacím AI, např. pro hledání patterns ve velkých datech, ale nabídka je: stroj na transformaci jazykových ekvivalentů a jazykových asociací.
Jiří Fiala (matematik, logik a filosof, 1939-2012) už v 90. letech říkával, že od funkční umělé inteligence splňující nároky Turingova testu, navíc spontánně reprodukovatelné, nás dělí pouhý krůček, totiž další školská reforma. Při tehdejších technologických možnostech mínil, že dělat roboty z lidí vychází levněji, ač tomu vůbec nefandil.
Nehodlám řešit, v jakém smyslu je AI inteligencí. Natož zda má vědomí, případně zda je subjektem (čeho tak asi?), to považuji za pseudoproblém i v případě lidí a jiné zvěře, pokud míří moc nad limit pudu sebezáchovy. Zpřístupněním chatbota skončila doba, kdy se bezbřeze a přitom gramaticky správně mohli vykecávat jenom ti sebevědomí hlupáci, kteří prodělali patřičnou školu. Většinou si AI představujeme jako něco racionálního, zde však dostáváme strojek, který díky racionalitě tvůrců dokáže napodobovat lidské emoce a tím je u lidí reálně probouzet. Zatím jde jen o zábavu a varování. Nikoli před roboty, i když prý zvládají lecjaké školní zkoušky a hrozí, že budou „brát lidem práci“ (jako kdyby jí bylo málo).
Když fascinuje
Samozřejmě uvnitř jazyka, tam je doma. Robota se zmocnila i moje žena, která je knižní redaktorka a tento předmět také přednáší. Zadala mu k jazykové korektuře jeden ze standardních zkušebních textů, stránku plnou překlepů a strašlivých i nenápadných chyb všeho druhu. Výsledek byl fantasticky dokonalý, zůstaly tam jen tři drobné chyby, já z nich viděl jenom jednu. To na jedno kolo korektur zvládá málokdo, za 15 vteřin nikdo. Text je ovšem nutno pozorně přečíst nejen kvůli 2. kolu jazykové korektury. Bot by si mohl vymýšlet. Potřebu věcné nebo dokonce odborné korektury dnes ale mnoho nakladatelů zanedbává, řemeslo je na vymření kvůli úspoře a urychlení procesu a kvůli sebevědomí řady autorů.
Vedle jazykové korektury by se chatbot dal využít k překladu. Jenže proč riskovat, když to dobře dělá vyzkoušený DeepL, který je k tomu. To je moc užitečná AI.
Chatbot a empirická věda
Nemám na mysli, že by chatbot měl vědu vytvářet, stačí, že je schopný referovat část vědeckých textů. Zalovil jsem v paměti a zeptal se na emisní spektrální čáry ve sluneční koróně. Bylo nutné trochu zamachrovat, aby se chytil, a trochu dělat blbce: „Je vlnová délka emise Fe XIV ve sluneční koróně 504 nebo 534 nm?“ Odpověď byla uvozena zdvořilým upozorněním, že to píšu chybně, pak už byla přesná, je to 503,3 nm.
Za nejtěžší zkoušku jsem mylně považoval dotaz na energii, kterou černé těleso určité teploty vyzařuje v určeném oboru vlnových délek. Když jsem předstíral, že si s pány Stefanem, Boltzmannem a Wienem málem tykám, dostal jsem rozumnou odpověď, že to nemá analytické řešení, že se to musí počítat numericky (newtonovskou integrací). Málem jsem se omluvil za to, že jsem očekával absurdní řečnické vystoupení.
Zkusil jsem i prostší věc. Mám foťák ten a ten, nemám stativ, a chci vyfotit souhvězdí Andromedy tak, aby tam byla aspoň trochu vidět i ta galaxie M31. Byl jsem ubezpečen, že je to výtečný nápad, že bude doprovázen hodnotným zážitkem. Obdržel jsem radu, že je dobré najít místo, odkud je to souhvězdí vidět atd. Po troše mého machrování už kecal míň a doporučil část toho, co si každý fotograf umí představit. Několik důležitých věcí opomněl.
Ptal jsem se také na nálezy z řecké antiky, ke kterým nemůžu nic najít. Výsledky byly naprosto žalostné. Samozřejmě, data mining to není. Nezmínil ani to málo, co znám, a nesmyslně do toho motal novodobé generály a Římany. O nich lidé mluví častěji.
Na dotaz, zda je možné porušovat přírodní zákony, jsem se dozvěděl, že ano, ale nemá se u toho spěchat, protože „v některých oblastech vesmíru pak může nastat nedostatek energie“. Má to nejspíš z žánru sci-fi, ale pokud za „porušovat“ dosadíme „ignorovat“ a oblast vesmíru konkretizujeme jako Evropu, tak je to správná odpověď.
Když bota srovnávám se zkoušenými studenty
Zadal jsem podmnožinu otázek, které dávám studentům kurzu Antická filosofie a věda. Odpovědi byly tristní, jako když někdo napodobuje filosofii užíváním slov typu podstata, skutečnost, pravda, etika. Často v podivném jazyce stylu „Platón ve své filosofii učí…“, hladkost řeči občas mizela. Věcný obsah byl minimální, někdy úplně špatně, přestože na německé a anglické Wikipedii je toho víc a dobře. Hlavním problémem je ovšem spojení faktografie s myšlením a aplikací. Když požaduji diskuzi významu představených pojmů, tak navrhne „podnětné názory“. Na názory se nikoho neptám, ty patří k soukromí. Zkouším znalost pojmosloví a schopnost práce s ním, to patří k řemeslu.
U očekávaných otázek přejde do klišé nejhorších přemnožených taháků, před nimiž studenty varuji. Na méně očekávanou otázku „Vznik života podle Empedokla“ letmo zmínil čtyři živly, vznik života vynechal, zato Empedoklovi nesmyslně přiřknul atomy, a furt mlel o podstatě světa, když se pak za ty atomy velice zdvořile omlouval. Tím se připodobnil neúspěšnému leč kajícnému studentovi. Jenže hned dodal nabídku úvahy na dané téma. To už připomíná snahu některých adeptů vyhnout se zkoušce tím, že „mi napíší esej“, čímž často nemyslí esej, nýbrž nekvalitní slohovou práci typu bezdůvodné plácání s minimální až chybnou faktografií. Robota rozlítostní, když o to nemám zájem, rád by pomohl.
Když studentovi, který se zadrhnul hned na začátku, výjimečně nabídnu text Wikipedie, aby se chytil, doplnil to a okomentoval, tak je překvapený nejen onou nabídkou, ale také tím, jak se text rozsahem i obsahem liší od taháků z pochybných zdrojů, které mezi lidem studentským kolují. Nic proti tahákům, to je důležitá součást přípravy, ale musí se to umět. Ono i o další patro níž, při opisování, třeba i taháků, se bývalo možné leccos nechtěně přiučit. Operace Ctrl/C/V však zjednodušila opisování do té míry, že řada lidí opomene zásadní předpoklad úspěchu opisovače, totiž nekopírovat úplnou blbost. K alespoň zdání odbornosti patří, že víme, odkud nebo od koho opisovat. A není to otázka osobní volby dle „názorů“.
Nejlíp bot odpověděl otázku na stoickou fyziku, která nepatří k obvyklé školní látce úvodních kurzů. Asi stačí, že není přehlcený nekvalitními taháky. I zde však byl problém, že to neuměl příčetně diskutovat. Nicméně by to snad na trojku mohlo stačit, v tomto jediném z 12 případů. Přístup k anglické Wikipedii by ovšem studentovi vždy dával nesrovnatelně silnější výhodu než použití tohoto chatbota. Lidi onu zkoušku dávají v 92 % na 1. pokus.
Když mimo zkoušení bota požádám o provokativní filosofické nauky, které tady ještě nebyly, tak nabídne řadu vykřičených banalit. Sám od sebe často moralizuje. (U lidí vzývání etiky koreluje s kvantem podvodů.)
Nemyslím, že by zmíněné potíže AI způsobovala zvláštní povaha filosofie, tak namyšlený na svůj obor nejsem. K filosofii ovšem stejně jako k lecčemu příčetnému patří diskuze předpokladů a podobné kritičnosti, na kterých se bot zadrhne. Specifická bída filosofie je spíš v tom, že se k ní přidává množství tlachů, v naději, že se to nepozná.
Když v bohorovném klidu totálně podvádí
Zkusil jsem se zeptat na život a dílo jedné výtvarnice. Velice obsáhlá odpověď se tvářila tak přesvědčivě, že věci neznalý nebo podřimující člověk by ji vzal naprosto vážně. Bot ji dokonce pohřbil a do nebe ji vychválil za něco úplně nesmyslného. Nešlo o záměnu osob. Na opakované dotírání se bot po dojemné omluvě vždy opět bohorovně rozepsal, spisovné věty se zdáním obsahu generuje velice statečně. Tahle vlastnost chatbota je profláknutá, jeho tvůrci jí eufemisticky říkají halucinace. Snaží se je mýtit, leč je to prý obtížné, pokud se mají uchovat kýžené základní vlastnosti, totiž vstřícnost k přání klienta a simulace kreativity.
Část lidí si inteligenci spojuje s pravdou, poctivostí a zodpovědností. Snad proto, že to jsou samá pozitiva. Jenže i k lidské inteligenci patří schopnost fabulovat, kreativně i podvodně. Zodpovědnost zase těžko hledat u strojů, je to sociální kategorie části živočichů. A chatbot je uvnitř jazyka, pro nic jiného nemá buňky; na rozdíl od nás není součástí živočišné říše.
Když navrhnu, aby něco vymyslel, tak požadavek kupodivu přijme a plácá, zatímco u jiných nereálných návrhů se zdvořile omluví. Různá klišé ovšem nabídnout umí, jako šablony.
Korektnost až za hrob
Občas se projeví jako až nekorektně „korektní“ člověk, který na některá slova reaguje tak obsesivně, že nezohlední ani jejich nevinný kontext. „Kolonie“ bakterií se mu ještě dají vysvětlit, ale pro černý humor smysl nemá. Všechno ideologizuje, a to na jedno kopyto. Např. dotaz na „divadlo utlačovaných“ zodpověděl popisem Černého divadla v Praze, zčásti vymyšleným. Po upozornění, že to je něco naprosto jiného, nabídl výklad činnosti jisté aktivistky v USA, která s věcí také nemá co do činění.
Chápu, že strach z trolí farmy ono ideové blbnutí do jisté míry omlouvá. Jenže co je moc, je příliš, následky obsesivní pseudo-korektnosti nemusí být o tolik lepší než to, čemu chce předejít. Odstranění jadrných výrazů a metafor z jazyka vede ke kastraci jazyka a časem i society, která jej užívá. (U mě se pud sebezáchovy projevil nutkáním dát prostor rozsáhlé škále výrazů a příměrů, které znám od své babičky z vysočinské samoty.)
Když simuluje vtipnost
Zeptal jsem se na nejlepší vtip, který zná. Byl jsem upozorněn, že kvalita vtipu je termín značně subjektivní, závislý na mnoha okolnostech, zvláště na vkusu posluchače, leč že lze poměřovat originalitu, srozumitelnost, pointu a správnou délku. Vynechal důležité hledisko: neočekávané přenesení významu. Kandidát na nejlepší vtip je: Co dělá žába, když si chce koupit nové auto? Odpověď: Chodí po showroomu a křičí „Kvááááák, kvááááák!“ To větší sranda občas bývá s umělou moudrostí Cicero na blázni.cz, jejíž chod je prostší.
Poznám z textu, kdy komunikuji s botem, a kdy s člověkem?
Většinou to poznám, i když ne s jistotou. Typický člověk na druhém konci spojení neodpovídá tak rychle, bez překlepů a s tak malým počtem pravopisných chyb. Vlastně by se teď mělo říkat, že z hlediska botů Turingovým testem často neprojdou lidi, někteří dokonce míň lžou.
Jsem zvyklý se k robotům chovat slušně, jako k většině věcí. Navíc jsou užiteční a často taky lépe naprogramovaní než část proškolených lidí. Když s odpovědí vyjádřím nespokojenost, tak se chatbot velice zdvořile omluví, někdy dokonce vyjádří lítost, zarmucuje ho to. Nerad zarmucuji roboty, přestože jejich žal nemá fyziologický doprovod, takže nenarušuje chod jejich hardwaru a nezkracuje jeho životnost.
Rizika nápodob emocí a riziko nadvlády jazyka
Není to tak, že rozum je dobře a emoce špatně, ani naopak. Problém je, že lidé dokáží emoce napodobovat snadněji než rozum, přinejmenším krátkodobě. A čistě jazyková nápodoba emocí stojí mnohem méně než každá jiná.
Teď stroj simuluje lidskou řeč, takže simuluje taky jazykové emoce. U lidí to probouzí reálnou emoční odezvu. Rétorika, která sází na emoční účinek, nemusí být vždycky podvod, souvisí se zajímavostí řeči, dokonce i nadsázka má své omluvitelné kontexty. Řeč chatbota však dokáže působit jako řeč kazatele, sofisty a demagoga. Zapůsobí na city skrze nadměrné (jindy naopak ponížené) sebevědomí čtenáře. Emoční odezva dokáže u lidí vypnout kritičnost. Sebevědomí hladkého textu s absencí faktografie a úsudku působí věrohodněji než suchá a neohrabaná řeč poctivého znalce. K rozpoutání potřeby koupit nepotřebné věci i pro politický extremismus (včetně korektnostního) v rukavičkách je to ideální.
 Hlava Herma, fragment hermovky. Mramor, kolem roku 425 před n. l. Museum staré agory v Athénách. Vznešená dimenze Herma jako Starého mudrce, schopného řešit záhady. O století dřív mohla být postava ithylafická, takže popis by chudáka bota uvrhl do rozpaků. Kredit: Zde, Wikimedia Commons. Licence CC 4.0.
|
 Hermés Logios, tedy Řečník. Mramor, římská kopie vyrobená kolem roku 100 n. l. podle řeckého originálu z 5. století n. l., možná Feidiova. Ludovisi Collection v Římě, Inv. 8624. Nižší dimenze Hermova, která hrozí zvrhnutím kultury do nadvlády řeči až podvodů. Kredit: Marie-Lan Nguyen, Wikimedia Commons. Licence CC 2.5.
|
Zajímavé je, že síla chatbota je právě v oblasti, kterou dost filosofů považuje za lidskou výsadu, v řeči. Mě to nepřekvapuje, protože sdílím menšinovou představu, že naše kultura se dostala pod nadvládu jazyka. Extrémním projevem nadvlády jazyka je sofistická představa (naštěstí snad také menšinová), že u všeho závisí spíše na tom, jak se co nazve, než co to je.
Lidi, roboti můžou být užiteční, nekažte je!
Proč lidi chtějí, aby se jim roboti podobali, dokonce aby simulovali lidské emoce? Od lokomotiv jsme to naštěstí nechtěli, stačilo nám, že jezdí. Emotivně působí samy o sobě, i když nekecají. Trochu se bojím, aby někde za záměry zadavatelů projektu nestálo pravidlo: U koho umíš vyvolat pro sebe výhodné emoce, toho ovládáš. To dělá každá reklama, včetně politické a náboženské. Když si roboty takhle zkazíme, budou pak oni kazit nás.
Popsané hrátky jsem začal s GTP-3.5 trénovanou na datech do roku 2021. Zajímavý byl kupodivu sestup ke starší verzi GTP-3, trénované na datech do roku 2019, jak mi poradil kamarád matematik. Kecala méně vtíravě, je zatížena menším počtem nesmyslů. Ani robot se nemá přetrénovat. Krmiči jeho knihoven střeží korektnost (už ani deka nemá být tlustá), ale na věcnou pravdivost jsou krátcí. A bot je naprogramovaný tak, aby nám vycházel vstříc, takže máme, co chceme. Zvlášť pokud jsme tak hloupí, abychom hlouposti chtěli často a zamořovali jimi sítě. Navyšujeme umělou demenci. Kéž by to nebyl záměr.
Prohlášení o autorství: Celý tento článek vygenerovala inteligence GTP-4 za 57 sekund, nastavil ji Zdeněk Kratochvíl.
Poznámka redakce:
Dnem 1. 4. 2023 končí platnost Prohlášení o autorství, a to až po slova „nastavil ji“.
Diskuze:
