Mohou být umělé inteligence depresivní a mít halucinace?  
Když je řeč o umělých inteligencích, tak si lidé obvykle představují kovově chladné elektronické mozky, které jsou striktně bez emocí. Jenomže to může být veliký omyl.

Mívají inteligence emoce? Kredit: CC0 Creative Commons.
Mívají inteligence emoce? Kredit: CC0 Creative Commons.

Na svoji inteligenci jsme pyšní, i když zatím tak úplně nevíme, jak vlastně funguje. Každopádně se ale snažíme vyvíjet umělé inteligence, které by měly být hodně jako my. Pokud ale budou umělé inteligence skoro jako lidské, nebudou prožívat deprese, které jsou pro nás tak typické? Nebo třeba halucinace? A jestli budou, byl by to důvod k obavám?

 

Zachary Mainen. Kredit: Champalimaud Centre for the Unknown.
Zachary Mainen. Kredit: Champalimaud Centre for the Unknown.

Není to tak bláznivé, jak to zní. Letos v březnu se na půdě Newyorské univerzity uskutečnila konference Canonical Computations in Brains and Machines, kde neurovědci a experti na umělé inteligence vášnivě diskutovali překryvy lidského a strojového myšlení. Zachary Mainen z portugalského centra neurověd Champalimaud Centre for the Unknown v Lisabonu si tam zaspekuloval, že by pokročilé umělé inteligence mohly trpět podobnými psychickými problémy jako lidé. Pak si o tom popovídal s časopisem Science.

 

Science: Proč si myslíte, že umělé inteligence mohou sužovat deprese?

Mainen: Vlastně vycházím z počítačové neurovědy, která předpokládá, že se o pacientech s depresemi nebo halucinacemi můžeme dozvědět leccos zajímavého studiem algoritmů umělých inteligencí. Co kdybychom to ale otočili? Mohly by umělé inteligence trpět lidskými psychickými problémy?

 

Champalimaud Foundation. Kredit: Rui Beja / Wikimedia Commons.
Champalimaud Foundation. Kredit: Rui Beja / Wikimedia Commons.

Science: Jak by něco takového mohlo u umělých inteligencí fungovat?

Mainen: Lidské deprese a také halucinace úzce souvisejí s neurotransmiterem serotoninem, relativně jednoduchou molekulou s dalekosáhlými důsledky. Možná je to jenom biologie. Ale jestli serotonin řeší obecnější problém inteligentních systémů, tak by umělé inteligence mohly obsahovat podobné mechanismy. Jestliže se může pokazit lidská psychika kvůli serotoninu, tak by to u umělých inteligencí mohlo být obdobné.

 

Science: Jak nám serotonin pomáhá myslet?

Mainen: Serotonin jako neurotransmiter reguluje činnost nervového systému. Rychle, jednoduše a ve velkém rozsahu. Je to takový globální kontrolní signál. Podobně funguje například dopamin, který představuje globální signál odměny. Počítačová neurověda vnímá neurotransmitery jako klíčové regulátory systému. A umělé inteligence využívají podobné mechanismy. Jedním z nich je například rychlost učení.

 

Science: K čemu jsou změny rychlosti učení umělým inteligencím?

Mainen: V některých situacích se najednou změní spousta věcí najednou. Svět se rázem stane mnohem více nejistým a obtížněji zvládnutelným. Jako když se přestěhujete do nového města, kde se vůbec nevyznáte a na nikoho tam nemáte telefonní číslo. Můžeme to pozorovat v laboratoři, když myš nebo člověka něco naučíme a pak najednou dramaticky změníme pravidla. Když k tomu dojde, tak se úplně rozzáří serotoninové neurony v mozku. Lidé si často myslí, že serotonin souvisí s pocity štěstí. Ve skutečnosti ale spíše reaguje na překvapení, nečekané zvraty.

Serotonin. Kredit: NEUROtiker / Wikimedia Commons.
Serotonin. Kredit: NEUROtiker / Wikimedia Commons.

 

Science: Pokud serotonin souvisí především s překvapením a nejistotou, proč hraje zásadní roli v depresích?

Mainen: Z laboratorních výzkumů víme, že serotonin ovlivňuje schopnost mozku přizpůsobit se změnám. Z toho je možné odvodit, že farmaceutická léčba depresí, která cílí na serotonin, vlastně nezlepšuje nápadu. Pomáhá mozku v depresi vyrovnat se se změnou, která je příčinou nejistoty. Právě to je zřejmě hlavním důvodem, proč lidem pomáhají látky jako Prozac, tedy selektivní inhibitory zpětného vychytávání serotoninu (SSRI). Psychedelika, tedy látky jako LSD, psilocybin nebo DMT, podle všeho fungují podobně, jenom v kratším časovém intervalu. Proto není překvapivé, že psychedelika mohou vykreslovat pozoruhodné halucinace a zároveň významně pomáhat lidem s depresemi.

 

Science: Mohly by tedy mít umělé inteligence emoce nebo dokonce deprese?

Mainen: Jasně, domnívám se, že roboti mohou mít něco jako emoce. Když se dostatečně komplexní umělé inteligence setkají s dramatickou změnou, mohl by jim poklesnout „strojový“ serotonin. A umělá inteligence by v takovém případě třeba skutečně mohla propadnout depresi. Asi by bylo lepší se inteligenci v takové chvíli klidit z cesty.

 

Video: Zachary Mainen at TEDxO'Porto 2013

 

Literatura

Science online 9. 4. 2018.

Datum: 11.04.2018
Tisk článku

Inteligence a učení - Lund Nick
Knihy.ABZ.cz
 
 
cena původní: 89 Kč
cena: 76 Kč
Inteligence a učení
Lund Nick
Související články:

Neurální sítě Googlu vynalezly vlastní šifrování     Autor: Stanislav Mihulka (30.10.2016)
Umělá inteligence DeepCoder sama programuje vykrádáním jiných programů     Autor: Stanislav Mihulka (26.02.2017)
Umělá inteligence Shelley píše hororové texty. A je v tom dobrá     Autor: Stanislav Mihulka (27.10.2017)



Diskuze:

evolučná podstata emocii

Jozef Hojo,2018-05-16 20:24:30

Keďže u nás v minulosti emocie zohravali veľkú rolu v minulosti aby sme mohli prežiť, tak je logické že nám emocie ostali a využívame ich stále. Ale toto u AI nemusí byť nutné, pretože AI prechádza uplne inou evolúciou, ktorá nie je biologická ale mechanická. V podstate AI by teoreticky z vlastnej vôle upravovať vlastné techniky myslenia, poprípade vypínať ten "technický serotonin" kedy sa jej zachce, nie ? V podstate by si AI mohla zapnúť svoje emočné výrazy len pri komunikácii s ludmi a následne ich kedykoľvek vypnúť pri rozmýšľaní nad podstatou vesmíru..

Odpovědět

Umělecká inteligence nemá deprese.

Josef Hrncirik,2018-04-12 06:44:12

Má pouze zaprášené senzory, stojí si na vedení a má špatně nastavené váhy na vstupech a výstupech neuronů a přístup do médií.

Odpovědět

Můj počítač má deprese.

Jiří Pospíšil,2018-04-12 04:50:48

Můj počítač má deprese (poklesy) každou chvíli. Je zcela umělý a možná i trochu inteligentní. Ale mých depresí u něj nedosahuje.

Odpovědět

Pavol Hudák,2018-04-11 10:10:56

ked sa vyskytuju poruchy biologickych strojov, budu sa vyskytovat aj poruchy pocitacovych strojov

Odpovědět


Re:

Palo Fifunčík,2018-04-11 12:00:24

Prototypom bol asi aj Frankenstein ...

Odpovědět

depka

Bluke .,2018-04-11 09:18:18

Venujem sa programovaniu a AI ,a stále ešte némám depku. Až budem po zenite ,uvidíme.
Myslim že "mať depku" je výlučne ludská doména nie strojová.

Odpovědět

Porucha emotivity

Palo Fifunčík,2018-04-11 08:44:25

Príde mi iracionálne podsúvať umelej inteligencii spomínaný fenomén depresie , pretože ide o poruchu emotivity , ktorou /emotivitou/ umelá inteligencia asi ťažko môže disponovať ....

Odpovědět


Re: Porucha emotivity

Pavol Hudák,2018-04-11 10:16:43

ak budeme chciet, ludia a AI spolu chychadzat, bude musiet mat AI emocie. v ciste racionalnom svete ludia v podstate nemaju zmysel a ako pozieracov zdrojov by bolo raconalne nas odstranit.

Odpovědět


Re: Re: Porucha emotivity

Palo Fifunčík,2018-04-11 11:54:05

Len aby sme si nezamieňali príčinu a následok . Podla mňa nie je problém cestou AI emóciu vyvolať /u užívateľa AI/, napríklad spomínanú depresiu alebo aj úzkosť či fóbiu dokonca , ale AI tak činí s "chladnou" hlavou , bez emócie , podobne ako Bishop vo votrelcovi ...

Odpovědět


Re: Porucha emotivity

Z Z,2018-04-13 10:20:01

A prečo by "nemohla disponovať"? Čo si predstavuješ pod takou "emotivitou"? Ak ju nejako dostatočne definuješ, tak snáď nie je problém v tom, aby ju mala aj umelá inteligencia.

Odpovědět


Re: Re: Porucha emotivity

Palo Fifunčík,2018-04-13 12:45:33

Emotivita je totiž duševný proces . Preto je problém aby ju mala umelá inteligancia . Nedisponuje totiž anatomickými štrukurami a metabolickými procesmi zodpovednými za vznik emocii u nej samotnej .

Odpovědět


Re: Re: Re: Porucha emotivity

Z Z,2018-04-13 13:38:57

"Duševný proces" je u človeka napríklad aj hranie šachu a predsa to dokáže umelá inteligencia v súčastnosti lepšie ako on. Nie je principiálne nič neriešiteľné vyrobiť stroj, ktorý dokáže všetko, čo človek, či aj oveľa lepšie, vrátane tej "emotivity". Prečo by sa tie "metabolické procesy" a "anatomické štruktúry" nemali dať napodobiť/vyrobiť umelo?

Odpovědět


Re: Re: Re: Re: Porucha emotivity

Jiří Brunner,2018-04-18 02:55:19

Možná to někdy v delší budoucnosti půjde, ale v žádném případě to žádný, pouhý člověk nemůže kontrolovat. Testy jak se ta umělá, emotivní inteligence vlastně bude chovat, bude dělat zase umělá inteligence, současný člověk na to nebude mít kapacitu. Ovšem budoucí člověk nemusí být jako dnešní, mohou se lišit víc než opice od nás. Opice minulosti se nestaly lidmi proto, že by si to naplánovaly, kdo ví co elektronika a genetika v budoucnu, v řádu stovek, či tisíců let, udělá "evolučně" z člověka?

Odpovědět


Re: Re: Re: Re: Re: Porucha emotivity

Josef Hrncirik,2018-04-18 08:45:52

To se nedá naprogramovat, aby AI v depresi po porážce melancholicky kopla do hodin a šachovnice?

Odpovědět


Re: Re: Re: Re: Re: Porucha emotivity

Z Z,2018-04-18 09:34:28

Ale otázka bola o principiálnej možnosti vytvorenia "emotívnej" umelej inteligencie, nie o možnostiach súčasného človeka jej "kontroly". Palo Fifunčík tvrdil , že sa to principiálne nedá, lebo... no uvádza len veci, ktoré sú dajú vyrobiť, napodobiť či simulovať.

Odpovědět


Re: Re: Re: Re: Re: Re: Porucha emotivity

Josef Hrncirik,2018-04-18 11:54:12

Emoce asi zaměřují chování určitým "naprogramovaným" směrem, kterým ev. mohou až
?objektivně nevýhodně odebírat nedostatkové zdroje (energie a kanály v senzorech a ?CPU.
Že je lidé pociťují ev. až jako nepopsatelně libé či nepříjemné asi z hlediska SW či HW spíše škodlivé.
Přestavení vah pro jednotlivé procesy v SW a HW vlivem emocí je asi většinově osvědčený "rozumný" výběr evoluce pro převládající situace v nějaké době a prostředích. Prostě biologické emocionální vedení akcí je jen pomalejší, ale stabilnější a možná též méně rizikové než kontrola chování jen přes SW ? ev. i zraněného HW.
Stroj se může chovat, jako kdyby měl emoce. Pochopitelně je ale mít nemůže. Vlivem omezených kapacit HW i SW je nutno optimalizovat váhy pro činnosti a kanály pro dané situace. Tzv. emoce vzniknou po chladnokrevné bilanci využitím pamětí stroje, jeho SW a vyhodnocení rizik pro stroj. Pouze není nutno aby svítily kontrolky štěstí a neštěstí.
Stroj je vždy v nejlepší možné kondici v dané situaci. Proč by měl své štěstí rozkřikovat?
Bylo by smutné, kdyby byl smutný, když jde do Sebe.

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Porucha emotivity

Z Z,2018-04-18 15:02:46

"Pochopitelně je ale mít nemůže."

Nevidím na tom tvrdení nič očividne "pochopiteľné".
Slovo "umelá" v pojme "umelá inteligencia" znamená len to, že bola vytvorená umelo (trebárs aj len teoreticky) - napríklad človekom.
A to hocijako - nemusí to byť obmedzené na súčasné postupy či techniku.
Nejakým ručným štelovaním "váh pre situácie", či programovaním pre každú možnú situáciu a pod.
Ak by napríklad súčasný počítačový výkon narástol o veľa rádov a boli by programovacie možnosti napodobiť chovanie ľudského mozgu až na úroveň jednotlivých neurónov, tak, že by sa "výsledná aplikácia" chovala ako ľudský mozog, bola by taká inteligencia "emotívna" či nie?
Ak by sa namiesto počítačov, podobných dnešným, použilo zostavenie umelého organizmu z organických látok, bola by taká inteligencia "emotívna"?
Ak nie, tak prečo?
Veď by bola v princípe veľmi podobná človeku - aj fyzickým zložením.
A o "emotívnosti" človeka snáď nepochybujete.

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Re: Porucha emotivity

Josef Hrncirik,2018-04-19 06:46:16

No dobře. Černá skříňka se bude chovat jako kdyby měla emoce a bude vykřikovat Madonna mia at ci Boga!

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Re: Re: Porucha emotivity

Z Z,2018-04-19 09:47:20

To ale potom môžete aj o človeku tvrdiť, že je len čierna skrinka, čo sa len chová, ako keby mala emócie. To predsa nie je žiaden rozumný argument.

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Porucha emotivity

Josef Hrncirik,2018-04-19 14:35:02

To budou muset bez emocí vyřešit britští právníci,
zda autonomní vehicl přejel někoho v nezvládnutém afektu, nebo jen se zadostiučiněním, či pouhým omylem, zda nebyl vyprovokován či neměl těžké dětství a zda svého činu dostatečně lituje a uhradí škody i ušlý zisk a je schopný nápravy HW i SW i EW.

Odpovědět

..

Jan Balaban,2018-04-11 07:15:43

Mňa by zaujímal názor umelej inteligencie na politiku vo svete a náboženstvo.

Odpovědět


Re: ..

Pavel Foltán,2018-04-11 09:05:41

Pane Balabane,
já bych do tohoto vosího hnízda raději moc klacíkem nešťoural.
Místo slovního vyjádření, by se vám mohlo vrátit přímo konečné likvidační řešení našeho daného problému.
(co kdyby byla zrovna v depresi že ji vedlejší počítač nemiluje a vy do toho ještě s takovou snadno řešitelnou prkotinou… (najděte si na webu pojem "zástupný problém"))

Odpovědět


Re: Re: ..

Josef Hrncirik,2018-04-11 10:22:29

Velmi se obávám, že potom píší: "balíčok doručen"; "2 osoby přijely (odjely) (na vojenskou základnu)" .

Odpovědět


Re: Re: Re: ..

Pavel Foltán,2018-04-11 11:38:01

Pane Hrnciriku,
obávám se, že naprosto nerozumím jazyku vašeho kmene.
Opravdu to patřilo mně?
(jaký "balíček"? které/jaké "osoby"? jaká "základna" a proč?)

Odpovědět


Re: Re: Re: Re: ..

Karel Rabl,2018-04-11 16:15:36

Pan Hrnčiřík chtěl vlastně napsat, že informační šum, či dokonce nepravdivá informace může, nejen v umělé inteligenci tuto depresi vyvolat a z hlediska chování se může k tvůrcům chovat iracionálně ba i nepřátelsky.

Odpovědět


Já nechci nic. Média ale píší ze všech stran. "Balík byl doručen".

Josef Hrncirik,2018-04-12 06:58:39

V den útoku na Skripala odešla ze Sýrie...
Analytici britského královského letectva (RAF) na Kypru zachytili v den útoku na Sergeje Skripala a jeho dceru podezřelou depeši odeslanou ze Syrie do Moskvy ?Putinovi!!!...

Určitě přitom použili tzv. Turingovy stroje. ...

Odpovědět


Re: Já nechci nic. Média ale píší ze všech stran. "Balík byl doručen".

Karel Rabl,2018-04-13 11:25:59

Ano máte pravdu a parafrázuji slovy "Járy Cimrmana" kdy smrtka odpovídá "na mé místo přijde jiný, a ten se nezakecá".

Odpovědět


Re: Re: ..

Jan Balaban,2018-04-11 15:38:15

Ja dúfam, že UI tieto otázky vyrieši objektívne a nastane raj na zemi.

Odpovědět


Re: Re: Re: ..

Jan Balaban,2018-04-11 15:46:48

Začať môže rozhodovaním v súdnych procesoch.

Odpovědět


Re: Re: Re: ..

Pavel Foltán,2018-04-11 15:48:56

Velký pozor na to, co si přejeme — mohlo by se nám to vyplnit!
"Objektivně" z jaké pozice/čí pohledu?
"a nastane raj na zemi" — takže lidstvo vykynoží?
Možná si nechá několik párečků v rezervaci zvané Ráj a celý ten tristní kolotoč začne znovu?

Odpovědět


Re: Re: Re: Re: ..

Jan Balaban,2018-04-12 06:36:32

Raz v živote som bol účastníkom súdneho konania a bol by som oveľa spokojnejší, keby namiesto sudcu rozhodovala UI. Z hľadiska ľudstva - večné otázky by boli (teoreticky) vyriešené. Ale obávam sa, že by len vznikol nový konflikt medzi tými čo veria a neveria v UI, resp. neveria v UI z ríše zla. (Pojem ríša zla zaviedol istý americký prezident).

Odpovědět


Re: Re: Re: Re: Re: ..

Josef Hrncirik,2018-04-12 09:10:44

V rámci sporu o pronájem zahrádkářského pozemku a náhradu za porosty a nemovitosti, změny rozsudků i znaleckých posudků ě potvrdily známou realitu, že:
PRÁVO = kodifikované třídní násilí.

Odpovědět


Re: Re: Re: Re: Re: Re: ..

Jiří Brunner,2018-04-18 03:04:31

Kodifikované první a většinou nejsilnější mafie, státu.

Odpovědět


Re: Re: Re: Re: Re: Re: Re: ..

Josef Hrncirik,2018-04-18 08:49:32

Některé role státu jsou určitě nezastupitelné.
Opice si však mohou svobodně lozit po stromech na Karláku, na rozdíl o vojáků.

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Re: ..

Jiří Brunner,2018-04-18 22:08:26

Jsou nezastupitelné, kde je slabý stát nahradí ho mafie, nebo rovnou několik mafií. A je rvačka, či revoluce.

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Re: Re: ..

Josef Hrncirik,2018-04-19 06:47:42

Jo. Přijede lokomotiva dějin.

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: ..

Jiří Brunner,2018-04-21 14:27:25

Asi ano.

Odpovědět




Pro přispívání do diskuze musíte být přihlášeni


















Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace