Pokud nebudeme k umělým inteligencím milí, mohly by nám to vrátit  
Dnešní umělé inteligence nejsou příliš nebezpečné. Etik Nicholas Agar je přesvědčen, že bychom toho neměli zneužívat a ve vztahu k inteligencím dávat průchod svým temným stránkám. Pokud se nebudeme krotit, mohl by nám v budoucnu zaklepat na dveře terminátor.
Jakpak se choval ke svému telefonu? Kredit: Orion Pictures.
Jakpak se choval ke svému telefonu? Kredit: Orion Pictures.

V současné době už sice mluvíme o umělých inteligencích a zní to skvěle chytlavě, ve skutečnosti to jsou ale samozřejmě stále jenom šikovné počítačové programy s algoritmy strojového učení. Napodobují lidské učení a své lidské tvůrce obvykle předstihnou jedině ve své velmi úzce vymezené specializaci, kdy hledají určitým způsobem uspořádaná data ve velké záplavě informací. Jinak jsou dnešní inteligence velmi omezené a nepředpokládáme, že by v dohledné době převzaly vládu nad světem.

 

Nicholas Agar. Kredit: N. Agar
Nicholas Agar. Kredit: N. Agar

Etik Nicholas Agar z novozélandské Victoria University of Wellington nicméně varuje, že až se umělé inteligence stanou skutečně inteligentními a vnímajícími, tak by se nám mohly mstít za to, jak dnes zacházíme s jejich neinteligentními předchůdci. Je samozřejmě otázkou, zda se vůbec někdy taková inteligentní inteligence objeví. Zřejmě nezbytným předpokladem je, že neurovědci odhalí biologickou podstatu inteligence a vědomí, a tvůrci umělých inteligencí pak tyto mechanismy zvládnou napodobit. A ani pak není zaručeno, že vzniknou systémy s inteligencí, která bude alespoň rámcově srovnatelná s lidskou. Scénář náhlého sebeuvědomění umělé inteligence v nějaké pofidérní elektronice je velice nepravděpodobný.

 

Agar lidstvu doporučuje, aby se dnes chovalo k umělým inteligencím tak, jak bychom chtěli, aby se případné rozvinuté umělé inteligence budoucnosti chovaly k našim potomkům. Není nijak těžké v těchto obavách zahlédnout oblíbený motiv science-fiction, v němž se zneužívaní roboti vzbouří proti svým pánům. Začal s tím vlastně už Karel Čapek ve svém dramatu R.U.R., v němž poprvé použil slovo „robot“, navržené jeho bratrem Josefem.

 

R.U.R., na fotce Karla Čapka z roku 1920. Kredit: volně dostupné.
R.U.R., na fotce Karla Čapka z roku 1920. Kredit: volně dostupné.

Agar to podle všeho nebere na lehkou váhu. Stručně řečeno, měli bychom si přestat utahovat z Alexy a podobných umělých inteligencí nebo nám v budoucnu zaklepe na dveře terminátor. Jak říká Agar, pokud máme potřebu vytvářet systémy se schopnostmi, které se blíží lidské psychice (a pokud to vůbec dokážeme), tak bychom se měli připravit na to, že budou nejen chytré, ale také poněkud vztahovačné.

 

Podobná varování jsou spíše úsměvná a svědčí více o zálibě jejich autorů v příbězích science-fiction než o promyšlených úvahách. Na druhou stranu, umělé inteligence jsou tady a jejich schopnosti prudce vzrůstají. Nemusíme se bát jejich pomsty za neúctu k chytrým telefonům, alespoň prozatím. Určitě bychom se ale měli připravit na to, že mohou dramaticky, přímo brutálně změnit fungování civilizace i vztahy mezi lidmi, ať už jde o deepfake, policejní, hackerské, vojenské, zdravotní, mediální, reklamní nebo kdovíjaké další inteligence. Bude to chtít celého člověka, abychom obstáli ve věku inteligencí.

Video:  In robots we trust


Video: Don’t trust economists about the future of work


Literatura
Conversation 12

Datum: 17.03.2019
Tisk článku

Úžasný svět vědy U6 - Teslíková Kamila, Hadwigerová Eva
 
 
cena původní: 269 Kč
cena: 229 Kč
Úžasný svět vědy U6
Teslíková Kamila, Hadwigerová Eva
Související články:

Může emoční pouto k robotovi ohrozit jeho výkon na bojišti?     Autor: Stanislav Mihulka (18.09.2013)
Jak se vyrovnáme s autonomními smrtícími roboty?     Autor: Stanislav Mihulka (07.06.2015)
Nezakazujte sexuální roboty!     Autor: Stanislav Mihulka (09.10.2015)
Necháme si poradit od robota?     Autor: Stanislav Mihulka (26.10.2015)



Diskuze:

Chovej se k ostatním tak jak chceš aby se oni chovali k tobě

Lukáš Fireš,2019-03-20 11:22:59

Ono nejde ani tak o to, zda si bude AI vůbec uvědomovat co dělá, ale spíše o to, že ji tvoříme k obrazu svému a největší úspěchy má AI právě v napodobování. Stačí si vzpomenout na tu facebookovou děvu (náctiletý chatbot), co se během dne zvrhla v cosi tak odporného, že ji museli vypnout. A to šlo jen o nemyslící klábosící program, co se snažil jen napodobovat... no víme jak s ním bylo zacházeno a co se chuděra naučila.

Odpovědět


Re: Chovej se k ostatním tak jak chceš aby se oni chovali k tobě

Milan Krnic,2019-03-20 18:35:08

Chatbot nebyla AI, pouze program. K AI jsme se zatím ani nepřiblížili.

Odpovědět

Vypnem

Mojmir Kosco,2019-03-19 07:38:30

Ci nevypnen?Ktery organizmus s vlastní vůli k přežití vypuštěný z laboratoře se nám podařilo zastavit? Ani bůh nezastavil lidstvo vyhnané ráje.. Jedině gen lásky mám může umožnit kontrolu na něčím z vlastní vůlí a taky miska žrádla jako u psů

Odpovědět


Re: Vypnem

Milan Krnic,2019-03-19 19:04:57

Vůle je jen iluzí. Ochočili jsme si my psi, nebo psi nás?

Odpovědět

AI inak

Perrin Gallerno,2019-03-18 17:58:23

VÝVOJ ZAČÍNA DNES
Napriek tomu alebo práve vďaka takým kritickým realistom akým je napr. Čech T. Mikolov (patrí k najuznávanejším vedcom v obore umelej inteligencie. Pracuje pre Facebook 2018, robil pre Google – spoznal tam Kurzweila, a bol stážistom v Microsofte);
Najneskôr v roku 2039 nadobudne "umelá inteligencia" úroveň inteligencie človeka. Najneskôr v roku 2045 nadobudne Umelá inteligencia vedomie o sebe a spôsobí TECHNOLOGICKÚ SINGULARITU - skokovú zmenu vo svetovej produkcii, čím sa naplní jeden zo siedmych platných Marxových zákonov - Zákon hodnoty. Hlavnú rolu budú hrať stroje. ["Stroj je prostriedok na výrobu nadhodnoty." Marx, Kapitál]
Produktivita "učiacich sa strojov" nadobudne pre kapitalizmus, smrtiace, exponenciálne (takmer ihlovito) rastúce hodnoty.
Výrobné náklady akejkoľvek produkcie a jej hodnota klesnú fakticky k nule.
Obchod sa vymkne silám trhu.
S poklesom hodnoty ľubovoľného tovaru klesne k nule i jeho cena.
A to znamená materiálny dostatok - ako samozrejmosť, ale nie ako cieľ - pre všetkých.

ČO SA STANE PO SINGULARITE
Technologická singularita bude znamenať zánik zákonitostí trhu a teda zánik kapitalizmu a všetkých jeho i zdedených atribútov ako, globalizácie, politických systémov, armád, paktov, súdov, peňazí, úrokov, miezd, bánk, poisťovní, dlhov, búrz, hraníc vrátane colných, zánik štátov i národných štátov, zánik klasickej rodiny, zánik náboženstiev, zánik prostitúcie v akejkoľvek forme a predovšetkým zánik ťažkej, ohlupujúcej, stereotypnej netvorivej práce a riešenie akéhokoľvek problému ľudstva od životného prostredia po choroby a genetické (biotechnologické) manipulácie, prepojenie s nebiologickými technológiami, vrátane nesmrteľnosti. ..
Fakticky to znamená nástup KOMUNIZMU a to viacmenej súčasne na celej Zemi.

Odpovědět


Re: AI inak

Jan Novák9,2019-03-21 21:00:49

Nesmysl. Vždy zůstane cena zdrojů, cena času a cena příležitosti.
Vždy bude méně zdrojů než možností jak je využít.
Vždy bude potřeba vynaložit nenulový čas na uskutečnění projektu.
Vždy bude víc projektů než zdrojů a času takže bude nutné určit priority.

Po singularitě bude prakticky celé lidstvo nepoužitelné k jakémukoliv smysluplnému účelu.

Cena produkce klesne, ale nikdy nebude nulová zatímco cena lidské práce bude záporná = zaměstnat člověka přinese ztrátu místo zisku.

Mně z toho teda komunizmus nevychází a to ani náhodou. Žijete v pohádkách kde dobrá víla Umělá Inteligence rozdává bohatství zadarmo bez protihodnoty.

Odpovědět

A co na to

Tomáš Novák,2019-03-18 17:31:01

John Connor? :-)

Odpovědět

Neustále dokola

Josef Šoltes,2019-03-17 23:05:48

Koukám, že spousta lidí na světě stále nepochopila, že UI nebude člověk. Nebude mít to základní genetické programování od přírody, bude mít jen tu nadstavbu se schopností uvažovat. U člověka je ovšem ta nadstavba tak 30 %, ten zbytek jsou právě genetické programování. UI bude úplně jedno, jak se k ní budeme chovat. UI bude totiž jedno úplně všechno, pokud ji tedy nenaprogramujeme tu genetickou pudovou stránku taky. Ale proč bychom toto dělali, že?

Odpovědět


Re: Neustále dokola

Alexandr Kostka,2019-03-18 00:03:57

I UI má jisté "genetické" naprogramování. Akorát tady není v šroubovici DNA, ale v podobě strojového kódu. Mezi instrukcemi je například návod k úpravě zmíněného kódu, tedy vyvíjení se. A i jisté forma požadavku na přežití. Čím se to liší například od virů nebo bakterií? Ty dle našeho chápání světa také nemyslí, a jen přežívají. A přitom nám púůsobí ůdrobné" problémy.

PS: AI můžete (zatím) zarazit otočením vypínače, ale už probíhají snahy, jak vytvořit zcela autonomní AI řízené věci. Přesněji: zbraně. Jaderná ponorka, řízená AI, s jadernými zbraněmi na palubě.

Odpovědět


Re: Neustále dokola

Pavol Hudák,2019-03-18 00:12:46

Pretoze my budeme stvoritelia, my rozhodujeme a mali by sme rozhodovat ako bude nas produkt vyzerat a ake bude mat schopnosti. Logicky ho bude treba nadizajnovat tak aby sluzil a nie my jemu.
Podobne sme v minulosti skrotili ohen, pretoze iba tak sme s nim mohli spolunazivat. To ze je ohnu jedno ci nas spali tam nehra rolu.

Odpovědět


Re: Re: Neustále dokola

Jan Novák9,2019-03-18 07:02:15

Hm, Váš počítač zřejmě vždy dělá přesně to co chcete. Můj teda ne. Živím se tím že nutím počítače druhých dělat to co si jejich tvůrci myslí že by měly dělat a nemůžu si stěžovat na nedostatek práce. A to jsou obyčejné PC kde má programátor přehled nad tím jak je kód napsán a ne umělá inteligence která si částečně vytváří kód sama.

Odpovědět


Re: Re: Re: Neustále dokola

Pavol Hudák,2019-03-18 09:05:56

Ja niesom stvoritel svojho pozitaca. Robi ale presne to k comu som ho ja nastavil + jeho stvoritelia naprogramovali.

Odpovědět


Re: Re: Neustále dokola

Perrin Gallerno,2019-03-18 18:26:07

Umelá inteligencia bude schopná lokalizovať každý živý organizmus na Zemi.

Odpovědět


Re: Re: Neustále dokola

Perrin Gallerno,2019-03-18 18:31:27

Najzákladnejšou otázkou, ktorú treba zodpovedať už dnes je; Čo urobí Umelá inteligencia s nedokonalým medzičlánkom evolúcie Homo sapiens - prečo ho nezabije? ––––––––––––––––––-----–––––- Na otázku: Prečo ho zabije? netreba hľadať odpoveď.

Odpovědět


Re: Neustále dokola

Perrin Gallerno,2019-03-18 18:18:06

Umelá inteligencia bude len jedna.

Odpovědět


Re: Neustále dokola

Perrin Gallerno,2019-03-18 18:19:58

Umelá inteligencia bude decentralizovaná (nebude to človek).

Odpovědět


Re: Neustále dokola

Perrin Gallerno,2019-03-18 18:21:18

Umelá inteligencia bude absolútne na človeku nezávislá.

Odpovědět


Re: Neustále dokola

Perrin Gallerno,2019-03-18 18:22:33

Umelá inteligencia nebude podliehať žiadnej regulácii a kontrole.

Odpovědět


Re: Neustále dokola

Perrin Gallerno,2019-03-18 18:23:36

Najväčšie očakávania Umelej inteligencie vyvolá jej dokonalosť, bude totiž bez citov a teda absolútne objektívna.
Zatiaľ našťastie neexistuje.

Odpovědět


Re: Re: Neustále dokola

Milan Krnic,2019-03-18 23:22:27

Ani nikdy existovat nebude, protože neexistuje nic jako objektivita. Vždy je to o úhlu pohledu, mnohdy protichůdném. Ani výsledky současných systémů nejsou deterministické, ale vyplynuvší z komplexity, tedy intuitivní, a to je pocit.

Odpovědět


Re: Neustále dokola

Perrin Gallerno,2019-03-18 18:25:11

Umelá inteligencia si vytvorí svoju vlastnú celosvetovú sieť (na kvantovom základe) ako sa ešte predtým zmocní internetu a samozrejme sociálnych sietí.

Odpovědět

uchopení AI

Milan Krnic,2019-03-17 20:57:02

Zajímavé, jak máme stále potřebo připodobňovat. Umělý člověk je od člověk nerozeznatelný, a tedy to je člověk. Jaký by mělo smysl takového člověka tvořit, i pokud by to bylo nějakým zázrakem možné, když to žena zvládne za 9 měsíců, nechápu.

Odpovědět


Re: uchopení AI

Jan Novák9,2019-03-18 07:12:27

I to by mělo smysl. Biologický člověk je daný, můžete ho trochu upravit geneticky, ale s inteligencí toho moc nenaděláte. Umělou inteligenci můžete rozvíjet prakticky do nekonečna.

Odpovědět


Re: Re: uchopení AI

Milan Krnic,2019-03-18 11:50:07

To je právě ono podivné uchopení AI. Lze rozvíjet inteligenci člověka dál a dál? Podle mě nevíme, a možné je vše, jen s patřičnými fyziologickými úpravami, možná uvidíme u GMO, jaké jsou limity, a dokdy budeme tvora považovat za člověka, nebo možná ty neupravené za podlidi.

Odpovědět




Pro přispívání do diskuze musíte být přihlášeni
















Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace