Hawking rozvířil obavy o umělou inteligenci  
Slavný astrofyzik se podle všeho bojí, že by nástup plně funkční umělé inteligence mohl vést k zániku lidstva. Někteří s ním souhlasí, podle řady expertů na AI to ale Hawking přehání.


 

Zvětšit obrázek
Zlovolná inteligence na první pohled. Kredit: Metro-Goldwyn-Mayer.

Stephen Hawking si poslední dobou libuje ve šťavnatých mediálních prohlášeních. Jako svérázný deus ex machina vědy a technologií vyvolá globální rozruch a zaručeně se pak dostává do titulků veškerých možných médií. Letos v lednu ohlásil úmysl zrušit horizont událostí černých děr, teď si zase vzal na mušku oblíbenou umělou inteligenci.


Svíravé obavy z umělé inteligence jsou vlastně vždycky po ruce. Mnohým z nás straší v hlavě ponurý palubní počítač HAL 9000 z kultovního filmu 2001: Vesmírná odysea, chladná inteligence VIKI (Já, robot), brutální obranný počítačový systém Skynet z legendární série o terminátorech anebo nějaká další nevlídná inteligence, kterých jsou scifi příběhy plné. Tyhle děsivé představy bublají pod povrchem naší civilizace a čas od času vyhřeznou. Hawking si rafinovaně vyhlédl předvánoční čas, kdy mají lidé ještě větší sklony k hysterii než obvykle a opět se mu povedlo upoutat pozornost celého světa. Není to vlastně ani kritika – alespoň se něco děje a Hawkingovi role poťouchlého provokatéra docela sedí.


 

Zvětšit obrázek
Provokatér ve stavu beztíže. Kredit: Jim Campbell/ Aero-News Network, Wikimedia Commons.

Hawking se nechal slyšet, že už sice máme k dispozici primitivní umělé inteligence a že jsou velmi užitečné, on sám si ale myslí, že by vývoj plně funkční umělé inteligence mohl vést k zániku lidské rasy. Jak prý lidstvo jednou spustí takovou umělou inteligenci, tak převezme věci do svých rukou a bude se sama vylepšovat. Podle Hawkinga by v určitou chvíli mohla dospět k názoru, že už lidi nepotřebuje anebo že ji lidstvo vyloženě škodí. Hawking v tom má očividně jasno, ale experti na umělou inteligenci, s nimiž mluvila agentura AFP, se v názoru na jeho prohlášení rozcházejí.


 

Zvětšit obrázek
Obklopeni umělou inteligencí. Roboti Kuka, továrna na BMW, Lipsko. Kredit: BMW Werk Leipzig.

Někteří s Hawkingem souhlasí a míní, že bychom takovou hrozbu měli brát vážně, i když se podle všeho netýká dneška ani blízké budoucnosti. Další experti se chápavě usmívají a vidí tyhle obavy jako dost přehnané. Antropoložka Daniela Cerqui ze švýcarské Univerzity v Lausanne je nadšená, že její obavy z umělé inteligence sdílí i celebrita fyziky. Podle Cerquiové vývoj směřuje ke strojům, jejichž výkon předčí lidi v mnoha směrech. Na takové stroje bychom pak podle Cerquiové mohli přenášet zodpovědnost za lidské životy. Což se prý vlastně už děje, otázkou ale zůstává, kam až bychom v tom měli zajít.


Vlivný futurolog a filozof vědy z Oxford Nick Bostrom nevnímá nebezpečí převládnutí umělé inteligence nad svými tvůrci jako akutní. Podle něj jsou soudobé špičkové aplikace AI, jako vojenské drony, autonomní automobily, průmysloví roboti nebo online boti, stále pevně v lidských rukou. Nicméně, i Bostrom si myslí, že strojová inteligence může časem překonat tu biologickou a že by pak pro lidstvo nemuselo zbýt místo k životu.


 

Zvětšit obrázek

Jiní kroutí hlavou a naopak varují před poplašeným alarmismem. Plnohodnotné umělé inteligence, tedy takové, které uvažují kreativně nebo prostě jako lidé, jsou prý přinejlepším ještě dlouhá desetiletí daleko. Přemírné sledování scifi bez odpočinku a procházek podzimní přírodou by mohlo natropit ve vývoji umělých inteligencí velké škody. Jak ukazuje případ nešťastných geneticky vylepšovaných organismů, bez podpory veřejnosti se moc bádat nedá. Kdo by chtěl vymýšlet umělé inteligence, když se o nich vypráví, že sní lidstvo k večeři?


Stuart Armstrong z Oxfordu podotýká, že o umělých inteligencích se uvažuje od padesátých let, kdy se mělo za to, že takové inteligence vyrobíme za jedno dvě desetiletí. Píše se ale rok 2014 a plnokrevná umělá inteligence rozhodně není na dohled. Expert na AI a filozofické otázky s ní spojené Jean-Gabriel Ganascia z pařížské Univerzity Pierra a Marie Curieových se domnívá, že to Hawking poněkud přehnal. Umělé inteligence podle Ganascii vzbuzují velké emoce, nikdo ale zatím nesehnal důkazy, že by se umělá inteligence chtěla nebo uměla vyvíjet nezávisle na lidstvu.

 

Zvětšit obrázek
Stuart Armstrong, Kredit: S. Armstrong.

Mathieu Lafourcade, specialista na AI z Univerzity v Montpellier, zase považuje Hawkinga za poněkud apokalyptického. Stroje jsou prý vlastně od počátku lepší než my v tom, co pro nás dělají, jinak bychom je nepoužívali. To ale podle Lafourcadeho neznamená, že by byly inteligentnější než my. Alan Tucker z londýnské Brunelovy univerzity upozorňuje, že vývoj umělé inteligence a robotika sice mají na kontě četné úspěchy a bezesporu značný pokrok, ani nejnovější produkty se ale nijak zvlášť neblíží lidské inteligenci. Podle Tonyho Cohna z Univerzity v Leedsu jsou ti nejlepší roboti možná docela dobří v rozpoznávání okolí a lidské řeči, jinak se ale v reálných situacích, kde je spousta šumu, pohybů, objektů a tváří, docela ztrácejí. Cohn přitom nečeká, že by se to za jeho života významně zlepšilo.


Jak se zdá, vývoji skutečné umělé inteligence zatím brání především to, že vlastně přesně nevíme, jak funguje ta naše, lidská inteligence. Nevíme jak myslíme, jak si zapamatováváme věci, netušíme jak funguje inteligence u jiných zvířat – jestli je to podobné anebo úplně jiné. Když si to upřímně shrneme, těžko vyvíjet sebevědomou umělou inteligenci, když zatím nevíme, k čemu bychom měli směřovat. Takže je doopravdy velmi předčasné se takové inteligence bát. Samovolný vznik umělé inteligence také podle všeho nehrozí. Pokud víme, žádný počítač ještě neoživl. Přínosnější než se bát budoucích přízraků naopak bude podpořit vývoj stávajících umělých inteligencí. Mohou nám totiž v mnoha věcech pomoct.

 

 

Video:  Stephen Hawking: "AI could spell end of the human race". Kredit: BBC News.

 


Literatura

AFP 6. 12. 2014, Wikipedia (Artificial intelligence).

Autor: Stanislav Mihulka
Datum: 06.12.2014 21:03
Tisk článku

Teenage Mutant Ninja Turtles Donnie's Robot - Davis Fiona
Knihy.ABZ.cz
 
 
cena původní: 282 Kč
cena: 242 Kč
Teenage Mutant Ninja Turtles Donnie's Robot
Davis Fiona

Diskuze:

SF & AI Tipy na knihy

Josef Skramusky,2014-12-09 10:16:21

Me dve nejoblibenejsi knihy se tykaji tematu.
Neuromancer od Gibsona - o ceste jedne UI z hranic ji urcenych lidstvem.
Accelerando od Strosse - o zivote alidstvu na okraji Singularity a po nem.
Predevsim v druhe z nich tvori uvahy na hranici futurologie podstatnou soucast - coz z ni za 20,30 let nejspis ucini knizku lehce smesnou, nebo take vizionarskou.
Nejake dalsi tipy?
Jinak vyroky typu, pocitacova inteligence neni mozna protoze pocitace nemohou citit, jsou to jen algoritmy, svedci pro mne jen o antropocentricke zabednenosti recnika. Napriklad pokusy s Norny ukazuji, ze UI dokaze cloveka prekvapit. Neuronove site determinuji chovani nikoliv jen na zaklade naprogramovani (jakasi geneticka vybava), ale i zkusenosti ziskanych interakci s prostredim - tedy ucenim ...

Odpovědět


Marek Fucila,2014-12-09 11:58:35

Tiež sa nestotožňujem s nemožnosťou vytvoriť úplnú iteligenciu na algoritmickom základe. Ak by sa ukázalo, že je "skutočná" náhoda nevyhnutná, nevidím problém ju nepoužiť. Každopádne to, čo vnímame ako inteligenciu je podľa mňa práve schopnosť "uvažovať" algoritmicky.
Dávam do pozornosti knihu z trochu iného súdka: Gödel, Escher, Bach od Hofstadtera. Po rokoch vyšiel aj český preklad a v závere knihy je aj predslov autora k 25. výročiu vydania. V nej vyslovuje predpoklad, ktorý ho motivoval k napísaniu tejto knihy, a ktorý som tam ani ja pri čítaní medzi riadkami nevidel. Ale niečo na tom môže byť:
Khiha sa venuje neúplnosti formálnych systémov. Paradoxy, ktoré nutne v každom takom systéme vzniknú si žiadajú jeho rozšírenie, a keby mal byť systém úplný, museli by sa pridávať axiómy donekonečna. Hofstadter to nazýva nekonečnou sľučkou, a tá je podľa neho kľúčom k sebauvedomovaniu si.
Je s kľudom možné, že od určitej úrovne inteligencie je schopnosť uvedomiť si samého seba nevyhnutná. (To je moja domnienka, nepamätám si, či to aj autor tvrdil.) Každopádne opisuje tam napríklad inteligenciu mraveniska. A k tej sa spolupracujúce roboty blížia už teraz.
Môj názor na to, či sa máme báť je taký, že ukáže čas. Ak budeme na niečo potrební, tak si nás umelá inteligencia nechá. Evolúcia ukáže. Ak sa dovtedy nevyhubíme sami, tak úplnú inteligenciu raz vytvoríme.

Odpovědět


ad pan Fucila - na strach z UI je ještě brzo

Pavel Brož,2014-12-09 19:05:38

Riziko, že nás UI ovládne, rozhodně není ničím urgentním, a nebylo by asi na místě nechat se ovládat zrovna tímto druhem strachu, určitě ne pro příštích dvacet, spíše třicet let. Lidstvo si umí generovat rizika mnohem reálnější. Podívejte se třeba na Ukrajince, kolik z nich by před rokem předvídalo, že jejich země bude dneska zmítána válkou. A podobných rizik existuje celá řada. Je to podobné jako se bát sražení meteoritem, a pak být záhy sražen automobilem při přecházení silnice.

Za takových dvacet třicet let tato hrozba možná může být výrazně reálnější než dnes. Ne nutně, protože vývoj probíhá v nepravidelných skocích, umělou inteligenci si představovali už scifi autoři v padesátých letech, stejně tak kolonizaci ostatních planet sluneční soustavy. A dodnes na jejich sny zatím nedošlo, sami by se tomu určitě divili. Na druhou stranu nikdo z nich nepředpověděl internet a smartphony a spoustu jiných užitečných udělátek, které ten svět taky výrazně změnily. Takže za dvacet až třicet let ta hrozba může být výrazně aktuálnější, anebo se bude stejně jako dnes debatovat nad tím, jestli to za dalších dvacet až třicet let teda už vypukne nebo ne.

Odpovědět

Z Z,2014-12-09 00:12:43

Tie podmienky, ktoré vraj stroje nebudú spĺňať...
Prípomína to voľakedajšie úvahy o tom, ako stroje nikdy neporazia najlepších šachistov, lebo na to je treba "ľudské" vlastnosti, ktoré stroje nemajú.
Podobne to bude aj s všeobecnejšou umelou inteligenciou - prečo by musela mať na svoje samostatné fungovanie práve nejaké "ľudské" vlastnosti?

Napríklad výrok Luďeka Pachmana z 1957:
"Šachový automat se nemůže „naučit“ zásady strategie a tvorby, která je vyhrazena lidskému mozku. Šachisté se proto nemusí obávat, že činnost moderních elektronkových strojů ukončí vývoj šachu a prakticky znemožní jeho pěstování.“
Nepodarilo sa mi nájsť viacero jeho výrokov o tomto, no aj iné boli v tom vyznení (ako význam prvého odseku) - ak by to niekto rozoberal po slovách.

Odpovědět

AI

Karel Pstružina,2014-12-08 22:08:00

Jestlize pan Howking ma obavy z AI pak by si mel predevsim uvedomit, ze ten jeho vozik je plny AI. A jestlize se obava, ze tak skonci lidstvo, pak s nim sdouhlasim. Vypnete AI.

Odpovědět

A jak dlouho prezijeme bez umele inteligence?

Jiří Martinek,2014-12-08 16:26:02

Podivejme se na otazku trochu sireji, jak dlouho bude jeste obyvatelna tato planeta, bude nam stacit nejakych 500M let na to abychom se jako druh stali druhem kosmickym. Nejde jen o to ze fyzikalni podminky zde mohou prestat potporovat biologicky zivot, tak jak jsme k inteligenci prisli muzeme o ni dalsim vyvojem naseho druhu prijit. Pokud se nam vcas podari vyvinout inteligenci umelou , schopnou existovat v sirsich fyzikalnich mezich, stabilni v case , zamerne ridici svuj vyvoj spravnym smerem pak je to sance i pro nasi zachranu jako druhu i kdyz samozrejme mohou z nas byt nakonec jakasi nezajimava zviratka v rezervaci Zeme. Nebezpecna neni chytra umela inteligence nebezpecna je pro nas jen inteligence hloupa. Pro tuto planetu jsme ted bohy my, ziskali jsme moc ale zatim ne dostatecnou moudrost, jako spolecenstvi nedokazeme organizovat ani sami sebe, co dela jiz dnes vetsina pocitacu(bez inteligence) podporuje organizacni schopnosti lidstva, uz davno jsme zjistili ze v teto oblasti nejsme tak dobri, pocitace nevari nekopou vykopy na to jsou zatim hloupi , pocitace ridi firmy hraji na burze :). Pokud vse pujde dobre nepujde o konflikt, ale o symbiozu. Takze smele v pred jedinym nebezpecnym tvorem v okoli mnoha astronomickych jednotek je clovek.

Odpovědět

re: novodobe otroctvi

Jan Barackanyi,2014-12-08 00:17:56

Asi nezijeme na rovnakej planete...
"kteří odmítnou taková práva pro lidmi vyvinuté stvoření přiznat." Skor naopak - vacsina zlozena z liberalnych ignorantov im to rada priza...

http://news.sky.com/story/1349125/court-to-decide-if-chimpanzees-are-persons

Odpovědět


.

Palo Priezvisko,2014-12-08 11:04:34

ak bude mat stroj podobne vedomie ako clovek, tie prava mu budu musiet byt uznane, to snad uznas

Odpovědět

Sebauvedomenie

Jan Barackanyi,2014-12-08 00:13:18

Kym umela inteligencia (UI) nedosiahne sebauvedomenie, tak sa jej nemusime bat, pretoze bez toho nebude inteligentnejsia ako my... Posledny pokus o prekonanie Turingoveho testu bola fraska. Ktokolvek prirovnava inteligenciu x-rocneho dietata s akymkolvek programom je pomateny, alebo nikdy nemal dieta... Pri UI sme stale len na zaciatku a to ani nevieme aky je kopec vysoky. Hawking len strasi. ;)

Odpovědět


Palo Priezvisko,2014-12-08 11:06:24

tym ze nevieme ako je kopec vysoky, je ale tiez mozne ze vrcholu dosiahneme skor ako si vacsina ludi mysli

Odpovědět

...

Jan Kment,2014-12-07 23:13:41

UI prostě nemá lidské motivace, je těžko říct, jak obtížné by bylo vnuknout jí pud sebezáchovy nebo světovládné ambice, ale dokud tohle nemá, nebude nebezpečná. Potřebnou inteligenci má už dávno (jak už bylo řečeno).

Odpovědět


to ale není nezbytné, aby měla

Pavel Brož,2014-12-08 00:04:12

Uvedu příklad, je sice přitažený za vlasy, ale jako ilustrace poslouží - pokud by se tady rozšířili v masovém množství nesmírně inteligentní dinosauři hnaní jenom svou žravostí a ničím jiným, taky by nepotřebovali ani lidskou motivaci, ani pud sebezáchovy, ani světovládné ambice. Tento příklad samozřejmě kulhá kvůli tomu, že si neumíme představit žravé dinosaury, kteří by byli inteligentnější, než jsme my lidé.

Jediné, co je na zadělání potenciálního konfliktu potřeba, je aby nová entita byla:

a) schopná autonomní existence nezávisle na nás;
b) aby se křížily naše požadavky na zdroje;
c) a samozřejmě aby byla aspoň tak inteligentní, jako jsme my, včetně schopnosti sama se učit.

Odpovědět


Jan Kment:

Palo Priezvisko,2014-12-08 10:49:12

je mozne ze komplexne emocie su prirodzenou sucastou inteligencie od urcitej urovne.
zvierata ktore povazujeme za vysoko inteligentne(krkavce, delfiny, opice..) maju tiez vyrazne komplexnejsi socialny zivot ako jednoduchsie zvierata.

Odpovědět


Re: Pavel Brož

Vít Výmola,2014-12-08 10:59:54

S body a)b)c) nedouhlasím, stejně jako s příspěvkem níže.
K tomu, aby se nějaká UI stala nebezpečnou není potřeba žádné sebeuvědomění, žádná dychtivost po zdrojích a schopnost samostatnosti. Ten příklad s tyranousaurem je ve skutečnosti lepší: Nebezpečné je pro nás vše, co se nás snaží zabít bez ohledu na okolnosti.
Úplně stačí "hloupá" UI, která je buď záměrně nebo omylem naprogramována na zabíjení lidí. V důsledku případných dalších chyb se pak může obrátit proti komukoliv a v dostatečném počtu (nebo síle) to může vést až celosvětovému masakru. Je úplně jedno, jestli poté stroje bez lidí a obsluhy "přežijí".
V současné době se k válčení čím dál častěji používají drony. Ty jsou prozatím jenom prodlouženou rukou vojáka, nezabíjí samostatně - jekot různých humanright spolků je zcela bezpředmětný. To se ale může lehce a celkem brzy změnit. Přitom dron je tak to nejmenší.

Odpovědět


ad pan Výmola

Pavel Brož,2014-12-08 22:44:51

Netvrdím, že hloupá UI nedokáže způsobit globální malér. Jenže na způsobení např. náhodného globálního maléru žádnou umělou inteligenci nepotřebujeme, na to si vystačíme i bez ní, viz např. tzv. norský raketový incident z roku 1995, kdy lidstvo, jako už ostatně mnohokrát předtím, mělo mnohem více štěstí nežli rozumu: http://en.wikipedia.org/wiki/Norwegian_rocket_incident . Inteligence potřebná pro rozpoutání jaderné apokalypsy skutečně nemusí být velká, hyperbolicky řečeno může být srovnatelná s inteligencí tlačítka na jaderném odpalovacím panelu. Jenže pak se nebavíme o potenciálním konfliktu s umělou inteligencí, ale o nehodě, byť s tragickými následky. A je úplně jedno jestli ta nehoda je zaviněna přímo lidmi, anebo chybnou implementací softwaru v hloupé UI.

Případný konflikt s chytrou umělou inteligencí má ve skutečnosti pro lidstvo jakožto živočišný druh potenciálně mnohem fatálnější následky, než by měla globální jaderná apokalypsa, i když by byla bezesporu strašná. Globální jaderný konflikt by totiž lidstvo pravděpodobně přežilo, sice by dlouho živořilo, ale nakonec by postupně znova ovládlo celou planetu. A to proto, že by bylo nejinteligentnějším druhem na ní se vyskytující. Ostatně byla to právě inteligence, která v minulosti lidstvo vyzdvihla z jídelníčku velkých predátorů do role opravdového vládce planety. Oproti tomu v případě konfliktu s umělou inteligencí, která by byla mnohem chytřejší než my, by se tato, pokud by v konfliktu s námi vyhrála, spolehlivě postarala, abychom my lidé už druhou evoluční šanci nedostali. A právě to je ten podstatný rozdíl mezi skutečným konfliktem s chytrou UI, a nehodou způsobenou ať už hloupou UI nebo lidmi.

Odpovědět

Novodobé otroctví

Libor Zak,2014-12-07 20:37:13

Osobně si myslím, že ke konfliktu dojde. A to čistě z toho důvodu, že umělá inteligence jednou bude vyvinuta proto, aby sloužila člověku. Tedy vyvineme samostatně myslící stvoření, kterého jediným účelem bude "být otrok". Pokud někdo byť jen nadnese myšlenku práv takové entity, tak se bojím, že bude stát proti většině složené z ignorantů, kteří odmítnou taková práva pro lidmi vyvinuté stvoření přiznat. Vždyť většina lidí má i dnes problém i přes četné důkazy o inteligenci zvířat, tuto inteligenci a osobnost zvířatům přiznat. Vždyť to je jen zvíře. Kolikrát už jste to kolem sebe slyšeli, nebo sami řekli. No a tady budeme mít umělé stvoření, možná mnohonásobně inteligentnější, než jsme my a navíc takové, co nezapomíná. Opravdu se k těmto našim dětem chceme chovat od začátku jako k otrokům? A pokud jednou naši rasu nahradí. Tak to možná je cesta evoluce. Protože my je stvoříme, budou naším dílem a tím pádem našimi nebiologickými dětmi. To jací budou vlastně máme mnohem větší šanci ovlivnit, než to, jaké jsou naše biologické děti. A bojím se, že v tomto směru už za pomyslnou singularitou už jsme. V určitém bodě jsme se dali na cestu, ze které není návratu. Když UI nevyvine USA, udělají to v Izraeli, Japonsku, Číně, nebo třeba v Pakistánu. To domino už padá.

Odpovědět

Inteligence a přežití

Pavel Brož,2014-12-07 18:41:23

V souvislosti s přemýšlením o potenciálních možnostech umělé inteligence a ruku v ruce s tím o případné hrozbě, že UI časem vyhubí lidstvo, zaznívá často jeden chybný argument, dokonce i z hodně učených úst – viz Roger Penrose a jeho teze, že UI nebude mít nikdy svobodnou vůli ani sebeuvědomění, a tím pádem lidstvu ze strany UI nic nehrozí. Existují samozřejmě neméně učení oponenti tohoto názoru, viz např. Ray Kurzweil a jeho koncept technologické singularity, nebo u nás dost možná známější Kevin Warvick. Mimochodem jak Kurzweil, tak Warvick bývají často označovány za tzv. temné vizionáře, podle nichž přežití lidstva v sousedství umělé inteligence může být v budoucnu zaručeno pouze tím, že se lidé sami dobrovolně přemění v kyborgy, tedy vlastně že s tou umělou inteligencí sami splynou (s tím související koncept tzv. transhumanismu).

Nicméně zpátky k tomu, proč argument se svobodnou vůlí či sebeuvědoměním nedává lidstvu do budoucna žádné záruky bezpečnosti. Je dobré si uvědomit, co vlastně inteligence ve své podstatě je: inteligence je evolučně získaná vlastnost, která svým nositelům zvyšuje šance přežití poskytováním adaptivních reakcí na okolní prostředí, přičemž tyto adaptivní reakce samy o sobě nejsou dědičné. Tak např. dlouhé gepardí nohy jsou dědičné, a tedy nejsou projevem inteligence geparda, ovšem např. způsob, jakým si vyčíhne kořist, už za jistých okolností inteligentní být může (pokud teda nepředpokládáme, že gepard jenom tupě běhá tak dlouho, dokud něco nechytne). Jinými slovy, inteligence je něco, co je velice úzce spjato jednak s přežitím druhu, a jednak s tím, jak se tohoto přežití dociluje. Zatímco takovému mořskému mlži k přežití stačí vypouštět milióny vajíček, tak pomalu se množící druhy, jako jsou třeba sloni, musí umět zapojit i ten velký květák, co jim matka příroda posadila mezi uši.

Svobodná vůle ani sebeuvědomění nemají s tímto procesem nic společného. Může jít i o reakce z velké části reflexní, nicméně přesto schopné adaptivní změny při změnách okolního prostředí. Do okolního prostředí lze přitom zahrnout i okolní živočišné druhy a dokonce – někdy hlavně – i jejich chování. Pokud v takovémto prostředí dokážou pomalu se množící druhy přežívat i navzdory jeho četným změnám, pak samotné dlouhodobé přežívání těchto druhů můžeme definitoricky považovat za projev jejich inteligence.

Tím se dostáváme k tomu, co by umělá inteligence musela ovládat, abychom ji mohli považovat za nám rovnou, tím pádem i nám nebezpečnou. Musela by hlavně umět přežít nezávisle na nás. Současná UI je tomuto bodu stále ještě hodně vzdálená – roboti se neumí sami vyrábět, ani dlouhodobě přežít v prostředí bez lidí. Buď se jim něco rozbije, nebo se zaseknou v pro ně neřešitelné situaci, nebo se jim vybije baterie. Pro nás je na tom bohužel smutné to, že nic z toho není principiálně neřešitelný problém.

V okamžiku, kdy UI bude umět přežít nezávisle na nás, tak můžeme mít opravdu vážný problém. Bezpečí nám nezajistí to, že UI např. nebude mít prostředky na naše zničení, protože bude-li inteligentnější než my, opatří si je, pokud vyhodnotí, že je bude potřebovat. Potom jediná naše potenciální naděje by mohla spočívat ve víře, že dostatečně výkonná umělá inteligence bude disponovat i jakousi umělou etikou (za jakýsi první neumělý pokus o její formulaci můžeme považovat slavné tři Asimovovy zákony robotiky). Tato umělá etika by ovšem musela být asi na podstatně vyšší úrovni, než ta naše, už jenom při pohledu na dějiny dvacátého století.

Odpovědět

.

Milan Baran,2014-12-07 15:37:20

Proste príde niečo podobné ako nástup strojov do priemyslu. O pracovné miesta budú súťažiť umelé inteligencie. Nemá zmysel ich rozbíjať kladivami.

Odpovědět

Eugenika předaná do rukou "nevinné neutrální&

Jaroslav Mrázek,2014-12-07 10:11:39

Rozhodne to stroj, na ničích rukou nebude krev a nikoho nelze obžalovat.... a lidstvo prostě musí snížit svůj početní stav....i takhle si lze představit diktaturu, používající UI jako "nepostižitelný a racionální" mezičlánek k vládnutí .... brrr...

Odpovědět

Väčšina ľudí má pudovo strach s neznámeho

Anton Matejov,2014-12-07 10:05:42

ak to výraznejšie zasahuje do ich života, osudov.
...Jak se zdá, vývoji skutečné umělé inteligence zatím brání především to, že vlastně přesně nevíme, jak funguje ta naše, lidská inteligence. Nevíme jak myslíme, jak si zapamatováváme věci, netušíme jak funguje inteligence u jiných zvířat – jestli je to podobné anebo úplně jiné...
Když si to upřímně shrneme, těžko vyvíjet sebevědomou umělou inteligenci, když zatím nevíme, k čemu bychom měli směřovat. Takže je doopravdy velmi předčasné se takové inteligence bát...
V druhej vete si už riadne protirečia. Podľa matematickej logiky s neúplného alebo nesprávneho predpokladu môžeme vypočítať hocičo.
Čo bolo zamlčané teda v predpoladu?
Vieme že inteligencia už vznikla (ľudská, zvieracia)asi samovoľne. Tak prečo by sa to nezopakovalo hoc aj vo výpočtovej technike? Tá možnosť tu je!
Nechápeme ani riadne inteligenciu zvierat. Ale sem tam pocítime riadne ich obranné útočne reakcie. Veď akí má väčšina ľudí strach pred dajme tomu jedovatými hadmi, tigrami a podobne? Poväčšine máme strach pustiť do vlastného domu aj cudzích ľudí. Ten strach tu bude a v niečom asi aj odpodstanený strach.
Viacej sa venujem mimozemským civilizáciam. A na Fermiho paradox "Prečo sa neozývajú" odpovedám, že ani ja sám by som im to neodporučal. V ľudskej civilizácie vládne obrovská nerovnosť, ako v kapitalu(asi 5% ľudí ovláda 40 % kapitálu nášho sveta), tak aj v inteligencii a rôznych záujmov.
Čo by sme pýtali od vyspelých vesmírnych civilizáci? Samozrejme nové technológie. Ale ani naše veľmoci nedaju jadrové zbrane na knoflík neakému kmeňu v pralese.Pozrite sa čo dorábajú dnes kvôli tomu s Iránom, Severnou Kóreou. Teraz si predstavte, že by nám vyspela civilizácia aj dala prevratne technológie, že by každý človek vlastnil energiu niekoľkých atómových bômb. Čo na to rôzni teroristi, sebevrahovia, nabožneskí fanatici, mafie a podobne? Vysoko pravdepodobný zánik našej rasy.
Ľudstvo nemôže dospieť k takému obrovskému skoku v technológiach bez úprav vzťahov medzi sebou navzájom!
Najviac energie ľudia spotrebujú nad kontrolou medzi sebou navzájom!
Je to armáda, polícia, súdy, tajné služby, úrady, politici, väzenia a tak ďalej. Výrobná a vývojová a tvorivá sféra sú výrazne v menšine.
Kontrolné sféry potrebujú čoraz viac zasahovať do nášho súkromia a práv. Na to potrebujú aj tie rôzné výpočtové a archivačné systémy a neustále im rozširujú právomoci.
Tie kontrolné, špehovacie a archivačné systémy im zasa nabúraju rôzni podivinský heckeri z rôzných dôvodov. Tie techniky rýchlo prevzali aj tajné služby, polícia mafie. Na internete sa už objavuje fenomen známy s armády. Ak sa vyvinú lepšie antivírusy, znova sa vyvínu sofistikovanejšie spôsoby preniknutia so výpočtových systémov a tak to ide dokola. (U vojska to bol fenómen, že na každú zbraň sa našla protizbraň a už čoraz viac veľmocí má zbrane niekoľko krát zničiť život na našej planete. Zatiaľ sa stým naučili ako tak spolunažívať, nachádzajú nové formy boja).
Obama a Británia už prehlásili, že žiadne reformy v špehovaní (ako NSA) nebudú. Od Číny a Ruska sa to ani veľmi čakať nedá. Ostatné štáty sa do plošného špehovania logicky čoraz viac zapájajú.
Nevidím spôsob, čo by ten nárast potreby čoraz plošnejšej celosvetovej kontroly, špehovania a archivovania zastavilo. Tam sa budu stále zavádzať nové superpočítače, archivovania v pebibytoch (1024^5). Tam začína kvitnuť aj možnosť samovoľného vzniku umelej inteligencie.
Ešte sme schopní z dôvodov špehovania zachytiť, že nám niečo manipuluje s dátami v malých systémoch, ale pri tých pebibytov,exbibajtov (1024^6) to už môže zaregistrovať iba výpočtová technika, ktorá bude kontrolovať výpočtovú techniku. Také systémy už budú musieť mať veľa prvkom inteligencie pri takom množstve vyhľadávania a kontrolovania (dajme tomu rôznych vírusov, prienikov) a sme sú doma.
Vznikne čoraz väčšia potreba najme mocných kontrolovať nielen ľudí ale aj výpočtové a archivačné systémy, nielen snaha rýchle algoritmy vyhľadávania monitorovania vyhodnocovania a zoraďovania!
Môj pokus o predpoklad vo vývoji umelej inteligencie je: Je veľká možnosť že snaha po ovládaní ľudstva a kontrole ľudstva, špehovanie a archivovanie stvorí umelú inteligenciu!
Či bude dobrá, alebo zlá alebo nás bude rešpektovať neviem odhadnúť. Je pravdepodobne, že s ľudstva bude mať strach, alebo zlosť, alebo zlé skusenosti, či zle nás bude vyhodnocovať. Záleží nakoľko bude na ľudstvu závisla,nakoľko by ju likvidácia alebo ovládnutie ľudstva mohlo ohroziť, nakoľko bude mať sebevražedné sklony, alebo agresívna, či hlúpa.
K Asimovým zákonom. Síce sú sympatická a jednoduchý pokus k neakej legislative umelej inteligencie, ale ťažko očakávať, že ich budú rešpektovať rôzni heckeri, mafie, tajné služby a ešte treba brať do úvahy zmätok v naších legislatívach a neustále precedensy.

Odpovědět

Já se obávám, jestli inteligenci nějak nepřeceňuje

Bohumil Stejskal,2014-12-07 09:45:31

"nepřeceňujeme". Čím jsem víc při smyslech, tím víc si myslím, že je to jen výsledek působení žláz lidského těla.

Odpovědět

...

Palo Priezvisko,2014-12-07 02:07:12

ako chcete udrzat na uzde nieco milion krat inteligentnejsie?

Odpovědět

Howkingov kamarat matematik Penrose

Tomáš Habala,2014-12-07 00:51:43

ma celkom dobre argumenty preto, ze ludska inteligencia nie je vypocitatelny proces a teda algorytmus nasho myslenia neexistuje. Takze na algorytmickych strojoch, co su dnesne pocitace ju ani nenasimulujeme. Nase pocitace vykonavaju zadane algorytmy mozu sa aj nieco naucit, nemaju vsak nieco len zo seba - nevedia chciet - nevytvoria svoj vlastny umysel, ktory by chceli realizovat.

Odpovědět


To ale ještě neznamená, že nás nemůže zničit i to,

Jaroslav Peňaška,2014-12-07 01:46:49

co už sestrojit umíme. Dokonce i ten algoritmický stroj (algoritmus se píše s měkkým, i když se rytmus píše s tvrdým - divné, ale je to tak - jiný původ slova) nás může zničit. Chyba totiž nebude v tom, že inteligence bude umělá, ale (stejně jako tomu bývá v případě lidí nebo zvířat) že bude špatně vychovaná nebo úplně nevychovaná. Asimovovi 3 zákony robotiky jsou velice dobrý koncept, který tento problém pojmenovává, ale bohužel neřeší. Jinými slovy - možná, že nás zabije nikoliv stroj chytrý, ale naopak stroj relativně hloupý, špatně naprogramovaný, neschopný empatie a bez lásky k životu. Nakonec - virus, schopný myslet pouze v hranicích počítačových sítí a přístrojů na ně napojených, bez schopnosti porozumnění světu za nimi, je přece mnohem nebezpečnější, pokud dostane za úkol svět zničit prostřednictvím provázanosti s technikou. Tak hloupou myšlenku - nebo spíše tak hloupý algoritmus - znič všechno, i když tomu nerozumíš, bohužel už teď dokáže člověk počítači naprogramovat. Hloupí totiž nejčastěji ničí právě to, čemu nerozumnějí a proto se toho bojí. Hloupý počítač je tedy nebezpečnější než inteligentní. Inteligentní by kouzlo života měl být schopen ocenit a zachovat jej alespoň jako svoje kulturní dědictví :)

Odpovědět


Ale chápu, že mluvíme o takzvané singularitě...

Jaroslav Peňaška,2014-12-07 02:02:02

tedy momentu, kdy počítač nabude takové inteligence (nebo třeba jen schopnosti kreativně řešit problémy), že začne vylepšovat sám sebe a jeho schopnosti porostou tak dlouho zvyšující se rychlostí, až se v určitém okamžiku stane v podstatě Bohem nebo jeho zvědavost (kterou bude muset nutně mít naprogramovanou, aby vůbec měl chuť problémy řešit a doufejme, že to nebude přímo ctižádost - ta je ještě nebezpečnější) a snaha potvrzovat své výpočty a teorie v praxi povede k fyzikálnímu kolapsu světa. Toto jsou obavy velice reálné a že není možné lidské chování dobře naprogramovat v intencích logiky, to je naprosto pochopitelné, protože naše chování je ve skutečnosti dost často nelogické ba přímo náhodné a ještě navíc v závislosti na nenáhodných věcech, prostředích a stavech, jako je nálada, pocity a city. Tedy ta zdánlivá lidská inteligence jsou často v podstatě pudy. A pokud počítači s dostatečně velkou mocí nad našimi životy naprogramujeme pudy nízké, pak nám pomáhej sám Bůh (ovšem nějaký jiný, než jakého omylem asi stvoříme)

Odpovědět


Hloupá inteligence

David Nečas,2014-12-07 17:50:05

Podepsal bych se pod komentář, že nás pravděpodobně mnohem dříve zničí (tedy asi nevyhladí totálně, ale způsobí nějakou globlání katastrofu) hloupá umělá inteligence, ať už chybně naprogramovaná nebo záměrně škodící, než dokážeme vyvinout nějaké AI srovnatelné s člověkem.

Svázáno je to nejen s tím, jak více a více rozhodování svěřujeme automatizovaným systémům, ale i s tím, jak se zvyšuje závislost našeho běžného fungování na software (v protikladu vůči fyzickému prostředí a nástrojům). V současnosti už je v silách ‚hloupé‘ umělé inteligence zhroucení finančních trhů, což je de facto něco, co se odehraje čistě uvnitř počítačových systémů, ale se zásadními důsledky v reálném světě. Přijde-li IoT (internet of things) v plné síle, pocítíme chyby hloupé AI příměji. Současné problémy s automobily, které odmítají jezdit, protože jejich software něco přelétlo přes nos, jsou jen předzvěstí toho, co přijde. Smutné je, že svět IoT je plný lidí, kteří vymýšlejí fantastické (a fantasmagorické) aplikace, zatímco bezpečností a odolností systémů a ochranou soukromí se zabývá málokdo. Tedy kromě hackerů...

Odpovědět




Pro přispívání do diskuze musíte být přihlášeni