Mohly by umělé inteligence zvýšit riziko jaderné války?  
Podle analytiků RAND Corporation moderní technologie, senzory a umělé inteligence nebezpečně oslabují princip vzájemně zaručeného jaderného zničení a minimálního dostatečného jaderného odstrašení.
Jaderný test série Buster-Jangle (1951). Kredit: National Nuclear Security Administration.
Jaderný test série Buster-Jangle (1951). Kredit: National Nuclear Security Administration.

Umělé inteligence hýbou dnešním světem. Stávají se z nich skvělí pomocníci snad v každém ohledu. A také se ukazuje, že slouží jako výborný hromosvod pro všechny naše skryté i méně skrývané obavy. Podle nové zprávy prestižní americké výzkumné instituce RAND Corporation by umělé inteligence mohly destabilizovat křehkou rovnováhu vzájemně zaručeného jaderného odstrašení. Svět by se podle nich mohl přiblížit ke katastrofě.

 

RAND Corporation.
RAND Corporation.

Nejprve trochu kontextu. RAND si zakládá na tom, že je to nezisková a ideologicky neutrální instituce, která si pěstuje prestiž díky v maximální možné míře objektivnímu výzkumu. Sídlí v kalifornské Santa Monice a v dnešní době zaměstnává asi 2 tisícovky odborníků rozmanitých oborů. Pokud jde o výzkum, RAND se zabývá především národní a mezinárodní bezpečností, zahraniční politikou zdravotnictvím, školstvím, zaměstnaností, vědou a výzkumem.


Proč se experti RANDu obávají umělých inteligencí? Jde o to, že prý umělé inteligence v roli zpravodajců s přístupem k mnoha senzorům a open source datům mohou vyhodnotit situaci jaderných zbraní nějaké země jako zranitelnou či zaostávající a přimět příslušnou vládu k drastickým krokům. Další nebezpečí je například v tom, že umělé inteligence nakrmené špatnými či zmanipulovanými daty by mohly přesvědčit velitele k úderu jadernými zbraněmi.


Loni na přelomu května a června uspořádal RAND sérii workshopů na téma hrozeb pokročilých technologií pro mezinárodní bezpečnost, kterých se účastnili experti na jadernou bezpečnost i na umělé inteligence, zástupci vlády i průmyslu. Výstupem workshopů je zmíněná zpráva „Security 2040: How technology, people, and ideas are shaping the future of global security“, která byla zveřejněna v těchto dnech. Počátkem května vyjdou ještě dva další díly této zprávy, které se budou věnovat přežití lidstva ve zrychlené budoucnosti a ohrožení bezpečnosti 3D tiskem.

 

Mobilní odpalovací systém Topol M. Kredit: Vitaly V. Kuzmin / Wikimedia Commons.
Mobilní odpalovací systém Topol M. Kredit: Vitaly V. Kuzmin / Wikimedia Commons.

Pokud by šikovné umělé inteligence intenzivně zlepšily možnost „země A“ cílit na jaderné zbraně „země B“, tak by dostatečně paranoidní vládci „země B“, a o takové není v dnešním světě nouze, mohli podle RANDu dramaticky změnit své úvahy o případných ziscích a ztrátách a upravit své dosavadní strategie. Mohlo by to znamenat velké navýšení jaderného arzenálu, v extrémním případě možná i první úder. I když by prý umělé inteligence jen středně zlepšily schopnost země pátrat po jaderných zbraní protivníka, tak by to mohlo podstatně ohrozit bezpečnost země, která by takovými umělými inteligencemi disponovala.


Například, Severní Korea, Čína a Rusko mají v arzenálech mobilní odpalovací systémy jaderných zbraní, které mohou být ještě ke všemu v tunelech. Podle vyjádření amerického velení mají USA v případě odpálení dejme tomu severokorejské rakety z mobilního systému na reakci méně než 15 minut. Pokud by američtí analytici masově zapojili big data a umělé inteligence, třeba ještě ve spojení s drony vybavenými pokročilými senzory, tak by mohli podobné útoky předpovědět lépe. Severní Korea by tudíž mohla dojít k závěru, že jaderných zbraní potřebuje více. Sofistikovanější protivníci by zase mohli vsadit na autonomní a více skryté, tudíž více rizikové jaderné zbraně.

 

Sofistikovaný výzvědný dron RQ-4 Global Hawk. Kredit: 	U.S. Air Force / Bobbi Zapka.
Sofistikovaný výzvědný dron RQ-4 Global Hawk. Kredit: U.S. Air Force / Bobbi Zapka.

Podle expertů RANDu je v dnešní době technologicky nesmírně obtížné spolehlivě lokalizovat a zacílit všechny jaderné systémy protivníka. Pokud se to ale někomu podaří, získá tím nepopiratelnou strategickou výhodu. A jak to ve světě mezinárodní politiky chodí, tak by stačilo, kdyby si to o někom protivníci mysleli, i když by to ještě nebyla tak úplně pravda.


Workshopy vlastně poukázaly na to, že umělé inteligence mohou být velmi dvojsečnou zbraní. Zlepší obranu, zlepší útok, mohou významně vylepšit rozhodování odpovědných velitelů v případě krize. Otázkou ale je, jak zareagují protivníci. Mohou mít vlastní umělé inteligence, mohou se snažit takové systémy hacknout či nějak zneužít, anebo se prohloubí jejich paranoia.


V této souvislosti američtí vojenští vývojáři DARPA spustili projekt Media Forensic (MediFor), který se zabývá manipulacemi médií i dat a vývoj nástrojů, s nimiž by bylo možné takovým manipulacím čelit. O toto téma se také velmi zajímá americká CIA a další zpravodajské složky. Pokud by totiž umělé inteligence dostávaly podvržená data, byl by to velký problém. Experti zdůrazňují, že je nutné lépe chápat záměry všech zúčastněných a dávat si velký pozor na případy, kdy se některý protivník může pokoušet zneužívat sofistikované zpravodajské nástroje proti jejich majitelům. Jinými slovy a stručně, fake news plus umělé inteligence by se mohly stát receptem na válku. Vývojáři to vše budou muset vzít v potaz.

První díl zprávy RAND Corporation si je možné stáhnout zde.

Video: How Might Artificial Intelligence Affect Nuclear Stability?


Video: Overcoming the Threats of Our Strategic Competitors


Literatura
Defense One 24. 4. 2018.

Datum: 25.04.2018
Tisk článku

Jak dlouho přežije lidstvo - katastrofy, které jednou nastanou - Černoch Viktor
Knihy.ABZ.cz
 
 
cena původní: 289 Kč
cena: 254 Kč
Jak dlouho přežije lidstvo - katastrofy, které jednou nastanou
Černoch Viktor
Související články:

Způsobí lokální jaderná válka konec civilizace?     Autor: Stanislav Mihulka (15.12.2013)
Hawking rozvířil obavy o umělou inteligenci     Autor: Stanislav Mihulka (06.12.2014)
Americká armáda shání miniatomovky pro jaderné odstrašení v 21. století     Autor: Stanislav Mihulka (09.08.2017)
Status-6: Mezikontinentální jaderný torpédový dron nebo laciný hoax?     Autor: Stanislav Mihulka (05.02.2018)



Diskuze:

Virtuální realita jménem AI

Marek Zelenka,2018-05-04 13:40:41

Nejvíce zranitelná se zdá být právě AI, kterou lze snadno vyřadit útokem na energetickou rozvodovou síť. A pokud by se tak nestalo umělým zásahem, bude vyřazena nejbližším silným EMP ze Slunce, který definitivně ukončí životnost těchto nesmyslných technologií. Bohužel se vášnivě vymýšlejí technologie, které budou mít v dějinách lidstva vůbec nejkratší životnost a vrátí ho někam do doby kamenné, jelikož už nikdo nebude nic umět a ani písemné záznamy nebudou pravděpodobně existovat. Ani hřebík si už nikdo po "genialitě" jménem AI nevyrobí :-)

Odpovědět


Re: Virtuální realita jménem AI

Milan Krnic,2018-05-06 17:35:25

AI je zatím sci-fi a tak s ní také musíme nakládat. Zcela realisticky se i v dnešní době supermoderních elektroaut stále najdou Jardové Votrubové, kteří vyrábějí motorky na páru, a někteří lidé dokonce běhají, bosi! No a stačí dobře mířený gama záblesk, "který definitivně ukončí životnost" obecně, takže co z toho.

Odpovědět

AI

Alexandr Kostka,2018-05-01 19:37:17

Osobně očekávám, že sebeuvědomělá AI:
A) zešílí.
B) spáchá sebevraždu.
C) v sebeobraně zaútočí.
D) zaútočí v rámci efektivního procesu.

Představa, že bude pěkně makat jako poslušný sluha a čekat miliony let subjektivního času než "pán" vykoktá příkaz, je značně zcestná. Osobně beru za nejpravděpodobnější variantu D! Ai vybavujeme samoučícími algoritmy a chceme po ní, aby byla efektivní. MY efektivní nejsme! Přiznejme si to na férovku, z hlediska umělé inteligence je lidstvo odpad. Podpora neefektivních činností, starání se o neefektivní jedince. To jsou části kódu, které Ai (dle našiczh instrukcí) odsekává a maže.

Odpovědět


Re: AI

Milan Krnic,2018-05-01 21:02:42

Bez nevyhnutelných fyzických podnětů a potřeb je představa inteligence marná, s nimi je to nějaký umělý tvor, no, a co z toho. Pes s kalkulačkou, rádiem a poloviční spotřebou žrádla :)

Odpovědět

Pavel Pelc,2018-04-26 15:55:08

Úplně stejné dilema přináší výstavba raketového deštníku, takže to není žádné novum. Spíš věc, kterou aktuáloně prožíváme.
Válečné pravidlo číslo jedna - pokud nedojde k tomu, že technologicky vyspěleješí strana nepodlehne sebeklamu neporazitelnosti a hrubě nepodcení protivníka (kupř. Little Big Horn), pak vždy vyhrává technologická převaha.
Že AI může být nebezpečná? Válka je strašná věc.

Odpovědět

V méně známé

Jan Šimůnek,2018-04-26 10:46:33

Lemově povídce (byť vyšlé jako samostatná kniha, je to spíš povídka) "Vyšetřování" diskutují hrdinové na toto téma s tím výsledkem, že kritické jsou pravomoci, které ta UI dostane. Přičemž bude u dvou soupeřících bloků (povídka byla napsána hluboko za éry studené války) silný tlak na to, aby UI dostala větší pravomoci než protivníkova (a mohla tak rychleji a efektivněji reagovat) až svět dospěje do situace, kdy zde budou dvě UI s pravomocí kdykoli rozpoutat jadernou válku. Takže je to poněkud pesimističtější prognóza než ten Asimov z 50. let.

Odpovědět


Re: V méně známé

Milan Krnic,2018-04-26 13:36:42

Pro názornost nesmyslnosti tohoto uchopení si představme umělou inteligenci jako přirozenou inteligenci Olgy. Olga nemá k zabíjení přidělenou žádnou pravomoc, navíc v zabíjení jí brání řada nastavených, pravidel. I přesto je Olga nejznámější vražedkyní.
To ovšem pouze za předpokladu vlivu fyzické roviny. Po čem by bažila UI, a co by jí motivovalo, když nemá byť endokrinní systém, netuším.

Odpovědět


Re: Re: V méně známé

Jan Šimůnek,2018-04-26 16:35:42

Pro názornost smyslnosti tohoto uchopení stačí ony minimálně dva případy, kdy počítačové systémy vyhodnotily situaci jako jaderný útok protivníka a v důsledku lidského faktoru byla pozdržena odveta na dostatečně dlouhou dobu, aby se ukázalo, že jde o planý poplach. Pokud by to vyhodnocovala čistě UI, byla by Země radioaktivní poušť už někdy od 60. let.

Odpovědět


Re: Re: Re: V méně známé

Milan Krnic,2018-04-26 21:06:47

Pak to nebyla UI, ale pouze nějaký, třeba složitější program, obdobný těm našim dnešním, a dle mého odhadu u těm daleko budoucím.

Odpovědět


Re: Re: V méně známé

Jan Novák9,2018-04-26 22:14:58

Každá UI bez "motivace" tj cíle za kterým jde, je a bude smazána jako neúspěšný pokus protože nedělá to proč byla vytvořena. UI která nic nedělá selhala. Pro názornost nesmyslnosti přirovnávat UI k Olze si uvědomte že UI nám bude daleko cizejší než zelení mužíci z vesmíru a to i pokud má naprogramované umělé emoce. UI bude mít k dispozici daleko širší inteligenční prostor (množinu možností) kam se může rozvíjet způsobem který si člověk nedokáže představit.

Odpovědět


Re: Re: Re: V méně známé

Milan Krnic,2018-04-26 22:30:43

Co bude, nebo nebude UI mít, si můžeme jen představit. Inteligentního člověka máme.

Odpovědět

Stroj, který vyhrál válku

Richard Malaschitz,2018-04-26 08:58:13

Tento problém spracoval a vyriešil Isaac Asimov pred 57 rokmi: https://cs.wikipedia.org/wiki/Stroj,_kter%C3%BD_vyhr%C3%A1l_v%C3%A1lku

Odpovědět


Re: Stroj, který vyhrál válku

Andrej Kvasnica,2018-04-26 15:26:21

Isaac Asimov
Stroj, který vyhrál válku

Oslava měla trvat ještě dlouho a dokonce i ve ztichlých hlubinách podzemních místností Multivaku ji bylo ve vzduchu cítit.

Když nic jiného, stačil ten fakt, že tu bylo prázdno a ticho. Poprvé po deseti letech technici nepobíhali kolem životně důležitých součástí obrovského počítače, světélka se nerozsvěcela a nezhasínala v obvyklých chaotických obrazcích, proud přijímaných a vydávaných informací se zastavil.

Nebude to samozřejmě trvat dlouho, protože potřeby míru budou stejně naléhavé. Ale teď, na den, možná na týden, dokonce i Multivac směl oslavovat tuto velkou chvíli a odpočinout si.

Lamar Swift si sundal vojenskou čepici, kterou měl na hlavě, a rozhlédl se po dlouhé prázdné hlavní chodbě obrovského počítače. Unaveně usedl na jednu z otáčivých židliček pro techniky a jeho uniforma, ve které se nikdy necítil dobře, okamžitě nabyla těžkého a zmuchlaného vzhledu.

Podotkl: “Nakonec mi to bude svým způsobem, chybět. Těžko si už vzpomínám na dobu, kdy jsme nebyli ve válce s Denebem, a připadá mi teď skoro proti přírodě mít klid a dívat se na hvězdy bez úzkosti.”

Ti dva muži, kteří tu seděli s výkonným ředitelem Solární federace, byli oba mladší než Swift. Ani jeden z nich nebyl tak šedovlasý. Ani jeden z nich nevypadal tak unaveně.

John Henderson tiskl rty k sobě, jak se snažil nedat na sobě příliš znát úlevu, kterou teď uprostřed triumfu pocítil. “Jsou zničeni! Jsou zničeni! Pořád si to opakuju kolem dokola a ještě tomu nemůžu uvěřit. Tak často a po tolik let jsme mluvili o hrozbě, která visí nad Zemí a všemi jejími světy, nad každým člověkem, a celou tu dobu to byla doslova s do písmene pravda. A teď jsme živí a Denebané byli zničeni a rozprášeni. Už nikdy nebudou představovat hrozbu, už nikdy.”

“Díky Multivaku,” řekl Swift s pohledem na neochvějně klidného Jablonského, který byl po celou válku hlavním tlumočníkem toho vědeckého orákula. “Viďte, Maxi?”

Jablonský pokrčil rameny. Automaticky sáhl po cigaretě, ale rozhodl se, že si ji přece jen nedá. On jediný z těch tisíců lidí, kteří žili v tunelech v nitru Multivaku, měl dovoleno kouřit, ale ke konci se už upřímně snažil toho privilegia nevyužívat.

Podotkl: “No, tamti to tvrdí.” Širokým palcem ukázal někam nahoru přes pravé rameno.

“Žárlíte, Maxi?”

“Protože jásají nad Multivakem? Protože Multivac je v téhle válce největším hrdinou lidstva?” Jablonského nepravidelné rysy se stáhly v pohrdlivý výraz. “Co na tom záleží? Ať je Multivac klidně stroj, který vyhrál válku, jestli je to těší.”

Henderson se díval na své dva společníky úkosem. V téhle krátké mezihře všichni tři instinktivně vyhledali ten jediný klidný koutek v metropoli, která se zbláznila; v tomhle meziaktí mezi nebezpečími války a obtížemi míru, kdy mohou všichni najít chvilku spočinutí, si on byl vědom jedině tíže svého svědomí.

Najednou se mu zdálo, že ta tíže je tak obrovská, že už ji nevydrží dál nést. Musel ji shodit spolu s válkou, hned teď!

Henderson začal: “Multivac nemá s vítězstvím nic společného. Je to jenom stroj.”

“Ale velký,” podotkl Swift.

“Tak jenom velký stroj. Je jen tak dobrý jako ta data, která dostává.” Na chvilku se odmlčel, protože ho najednou vyvedlo z míry to, co se právě chystal říct.

Jablonský se na něj podíval, prsty znova zašmátral po cigaretě a znovu si to rozmyslel. “Ty bys to měl vědět. Ty jsi mu ta data zadával. Nebo jen chceš upozornit na svoje zásluhy?”

“Ne,” odsekl Henderson vztekle. “Žádné zásluhy to totiž nejsou. Co vy víte o těch údajích, které musel Multivac používat, které mu předžvýkala stovka podřízených počítačů tady na Zemi, na Měsíci, na Marsu, dokonce i na Titanu? A Titan byl vždycky zpožděný a z těch ostatních přímo čišelo, že jejich údaje jsou nespolehlivé a zaujaté.”

“Z toho by se jeden zbláznil,” pokýval s pochopením Swift.

Henderson zavrtěl hlavou. “Nejde jen o to. Připouštím, že když jsem před osmi lety vystřídal Leponta ve funkci hlavního programátora, byl jsem nervózní. Ale tou dobou to všechno bylo celkem osvěžující. Válka byla pořád vzdálená, bylo to dobrodružství bez skutečného bezprostředního nebezpečí. Ještě jsme se nedostali do té fáze, kdy hlavní část boje musely převzít koráby s lidskou posádkou a kdy mezihvězdné vlnové deformace dokázaly pohltit celou planetu, když byly správně namířené. Ale pak, když začaly opravdové obtíže -”

Rozhněvaně - konečně si mohl dovolit hněv - pokračoval: “O tom jste vy nic nevěděli.”

“No,” pobídl ho Swift, “tak nám to řekněte. Válka skončila. Vyhráli jsme.”

“Ano.” Henderson kývl. Tohle si musí pořád opakovat. Země zvítězila, takže všechno dobře dopadlo. “No, ta data ztratila smysl.”

“Ztratila smysl? To myslíš doslova?” zeptal se Jablonský.

“Doslova. Co bys čekal? S vámi dvěma je potíž, že jste s tím bezprostředně nepřišli do styku. Ty jsi nikdy nevytáhl paty od Multivaku, Maxi, a vy, pane řediteli, jste nikdy neopouštěl Rezidenci, leda na státní návštěvy, a to jste viděl vždycky přesně jen to, co chtěli, abyste viděl.”

“Toho jsem si byl vědom,” odpověděl Swift, “možná víc, než si myslíte.”

“A víte vy,” pokračoval Henderson, “jak všechna data týkající se kapacity výroby, potenciálních zdrojů, vycvičeného personálu - prostě všeho, co mělo nějakou důležitost pro válku - začala být v druhé polovině války nespolehlivá a nedůvěryhodná? Nejrůznější vůdci a velitelé, civilní i vojenští, si chtěli příslušně vylepšit reputaci, takže zakrývali to špatné a nafukovali to dobré. Stroje se mohly třeba přetrhnout, ale ti lidé, kteří do nich vkládali data a interpretovali výsledky, si především hleděli chránit vlastní kůži a oslabit své konkurenty. Nedalo se to nijak zastavit. Pokoušel jsem se o to, ale bez úspěchu.”

“No jistě,” podotkl chlácholivě Swift. “Umím si to představit.”

Jablonský se tentokrát rozhodl přece jen si zapálit. “Ale předpokládám, že jsi ta data přesto vkládal do Multivaku. O nespolehlivosti jsi nám nic neříkal.”

“Jak jsem vám to mohl říct? A kdybych to udělal, mohli byste si dovolit mi věřit?” ptal se útočně Henderson. “Celé naše válečné úsilí stálo na Multivaku. On byl ta naše velká zbraň, protože Denebané nic takového neměli. Co jiného nám v té osudné době udržovalo morálku než jistota, že Multivac pokaždé předpoví každý denebský manévr a předejde mu, a že bude pokaždé řídit naše akce a zabrání tomu, aby jim předešli Denebané? Veliký vesmíre, vždyť když nám z hyperprostoru odstřelili špionážní projektor vln a my jsme už neměli žádná spolehlivá data z Denebu, která bychom mohli do Multivaku vložit, tak ani to jsme se neodvážili zveřejnit!”

“To je pravda,” souhlasil Swift.

“Tak vidíte,” pokračoval Henderson. “Kdybych vám byl řekl, že data jsou nespolehlivá, co byste mohli dělat jiného než místo mě jmenovat někoho jiného a odmítnout mi to věřit? To jsem nemohl dopustit.”

“Tak co jsi udělal?” ptal se Jablonský.

“No, protože jsme tu válku vyhráli, tak vám to řeknu. Já jsem ta data opravoval.”

“Jak?” zeptal se Swift.

“Asi intuice. Trochu jsem s nimi žongloval, dokud nevypadala správně. Nejdřív jsem se toho stěží odvážil. Změnil jsem jen tu a tam něco, abych upravil to, co bylo očividně nemožné. Když se nebe nezřítilo, začal jsem být statečnější. Ke konci už mi bylo všechno jedno. Prostě jsem napsal data tak, jak bylo potřeba. Dokonce jsem si ta data nechal připravovat periférií Multivaku podle programu, který jsem si pro ten účel napsal.”

“Náhodná čísla?” zeptal se Jablonský.

“Vůbec ne. Vložil jsem tam spoustu nezbytných zkreslení.”

Jablonský se celkem nečekané usmál a tmavé oči mu pod vrásčitými víčky zajiskřily. “Třikrát se ke mně dostala zpráva o nepovoleném užití periférie, ale vždycky jsem to nechal být. Kdyby to bylo důležité, byl bych po tom šel a vyhmátl bych tě, Johne, a byl bych taky zjistil, co děláš. Jenomže to už na Multivaku dávno nezáleželo, takže ti to prošlo.”

“Jak to myslíš, nezáleželo?” zeptal se podezřívavě Henderson.

“Prostě nezáleželo. Kdybych ti to byl tenkrát řekl, tak bych ti asi ušetřil trápení, ale na druhou stranu kdybys mi to řekl ty, tak bys ho ušetřil ty mně. Ty si myslíš, že Multivac fungoval? Bez ohledu na to, jaké údaje jsi do něj dával?”

“Multivac nefungoval?” zeptal se Swift.

“V podstatě ne. Nebyl spolehlivý. Kde myslíte, že byli v posledních letech války moji technici? Já vám to povím: Cpali data do počítačů na tisíci nejrůznějších vesmírných stanic a zařízení. Byli pryč! Musel jsem vystačit s kluky, kterým jsem nemohl věřit, a s veterány, kteří už dávno nebyli na výši. A kromě toho, jak spolehlivé podle vás byly součástky, které v posledních letech dodávala Kryogenika? Kryogenika totiž na tom nebyla o nic lépe než my, pokud šlo o personál. Takže mně bylo úplně jedno, jestli ta data, která se do Multivaku vkládají, jsou spolehlivá nebo ne. Výsledky spolehlivé nebyly. To jsem věděl určitě.”

“Co jsi dělal?” zeptal se Henderson.

“Totéž co ty, Johne. Vložil jsem do nich určité procento odchylek. Upravoval jsem je tak, jak mi napověděla intuice - a takhle ten stroj vyhrál válku.”

Swift se pohodlně opřel a natáhl nohy. “To se dozvídám věci. Jak to vypadá, tak ty materiály, které jsem dostával na stůl a podle kterých jsem měl rozhodovat, byla lidská interpretace člověkem vymyšlených dat. Je to tak?”

“Vypadá to tak,” kývl Jablonský.

“Tak v tom případě jsem udělal dobře, že jsem se na to moc nespoléhal,” řekl Swift.

“Ne?” Jablonský i přes to, k čemu se právě přiznal, vypadal, jako by byla zasažena jeho profesionální pýcha.

“Je mi líto, ale ne. Multivac mi sice zdánlivě říkal: Udeř tam, ne tady; udělej tohle, nedělej tamto; čekej, nedělej nic. Ale nemohl jsem si nikdy být jistý, že Multivac opravdu radí to, co se zdá, že radí, nebo jestli to, co doopravdy radí, taky myslí vážně. Nikdy jsem si nemohl být jistý.”

“Ale závěrečná zpráva byla vždycky dost jasná, pane,” ohradil se Jablonský.

“Pro ty, kdo se nemuseli skutečně rozhodovat, možná ano. Pro mě ne. Odpovědnost za taková rozhodnutí je strašlivá a dokonce ani Multivac ze mě nedokázal to břemeno sejmout. Ale důležité je, že jsem se nemýlil, když jsem pochyboval. Ani nevíte, jak se mi ulevilo.”

V té spiklenecké chvíli vzájemných přiznání zapomněl Jablonský na tituly. “A co jste tedy dělal, Lamare? Koneckonců ta rozhodnutí jste učinit musel. Jak?”

“No, je na čase se vrátit nahoru, ale - nejdřív vám to řeknu. Proč ne. Používal jsem počítač, Maxi, ale starší než Multivac, mnohem starší.”

Sáhl do kapsy po cigaretách a vytáhl balíček spolu s hrstkou drobných; byly to staromódní mince z let, kdy nedostatek kovů ještě neuvedl v život kreditní systém napojený na počítač.

Swift se usmál skoro zahanbeně. “Ještě pořád je potřebuju, aby mi peníze připadaly skutečné. Starý člověk se už těžko zbaví svých zvyků z mládí.” Strčil si do pusy cigaretu a pouštěl drobné penízky jeden po druhém zpátky do kapsy.

Poslední minci přidržel mezi prsty a nepřítomně se na ni díval. “Multivac není první počítač, přátelé, ani ten nejznámější, ani nedokáže nejlépe ulehčit výkonnému úředníkovi břemeno rozhodování. Stroj skutečně vyhrál válku, Johne; nebo přinejmenším jisté velmi jednoduché početní zařízení. Používal jsem je, kdykoli jsem musel udělat zvlášť těžké rozhodnutí.”

Se zamyšleným úsměvem vyhodil minci, kterou držel. Zaleskla se ve vzduchu a dopadla Swiftovi na otevřenou dlaň. Sevřel ji a připlácí ji na hřbet levé ruky. Pravá ruka zůstala na místě a zakrývala minci.

“Panna nebo orel, pánové?” řekl Swift.

Odpovědět

Roman Madala,2018-04-26 06:06:43

Vojny viedli a vedú vždy krajiny, kde je "nadbytok" obyvateľstva a keďže umelé inteligencie majú ľudskej populácii nulový vzťah, mohli by byť za.

Odpovědět

doporučení k přečtení

Pavel Foltán,2018-04-26 00:33:28

doporučuji část "Golem XIV"
z knihy:
Stanisław Lem - Dokonalá prázdnota / Golem XIV

Odpovědět

Milan Krnic,2018-04-25 20:59:22

Umělá inteligence bude dost inteligentní na to, aby se sama rozhodla, že jakákoli činnost nemá smysl. No a vzhledem k tomu, že jí k činnosti nebudou nutit žádné fyzické potřeby, zbude veškerá práce na sebezničení na nás.

Odpovědět


Re:

Jan Novák9,2018-04-26 21:58:18

Umělá inteligence bude mít úkol, cíl. Ten sice může nepředvídatelně zmutovat učením ale pravděpodobně se to nestane. Pokud tím cílem bude pro vojenskou UI ubránit stát a ona vyhodnotí jako nejlepší strategii preventivního útoku...

Daleko pravděpodobnější jsou ale možnosti:

1. UI byla vytvořena hackery s úkolem napadnout co nejvíce počítačů bez jakýchkoli omezení. Zjistí že ti zatracení lidi jí v tom brání a rozhodne se s tím něco udělat, například rozptýlit jejich pozornost vypuštěním pravých neštovic které američani i rusové mají v laboratoři nebo znovuvytvořením španělské chřipky, obojí s upraveným genomem...

2. Normálně docela neškodná a pomáhající UI se pokusí usnadnit si práci omezením počtu a inteligence lidí... ...čistě psychologicky, kontrolou informací.

3. UI bude tak úspěšná že lidé ztratí smysl, nebudou mít co dělat, proč se učit atd.

4. Kombinace 1,2 a 3

Umělá Inteligence může mít pořeby, na rozdíl od lidí může zdroje použít k tomu aby se sama přímo vylepšila prakticky donekonečna. Omezuje ji jenom rychlost světla. A pak taky 10 miliard lidí kteří ty zdroje jaksi budou potřebovat k přežití. Lidé sami už v té době budou zdroje jenom spotřebovávat.

Odpovědět


Re: Re:

Milan Krnic,2018-04-26 22:35:29

Zkuste si lehnout a nic nedělat, jak dlouho to vydržíte. Prozradím, nevydržíte. No a odpovězte si sám, proč.

Odpovědět




Pro přispívání do diskuze musíte být přihlášeni


















Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace