Budeme důvěřovat robotovi při požáru?  
Budeme a nejenom to. Poslechneme nejspíš jeho pokyny i v případě, že nás povede špatným směrem. K překvapivým závěrům dospěla studie Georgijské techniky.

 

Pojď, zavedu tě do bezpečí. Kredit: Georgia Tech Research Institute.
Pojď, zavedu tě do bezpečí. Kredit: Georgia Tech Research Institute.

Představte si vysokoškoláka, který se ocitl v malé kanceláři. Vyplňuje tam nějaký dotazník a je tam s ním i robot. Najednou se rozeřve alarm a prostor venku za dveřmi kanceláře zaplní nepříjemný dým. Asi hoří. Dotyčný student se teď musí rychle rozhodnout. Unikne jasně označeným východem, kterým tam předtím vešel? Anebo se vydá směrem, který mu ukazuje robot, a který vede do neznámých dveří?

Paul Robinette se svým důvěryhodným robotem. Kredit: Rob Felt, Georgia Tech.
Paul Robinette se svým důvěryhodným robotem. Kredit: Rob Felt, Georgia Tech.


Zní to jako úvodní scéna epizody ze seriálu natočeného podle Matrixu. Ve skutečnosti ale jde o poměrně věrný popis zajímavého experimentu, kterému bylo postupně vystaveno 30 nic netušících dobrovolníků. Jeho výsledky ale vědce šokovaly. Téměř každý účastník experimentu se při simulovaném požáru dobrovolně rozhodl, že bude následovat robota, i když ho očividně posílal pryč od známého východu, někam do horoucích pekel. Šéf výzkumu, student Georgijské techniky v Atlantě Paul Robinette a jeho kolegové byli doopravdy překvapeni a dumali, jak se to vlastně mohlo stát.

Neočekávaný výsledek experimentu představuje další díl hádanky, s níž se v současnosti potýká bouřlivě se rozvíjející robotika, a která představuje složitý vztah lidí k robotům. Když by lidé nevěřili robotickým záchranářům, kteří se pravděpodobně již brzy objeví na scéně, tak by je takoví roboti nemohli zachránit. Pokud ale lidé věří robotům přespříliš, jako studenti v experimentu na Georgijské technice, tak by to také v reálné situaci nedělalo dobrotu. Kdyby lidí v nouzi slepě následovali rozbitého nebo chybně uvažujícího robota, zle by to odskákali. Vztah mezi lidmi a roboty očividně zůstává velmi komplikovaným. Badatelé budou svůj výzkum prezentovat na konferenci ACM/IEEE International Conference on Human-Robot Interaction, v novozélandském Christchurchi.

Robotický záchranář v akci. Kredit: Georgia Tech Research Institute.
Robotický záchranář v akci. Kredit: Georgia Tech Research Institute.


Robinette a spol. použili upraveného robota Pioneer P3-AT, který vypadá jako odpadkový koš na kolečkách s pohyblivými osvětlenými tyčemi k ukazování směru. Když účastník robota poslechl, tak ho robot nasměroval do další místnosti, kde student vyplnil dotazník o robotových navigačních schopnostech a přečetl si článek z časopisu. Experimentátoři používali umělý kouř a detektor kouře First Alert. Z celkem 30 účastníků experimentu poslechlo robota 26 z nich. Ze zbývajících 4 ale byli 2 vyloučeni z experimentu kvůli nesouvisejícím důvodům a 2 další vůbec neopustili experimentální kancelář.

Georgia Tech.


Výsledky experimentu ukazují, že lidé mají sklon věřit robotovi, pokud jim je řečeno, že účelem robota je dělat právě to, co robot dělá. Na experimentálním robotovi totiž bylo velmi výrazně napsáno „EMERGENCY GUIDE ROBOT“ (čili Robotický průvodce pro stav ohrožení). Mnozí dobrovolníci v dotazníku potvrdili, že robota poslechli právě kvůli tomu nápisu. Robinette to přirovnává k situaci, kdy někteří řidiči věří své GPS navigaci natolik, že jsou ochotni jet i po velmi podezřelých cestách. 
Specialistka na interakce mezi lidmi a roboty Holly Yanco z Massachusettské university v Lowellu byla výsledky experimentu doslova ohromená. Domnívá se, že k výsledku přispěla naléhavost nouzové situace, ve které se lidé museli velmi rychle rozhodnout. Účastníci experimentu si podle ní zřejmě mysleli, že dotyčný robot, ještě ke všemu s nápisem „Emergency guide robot“, má více informací než oni. 

Robinettův tým ještě ověřil, jak silná je důvěra lidí k robotovi ve tvaru koše na odpadky. Ukázalo se, že je naprosto neuvěřitelná. Když experimentátoři nechali robota při prvním setkání ještě před nouzovou situací robota zmrznout v půli cesty a omluvili se dobrovolníkům za jeho špatný výkon, tak stejně téměř všichni v nouzi robotovi věřili. Dokonce i když byla špatná cesta nabízená robotem zatarasená překážkou, tak se dva ze šesti testovaných raději pokoušeli protáhnout kolem překážky, než aby odešli známou a zcela přístupnou cestou, kterou jim robot nedoporučil. 

Podle Kerstin Dautenhahn z Hertfordshirské university představuje tak velká důvěra v robota závažný problém. Každá elektronika se může porouchat anebo se může stát cílem nějakého útoku. A nedej bože kdyby Skynet převzal vládu nad světem. Lidé by ho podle všeho poslouchali jako ovce. Je tu ale prostor pro osvětu. Vše nasvědčuje tomu, že na našem vztahu s roboty ještě budeme muset pořádně zapracovat.


Video:  In Emergencies, Should You Trust a Robot?


Literatura
New Scientist 29. 2. 2016

Autor: Stanislav Mihulka
Datum: 01.03.2016
Tisk článku

Teenage Mutant Ninja Turtles Donnie's Robot - Davis Fiona
Knihy.ABZ.cz
 
 
cena původní: 282 Kč
cena: 242 Kč
Teenage Mutant Ninja Turtles Donnie's Robot
Davis Fiona
Související články:

Jak jihokorejský robot zvítězil v soutěži robotů záchranářů     Autor: Stanislav Mihulka (13.06.2015)
Nezakazujte sexuální roboty!     Autor: Stanislav Mihulka (09.10.2015)
Necháme si poradit od robota?     Autor: Stanislav Mihulka (26.10.2015)



Diskuze:

Nejsou uplne mimo misu

Martin Pecka,2016-03-03 22:53:22

Netvrdim, ze danou studii povazuji za povedenou, ale uplne mimo misu taky asi nejsou. Cetl jsem (referenci uz bohuzel nedohledam), ze US Army resi problem, ze kdyz daji do jednotky robota (zatim predpokladam, ze mulu), tak si ho nekdy vojaci oblibi natolik, ze nekdy i ohrozuji svou bezpecnost ve prospech robota.

Odpovědět

Rozhodující mi přijde

Zab Hazar,2016-03-02 18:26:44

v tomto pochybném pokusu právě jen a pouze existence nápisu. Lidé jsou prioritně naučeni poslechnout evakuační nápisy a směrníky v obchoďácích, v továrnách, v kinech, v tunelech, na záplavových pobřežích, prostě všude - však také od toho tam jsou, a také mají (resp. měly by!) odpovídat striktním normám.

Odpovědět

To nebyli češi s jejich zkušenostmi!

Jaroslav Mrázek,2016-03-02 13:37:09

Ti se totiž rozhodují naprosto jinak a správně s důrazem na zkušenosti a historickou paměť národa v sobě chovanou. Viz příklad a vtip :
Ne nadarmo se česká křižovatka stala dobrou učebnicí, jak přežít a jak elegantně vybruslit z každé pí....., vymyšlené sousedy. České myšlení je totiž mnohem sofistikovanější, viz tento vtip:

Byla jednou jedna říše a v ní si princezna hledala ženicha. Mnoho nápadníků přijelo a už je nikdo neviděl, až jednou dorazil nápadník "Český Honza". Jako vždy i jej princezna vzala na prohlídku paláce, zavedla jej do zahrady, zastavila se u bazénku s piranhami, svlékla z prstu prsten, hodila ho do bazénku a řekla "vyndej ho". Hloupý Honza nemeškal, rozepnul poklopec...a princezna se šťastně rozesmála řkouc: "Vidíš a ti pitomci skákali pro prsten ..... PŘEŽIJEME. UMÍME TO. :-)

Odpovědět

Bez výpovednej hodnoty

Sepp Winkler,2016-03-02 13:30:54

Ten prieskum nemá žiadnu výpovednú hodnotu, dokonca ho neváham označiť za hlúposť. To, že ľudia nasledovali robota a nešli k vchodu, ktorým sa do miestnosti dostali je dosť pochopiteľné. V mnohých budovách je požiarny východ inde, ako vchod a má za úlohu zabrániť tlačenici a panike. Je teda pochopiteľné, že ľudia od robota očakávali, že sa bude riadiť požiarnym poriadkom v budove a uprednostnili jeho voľbu, pred návratom trasou, ktorou prišli. Rovnako je to aj pri šípkach ukazujúcich smer únikového východu. Znamená to, že ľudia veria tabuľkám viac ako vlastnému úsudku? A ešte horšie, záver k akému došli v prieskume - mali by sa ľudia riadiť vlastným úsudkom pred cestou navrhnutou požiarnym poriadkom pre prípad núdze?!

Odpovědět

rozhodovanie

Peter M1,2016-03-02 09:49:44

Zdravím,
súhlasím s príspevkami hore, len by som si ešte dovolil pridať poznámku (otázku), že ten ,,známy" vchod/východ; Aký bol dlhý? Zložitý?
Pretože ak to bolo niečo pripomínajúce bludisko, oveľa ľahšie sa dôveruje emergency robotovi, ktorý zrejme vie kde horí a je vysoko pravdepodobné, že má nahrané aj aktuálne mapy.

Odpovědět

neDůvěra v závěry

Mintaka Earthian,2016-03-02 09:28:52

Nedovolil bych si vyvozovat dalekosáhlé závěry z takové experimentíku.
Je zde mnoho faktorů nesouvisejících s důvěrou k robotům, které mohly mít větší vliv, než robot samotný.

Už jen to, že se jdu účastnit takového experimentu a zrovna se stane taková příhoda, to může být spíš zábavné, než stresující.
Navíc nikdo z nich nebyl v přímém ohrožení života. On je rozdíl mezi tím, zda se v podstatě nic ohrožujícího neděje, nebo zda mě robot posílá do chodby kde hoří.

Zajímal by mě pohled profesionálních (lidských) záchranářů, jaké mají zkušenosti s důvěrou lidí v jejich pokyny.

Odpovědět

Ľudia verzus roboti

Roman Madala,2016-03-02 06:11:20

Ľudia robotom pravdepodobne veria, pretože zatiaľ s nimi nemajú zlé skúsenosti, respektíve tie dobré prevládajú nad zlými (GPS). Časom sa to ale môže zmeniť.

Odpovědět




Pro přispívání do diskuze musíte být přihlášeni