Deepfake videa by mohla zničit důvěru ve společnosti. Jak tomu čelit?  
Představte si, že nebudete moct věřit žádnému videu ani žádné fotce. Když se umělá inteligence pustí do podvodů, tak je v tom samozřejmě dokonalá. Jak ale ve světě deepfake zachránit důvěru v politický systém a ve společnost jako takovou?
Tenhle svět je deepfake. Kredit: Medium.
Tenhle svět je deepfake. Kredit: Medium.

Technologie Deepfake už ve svém názvu snoubí umělou inteligenci a podvod. Je to velice důmyslná, velice zábavná, a také velmi nebezpečná záležitost. Deepfake dokáže obstojně věrohodně syntetizovat umělé fotky a videa, která kombinují již existující snímky či videosekvence s vizuální podobou cílového objektu, což může být celebrita, politik anebo kdokoliv z nás. Tímto postupem vzniknou falešné dokumenty, které zobrazují osoby v situacích či akcích, které se ve skutečnosti nikdy nestaly. Britský badatel Garfield Benjamin ze Solent Univerzity v Southamptonu navrhuje možná řešení problémů, které deepfake technologie brzy způsobí anebo již na nich pracují.

 

Garfield Benjamin. Kredit: G. Benjamin.
Garfield Benjamin. Kredit: G. Benjamin.

Tyto pozoruhodné technologie původně vznikly v pornoprůmyslu, protože zákazníci milují sex známých osobností. Postupně se ale zlepšily a dnes již nemají daleko k dokonalosti. Což je problém. Stává se z nich nástroj pro individuální teror vyhlédnutých obětí, ale i nesmírné riziko, protože už svojí podstatou podrývají už tak otřesenou důvěru dnešních lidí v politické instituce a společnost jako takovou.


V dnešní době jsme svědky toho, jak rozmanité fake news, včetně těch na první pohled bláznivých, mají bohužel nemalý dopad na smyšlení a chování řady lidí. Kvůli deepfake technologiím, které produkují fotky a videa prakticky nerozeznatelná od těch pravých, se tyto potíže dramaticky prohlubují. V ohrožení je celý politický systém, také právní vztahy, a rovněž média, ponecháme-li stranou osudy jednotlivců, které by ale rovněž mohly deepfake útoky naprosto zničit. Reputace je velmi ožehavá záležitost, a i když se ukáže, že jde o nesmyslné obvinění, tak je důvěra v postižené instituce a lidi na dlouho otřesená.


Problémy s deepfake přinášejí celou řadu znervózňujících scénářů. Videa už nebude možné používat jako důkazy u soudu. Zprávy se možná zredukují na dohady o tom, co je skutečný záznam událostí a co nikoliv. Nejspíš se objeví umělé inteligence světlé strany síly, které budou odhalovat deepfake produkty. A možná se objeví i celebrity a politici, kteří nebudou skuteční, ale půjde o deepfake osobnosti. Nebude to asi úplně snadný svět pro život.

 

Solent University.
Solent University.

V dnešní době už naplno propukly „závody ve zbrojení“ mezi tvůrci deepfake i fakenews a těmi, kdo se je snaží detekovat a uvádět na pravou míru. Podle Benjamina je ale problém mnohem hlubší. Pouhá možnost existence deepfake produktů totiž podrývá společenskou důvěru, podobně jako možnost hacknutí demokratických voleb. Současná společenská realita je založená na určitém nastavení důvěry a zodpovědnosti. Pro Benjamina to není konec pravdy jako takové, ale konec důvěry v pravdu, což je téměř stejně děsivé. Tradiční pevné body v normálně fungující západní společnosti, pokud jde o fakta, jako doposud byla vláda, úřady nebo tisk, už do budoucna nebudou na zajištění důvěry stačit.

 

Co s tím?

Nepochybně se objeví nové zákony, které budou regulovat a v případě potřeby trestat používání deepfake. Samotná praktická politika a zákony ale základní pilíř důvěry ve společnosti nezachrání. Benjamin vidí řešení ve tvorbě nových forem společenské shody, konsenzu, a také alternativních forem důvěry.

 

Jednou z možných cest bude decentralizace důvěry, tak jako již dnes dochází k decentralizaci zpravodajství a řady dalších fenoménů. Garance věrohodnosti by měla přejít z malého počtu institucí na celou řadu lidí i organizací s dobrou reputací. Mohlo by to fungovat jako blockchain, čili jako decentralizovaná distribuovaná databáze určitých záznamů, které jsou důkladně jištěné proti útokům zvenčí i zevnitř.


Důvěru by mohly udržet při životě také více demokratické formy vlády i žurnalismu, jako je například systém tekuté demokracie (liquid democracy), v němž lidé buď mohou hlasovat přímo anebo dočasně přenést své hlasy na vybrané delegáty. Veřejnost tak může směřovat svou důvěru tam, kam uzná za vhodné. Stejně tak se více demokratizuje i zpravodajství, v němž tradiční novináři pracují se sociálními médii a tvoří zprávy z mnohem rozmanitějších zdrojů. Zásadní problém je samozřejmě ohlídání reputace klíčových lidí, kteří mohou být a také nepochybně budou napadáni, ať jednotlivci nebo nepřátelskými aktéry větší váhy. 
Deepfake technologie jsou tady, brzy se určitě objeví nenápadné nebo i vážné skandály, například během voleb či jiných významných událostí. Je tedy nejvyšší čas pracovat na budování důvěry v nové situaci a intenzivně přemýšlet o budoucnosti společnosti. A v tom nelze než s Benjaminem souhlasit.

Video: You Won’t Believe What Obama Says In This Video!

 

Literatura

The Conversation 6. 2. 2019.

Datum: 18.02.2019
Tisk článku

Základy praktické chemie a náš život Pracovní sešit k řadě učebnic - Beneš Pavel
 
 
cena původní: 67 Kč
cena: 60 Kč
Základy praktické chemie a náš život Pracovní sešit k řadě učebnic
Beneš Pavel
Související články:

Pomohou proti prolhaným zprávám mediální psychologické vakcíny?     Autor: Stanislav Mihulka (24.01.2017)
Proč se prolhané zprávy šíří jako plíseň: Neurologické vysvětlení     Autor: Stanislav Mihulka (24.03.2017)
Bad News: Online hra funguje jako psychologická vakcína     Autor: Stanislav Mihulka (22.02.2018)



Diskuze:

:)

Alexandr Kostka,2019-03-04 01:32:31

Lidé by tak snadno nepodléhali propagandě a falešným zprávám, pokud by je do nich v první řadě nehustil jejich vlastní stát. Jenže co naplat. Když je absolutní většina oficiálních stanovisek a faktů očividně lživá, těžko se přesvědčuje, že jiní nemají pravdu. (I když jí velmi často také nemají)

Odpovědět


Re: :)

Milan Krnic,2019-03-04 20:26:00

On i ty politiky někdo vychoval. Počátku se dobral nelze (racionálně). Je to zajímavé, ostatně i ta pravda a lež jsou relativní, stačí ne/uvést kontext.

Odpovědět

Proti fake news která se může vytvářet i

Karel Ralský,2019-02-22 01:41:52

s pomocí umělé inteligence je zase jiná umělá inteligence, která umí vyhledat nesrovnalosti v "pravdivých informacích" ať už časových nebo, jiných kritériích v šíření informací a porovnáním s více zdroji informací ať už chemických, fyzikálních, sledováním odkud se zpráva rozšířila a komu je prospěšná a k jakému vede cíli například nedávná zpráva o Izraelské sondě, která má přistát na měsíci jejíž elektronika se upeče na měsíčním povrchu vystavením slunci protože je nedostatečně tepelně chráněná zatímco celuloid v hasl botech kosmonautů se ani nezuhelnatí či umělá hmota se nezkrabatí(viz foto rodinné fotky zatavené v celofánu na povrchu měsíce osvětlené "sluncem" nebo, "nylonová" vlajka na povrchu měsíce, vystavená slunečnímu žáru téměř 250 stupňů i startu raketových motorů "odolala dodnes"), nebo zhroucení(řízená demolice) 3 nezasažené věže 11 září ohlášené BBC 20 minut předem.

Odpovědět


Re: Proti fake news která se může vytvářet i

Josef W,2019-02-24 23:16:50

Nezbývá mi, než vám závidět ten úžasný výlet na místo přistání Apolla 16. Se kterou cestovkou to bylo?

Odpovědět


Re: Proti fake news která se může vytvářet i

Matěj Jakimov,2019-02-27 22:54:20

S umělou inteligencí která rozpoznává fake je malý problém, že lze využít pro trénování té umělé inteligence, která ten fake generuje (samozřejmě i naopak). Každopádně problém s deep fake bohužel nelze řešit deep fake-detektorem.

Odpovědět

Řešení je snadné

Josef Šoltes,2019-02-19 20:33:46

Řešení je naprosto snadné, stačí mít další AI, která bude ověřovat pravost videí proti vašemu jištěnému a nepřetržitému záznamu života vaší osoby. Ano, bude to z jistého hlediska naprostá ztráta soukromí, ale to už holt politici budou muset přežít. Politika je holt taková reality show, akorát teď to bude doslova a nonstop.

Odpovědět

Výhoda

Richard Malaschitz,2019-02-19 15:19:43

Možno to bude naopak prospešné. Čím bude viac deepfake videí a informácií, tým viac si ľudia budú ceniť skutočné, pravdivé spravodajstvo a budú dokonca ochotní za neho platiť tak ako si kedysi kupovali noviny. A deepfake informácie budú asi tak zaujímavé ako bannerová reklama na oslu: všetci ju vidíme a nikto si ju nevšíma.

Odpovědět

Fake news Syria

Michal Lichvár,2019-02-19 09:55:20

Drahí oslíci ... spomínate si, ako ste sa rozčulovali, že Assad je zviera, ktorý zabíja svojich ľudí chemickými zbraňami.

Bola to FAKE NEWS, viď: BBC Producer Says Syria Douma Chemical Attack Footage “Was Staged” https://www.mintpressnews.com/bbc-producer-says-syria-douma-chemical-attack-footage-was-staged/255152/

Odpovědět


Re: Fake news Syria

Josef W,2019-02-19 10:30:42

MintPressNews :o)
Za čí team asi Mnar Muhavesh a spol kopou?
https://www.minnpost.com/braublog/2012/01/who-mintpress-and-why-are-they-doing-all-hiring/
https://en.wikipedia.org/wiki/MintPress_News

Na druhou stranu máme i jiné informace, tak si vyberte
https://www.bellingcat.com/?s=syria+chemical

Odpovědět


Re: Re: Fake news Syria

Michal Lichvár,2019-02-19 13:07:59

Vy ste ale nespochybnil pravdivosť tvrdenia autora (BBC producer Riam Dalati), ale nosič (médium).

Jeho twíty sú protected, tu je screenshot: https://twitter.com/carlzha/status/1096064617938268166?s=21

njn, a to tu ešte ani nemáme tú deepfakeAI.

Odpovědět


Re: Re: Re: Fake news Syria

Josef W,2019-02-19 14:15:10

To samozřejmě nechám na odbornících, kteří třeba přímo na místě byli.

Asadův režim si přesto dovoluji považovat za tyranský a BBC, jak je obdivuji, taky občas uletí mimo, do zóny dohadů a emocí ...

Odpovědět


Re: Re: Re: Re: Fake news Syria

Milan Krnic,2019-02-19 20:22:40

To už se tak stane, že se bráníte proti nepřátelům, kteří by vás po ulicích vláčeli, a když se vám povede je odrovnat, je z vás tyran. V jedné knížce to popisují pěkně jako dědičný hřích (vědecky je to pak kauzalita).

Odpovědět


Re: Re: Re: Re: Re: Fake news Syria

Josef W,2019-02-20 07:20:35

Zas ta kauzalita! Už mi chyběla :o)

Mimochodem, tomu vyhlášení věnují nejvíc pozornosti (a nejvíc ho šíří do světa) ruská média. Ale i na Sputniku k tomu už napsali, že BBC se od prohlášení svého producenta distancuje a považuje to za jeho soukromý názor. Názor, nikoli důkaz, že?
Důkazy by měla mít OPCW.

Odpovědět


Re: Re: Re: Re: Re: Fake news Syria

Michal Lichvár,2019-02-20 08:48:26

:) pekne ste to napísal ... ale nerozumiem tej kauzalite

Odpovědět


Re: Re: Re: Re: Re: Re: Fake news Syria

Milan Krnic,2019-02-20 09:27:24

Josefe, chybět vám nemůže, protože v ní plujeme všichni, a to neustále.
Údajné důkazy chemických útoků v Sýrii jsme zde již probírali pod předmětnými články.
Namátkou: http://www.osel.cz/9339-v-syrii-utocili-nervovym-plynem-a-nebyla-to-nahoda.html
Michale, dobře uchopitelně jí vysvětluje Sam Harris: https://www.youtube.com/watch?v=rcfd-OZB5ig

Odpovědět


Údajné FakeNews o údajném příspěvku

Josef W,2019-02-20 11:14:23

Tak speciální úprava pro vás, údajný Milane:

Zas to vaše údajné neustálé připomínání údajné kauzality! Už mi údajně chybělo :o)))

Odpovědět


Re: Údajné FakeNews o údajném příspěvku

Milan Krnic,2019-02-20 19:43:14

Když vám napíšu, že vám kauzalita nemůže chybět, hbitě přehodíte, že vám údajně chybělo její údajné neustálé připomínání. No, to je vskutku tématické. Za to ale nemůžete, to ty široké, neuchopitelné okolnosti, které vás k tomu vedou. AI na tom pravděpodobně nebude lépe, a pak babo raď, jak poznat, co je a co není psané touto umělou intuicí. Ale ono jako by na tom záleželo. Nezáleží :)

Odpovědět

Pred 10 rokmi

Michal Lichvár,2019-02-19 09:53:43

som už na týmto uvažoval, ešte sa ani nehovorilo o fakenews.

Moje riešenie spočívalo v pridaní autorizačných identifikátorov priamo do videa. Ale netuším akých ;)

Odpovědět


Re: Pred 10 rokmi

Jiri Naxera,2019-02-19 12:50:19

Zamyslete se nad požadavkem.
Ano, můžu si nechat udělat kvalifikovaný certifikát pro digitální podpis, každou fotku podepíšu, přidám k tomu časové razítko, a máte důkaz, že jsem tu fotku vydal já a že vznikla před daným datem.
Ale autentizovat cestu fotonů ze scény do objektivu a následně elektrických signálů z CCD dál? Dost nemožné a ostatně víme všichni, jak fungují DRM systémy. Kromě dalšího by to znamenalo absolutní kontrolu nad věím, to doufám nechceme.

Odpovědět


Re: Re: Pred 10 rokmi

Michal Lichvár,2019-02-19 13:14:00

Osobne si ale myslím, že jeho riešenie tiež nie je riešenie. Organizácie s dobrou reputáciou ... takže Rusko bude mať svoje organizácie pre svoju propagandu, USA svoje pre svoju propagandu ... a Čína sa nato vybodne.

Mnohé média (či už mainstream alebo alternatíva) šírili lži a reputáciu medzi svojim publikom majú stále.

Odpovědět

Cimrman :o)

Josef W,2019-02-19 09:36:55

Český národ je opět mnoho desetiletí v předstihu:
"A možná se objeví i celebrity a politici, kteří nebudou skuteční, ale půjde o deepfake osobnosti"
My už Cimrmana máme od poloviny šedesátých let!

Odpovědět

...

Jan Balaban,2019-02-19 06:55:13

Čo je na tom, keď tie kraviny od novinárov budú mať aj obraz.

Odpovědět


Re: ...

Josef Hrncirik,2019-02-19 07:54:37

Již Platon říkal: Zavřou Vás do jeskyně a na stěny Vám media budou promítat fake porno.

Odpovědět


Re: ...

Martin Bodlák,2019-02-19 08:04:10

Važme si tedy dobrých novinářů. Můžou nás zachránit od maléru...

Odpovědět


Porno Jakuba Jandy je skutečné.

Josef Hrncirik,2019-02-19 08:34:46

Odpovědět


Re: Porno Jakuba Jandy je skutečné.

Josef W,2019-02-19 09:17:59

"Pornojanda" ... to čítám často, ale až vy jste mě přinutil, abych si našel kdo a co to je (nečtu blesk, aha a podobné, takže jsem byl mimo).
https://www.expres.cz/jakub-janda-porno-video-0vp-/zpravy.aspx?c=A150917_113804_dx-zpravy_bk

Nemá mnoho z nás za sebou nějakou tu junáckou pitomost? A máme dost odvahy se k tomu veřejně přiznat a ještě vzít vinu na sebe, místo obviňování ostatních? Případně zapírat, zapírat a zapírat, jako naši nejvyšší politici ...

Odpovědět


Také Mirek Topolánek je dobrý Junák.

Josef Hrncirik,2019-02-20 06:49:33

Již Karel Marx říkal, že z každého fake porno vytéká jasný třídní zájem

Odpovědět


Re: Re: ...

Jan Novák9,2019-02-19 09:08:47

A jak je poznáte když hlavní cena za práci novináře se jmenuje po manipulativním novináři který svými jednostrannými polopravdami prohrál válku s diktaturou?
Já myslím že dobrý novinář je asi tak vzácný jako politik který slouží lidem bez ohledu na vlastní prospěch.

Odpovědět


Re: Re: ...

Palo Fifunčík,2019-02-19 20:18:13

Pokial sa ešte pred tým nestanú obeťou objednanej vraždy , napríklad ako je tomu práve rok od zastrelenia novinára J.Kuciaka ...

Odpovědět


Re: Re: Re: ...

Milan Krnic,2019-02-20 19:55:35

Je dobré to zmínit. Souvislost každopádně neznáme.

Odpovědět


Re: ...

Josef W,2019-02-19 08:55:02

A proto je potřeba rozlišovat mezi novináři a "novináři". Zatím, pokud si člověk dá pozor a trochu se orientuje, dá se většina fejků celkem dobře odhalit, přesto je dobré ověřovat si informace z více zdrojů. Často se pozná pochybná zpráva už podle stylu - jakmile je v textu "to vám zatajují", "to vám nikdo neřekne", "skutečná pravda", "šokující odhalení" atd., bývá to jasné. Taky zdroj je nápovědou, weby, které mají v názvu "free...", "anti", "proti", "pravdivě", "svobodné", atd. a přitom neuvádějí žádné konkrétní kontakty, kamennou adresu, jména redaktorů, dokonce ani autorů textů, jsou snadno rozpoznatelné. Bohužel se občas stává, že i do seriózních médií pronikne nesmysl, zvlášť u odbornějších článků. Ale tomu se asi nikdo nevyhne, redaktor se nemůže vyznat ve všem ...

Odpovědět

Jiri Naxera,2019-02-19 01:00:50

Bojím se že problém bude mnohem hlubší, než jen "halucinace" na úrovni smyslů (zfalšovaný záznam apod.)
Vezměte skoro random politika, vyberte pár jeho citátů, vyberte nějakou hodně absurdní parodii na něj a stejně budete mít nejspíš problém určit, které z těch nesmyslů jsou autentické a které ne.
Nebo si vezměte některé direktivy z Bruselu, občas zůstává rozum stát a jen nevěřícně zíráte, jestli to je předčasný apríl nebo to někdo myslí vážně. V takovéhle společnosti už nějaké falešné video toho moc víc pokazit nemůže.

Odpovědět


Re:

Jan Novák9,2019-02-19 08:25:46

Naopak, falešné video může konečně dohnat k nevíře i ty kteří jsou dnes velice snadno manipulovatelní skrze lži a polopravdu.

Odpovědět


Re: Re:

Milan Krnic,2019-02-19 20:28:57

Bez kritického myšlení nevím, no. S ním nevěříte žádným článkům, berete je pouze jako informativní a pravděpodobnost věrohodnosti porovnáte s tím, jak jsou napsané a jaké mají zdroje. Pokud napíše umělá intuice článek kritický, bude to skvělé a lepší, než většina článků lidí, s omezeným pohledem, avšak pouze za předpokladu, že bychom tomu systému dali k dispozici všechna data, nikoli pouze selektivní, a navíc by on sám uměl kriticky hodnotit informace, no a to je spíš z říše pohádek.
Takže předpokládám, že to povede jen k větším výmluvám, stylu "to je sehrané, je to kampaň". ...

Odpovědět

AI

Vojta Ondříček,2019-02-18 19:42:48

A máme viníka.
Umělá inteligence tu šíří ty poplašné zprávy a štve lidi a národy proti sobě. Chtělo by to tu AI zavřít za mříže a těžce pracovat na výrobě umělých (virtuálních) měn. :-)

Odpovědět




Pro přispívání do diskuze musíte být přihlášeni












Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace