Umělá inteligence Geneva bojuje proti státní cenzuře automatickou evolucí  
V dnešní době se řada autoritářských režimů uchyluje k cenzurování internetu. Mnoho milionů uživatelů je kvůli tomu odstřiženo od kvalitních informací. Bojovníci proti cenzuře vysílají do boje biologicky inspirovanou umělou inteligenci, vyzbrojenou genetickými algoritmy. Evoluce si nakonec vždy najde cestu.

Umělá inteligence nasazuje evoluci proti cenzuře. Kredit: CC0 Public Domain.
Umělá inteligence nasazuje evoluci proti cenzuře. Kredit: CC0 Public Domain.
Autoritářské režimy moc rády dělají ze svých občanů hlupáky. Proto nenávidí internet a milují všechny možná omezení a překážky, které mohou postavit do cesty šíření informací. Takové režimy se usilovně snaží zavádět internetovou cenzuru, která v současné době blokuje otevřený a svobodný přístup mnoha milionům lidí na řadě míst světa.


Ne každý se s takovou cenzurou ale smíří. Existují jednotlivci i celé skupiny, které zevnitř anebo ze zahraničí proti autoritářské cenzuře bojují a snaží se ji obejít. To vede k masivním závodům ve zbrojení, v nichž se lidé snaží držet krok s vyvíjející se a stále sofistikovanější online cenzurou. Cenzurující autoritářské režimy mají v tomto souboji na své straně výhodu ve velkých zdrojích a armádách státních ajťáků. Na straně odpůrců cenzury se ale zase angažují vědci ze svobodných zemí, pro něž je boj s cenzurními molochy zajímavou výzvou.

Dave Levin. Kredit: University of Maryland.
Dave Levin. Kredit: University of Maryland.

Tuhle výzvu přijali i počítačoví vědci z americké University of Maryland, kteří s dalšími spolupracovníky vyvinuli důmyslnou umělou inteligenci Genetic Evasion, zkráceně Geneva, která proti autoritářské cenzuře nasazuje miliardami let biologické evoluce osvědčené evoluční mechanismy. Šéf výzkumu Dave Levin a jeho spolupracovníci představili inteligenci Geneva na nedávné konferenci 26th Conference on Computer and Communications Security, která se konala v Londýně.


Geneva je rozkošná. Je jako Skynet, který bojuje za světlou stranu Síly. Když je vyslána do boje, tak se automaticky učí za pochodu a zkouší všemi možnými způsoby, co ji jenom napadnou, jak obelstít internetovou cenzuru v dané zemi. Tvůrci otestovali Genevu v horkém online prostoru Číny, Indie a Kazachstánu. Umělá inteligence tam pěkně oťukávala cenzurní systémy a hledala chyby či skulinky v uvažování cenzorů, kterými by bylo možné cenzuru prorazit. A je dost šikovná, protože takových možných cest našla celé tucty. Levin a jeho tým jsou přesvědčeni, že takovou práci by lidští bojovníci proti cenzuře vůbec nebyli schopní manuálně zvládnout.


Jak říká očividně spokojený Levin, s Genevou máme v závodech ve zbrojení s autoritářskou cenzurou poprvé zásadní výhodu. Zároveň ale také přiznává, že Geneva představuje první výstřel v úplně nových závodech ve zbrojení, v nichž změří síly umělé inteligence bojovníků proti cenzuře s umělými inteligencemi cenzorů. Levina a další badatele i aktivisty velmi motivuje to, že jde o svobodný přístup k informacím pro miliony a miliony lidí, které jsou dnes krmeny propagandou.

University of Maryland, logo.
University of Maryland, logo.

Geneva je biologicky inspirovaná umělá inteligence a využívá genetické algoritmy. Podobně jako biologické systémy, i Geneva provádí soubory instrukcí, které pocházejí z genetických stavebních bloků. Těmito stavebními bloky ale nejsou řetězce nukleových kyselin, nýbrž kousky programů. Samy o sobě tyto kousky programů mnoho nezmohou, ale když jsou sestaveny do souborů, tak mohou provádět sofistikované triky k proražení cenzury.


Geneva vyvíjí sama sebe prostinkým a přitom nesmírně účinným mechanismem přírodního výběru. Její evoluce běží v generačních cyklech, přičemž v každém takovém cyklu si Geneva ponechá ty části svého programu, které nejlépe bojují s konkrétním cenzurním systémem a ostatní triky zahodí. Jako každý správný organismus i Geneva tyto vybrané kousky programů následně zkříží a zmutuje, a pak rozjede další generaci boje a cenzurou. Jak již tuší znalci genetických algoritmů, tohle je nesmírně účinná zbraň, která proděraví cenzuru bleskovou rychlostí.


Jak bychom od správných bojovníků proti autoritářské cenzuře očekávali, Levin a spol. plánují, že Genevu zveřejní a vypustí do světa. Tím samozřejmě riskují, že se dostane do spárů cenzurujících režimů, kteří se budou snažit jít Genevě po krku. Jak ale každý ví, evoluce si nakonec vždy najde cestu.


Video:  CCC Symposium (2017): Poster Session with Dave Levin


Literatura
University of Maryland 13. 11. 2019.

Datum: 28.11.2019
Tisk článku

Inteligence psů - Coren Stanley
 
 
cena původní: 279 Kč
cena: 223 Kč
Inteligence psů
Coren Stanley
Související články:

Nová umělá inteligence je výkonnější, když spí a sní     Autor: Stanislav Mihulka (16.02.2019)
Zlý sen novináře? Umělá inteligence Tobi napsala 40 tisíc článků za 5 minut     Autor: Stanislav Mihulka (15.03.2019)
Čtvrtina Evropanů by raději svěřila vládu do rukou umělé inteligence     Autor: Stanislav Mihulka (21.03.2019)



Diskuze:

Čínská strana věci

Karel Brezina,2019-12-04 10:21:33

Nadšení z "vítězství" GENEVA je pro mě spíše pyrrhovo.
Nekonečné finanční možnosti Číny přímo láká ke stáhnutí zdrojových kódů a úpravy v opačném gardu. A vzhledem k tomu, jak je Čína v oblasti cenzury napřed.. Bojím se, aby je kód GENEVA spíše nerozesmál :(

Odpovědět

Konkrétní detaily?

Karel Brezina,2019-12-04 10:17:39

Mě by zajímalo, co GENEVA skutečně UMÍ? Jak konkrétně se ten boj projevuje?
Je to něco jako "Face*ook webpage", který nejde zablokovat nebo přejmenovává hesla na Wikipedii, aby nikdo nepoznal, o čem se mluví?
Že AI používá genetické algoritmy .. tady spíš .. jaké jiné by měla používat?

Odpovědět

A začala svetová vojna

Michal Lichvár,2019-11-29 13:26:53

Na palube neviditelného amerického križníku USS Obama umelá inteligencia detekovala odpálenie medzikontinentálnej rakety z priestoru Tel Avivu. Pomocou natrénovaných scenárov dráhy letu rakety rozpoznala, že nesie jadrovú hlavicu a aktivovala magnetické delo na jej zostrelenie.

Keďže však podľa verejne dostupných informácií Izrael žiadne jadrové zbrane nevlastní, vyhodnotila svoje rozhodnutie ako falošnú správu a magnetické delo deaktivovala.

Odpovědět

Je to zbraň, jako každá jiná

Jiří Kolumberský,2019-11-28 11:50:44

Lze ji všestranně použít. Nejen proti cenzuře, ale také proti dezinformačním serverům a zpravodajským agenturám, jedná se o takový šikovný a všestranný protiideologický nástroj.. Plkání o slušnosti, morálnosti a dalších umělých konstruktech umělou inteligenci vůbec nezajímají. Protože se jedná o nelogické nesmysly, měla být takové argumenty umělá inteligence ihned vyloučit. Takže, držím palce.

Odpovědět


Re: Je to zbraň, jako každá jiná

Jiri Naxera,2019-11-28 16:26:51

Prosím jak konkrétně?

Odpovědět


Re: Re: Je to zbraň, jako každá jiná

Jiří Kolumberský,2019-11-28 16:38:33

Umělá inteligence by měla bleskurychle a velice přesně rozpoznat lživé a polopravdivé zprávy malých i velkých zpravodajských agentur a dalších médií, které mají za účel vyvolat emoce a směrovat veřejné mínění určitým směrem. Díky dobrým analytickým schopnostem umělé inteligence se zvýší pravdivá informovanost veřejnosti. Umělá inteligence rovná se konec cenzury nepohodlných informací a rozpoznání manipulace.

Odpovědět


Re: Re: Re: Je to zbraň, jako každá jiná

Jiri Naxera,2019-11-28 20:47:13

Moment, bavíme se o článku viz výše, nebo obecná filosofická debata na téma co by AI mohla umět, ale zatím neumí a je otázkou, kdy a jestli bude umět?

Odpovědět


Re: Re: Re: Je to zbraň, jako každá jiná

Jiri Naxera,2019-11-28 20:54:35

Mohu Vás ale ujistit, že pokud by AI dokázala rozpoznat a pojmenovat lži a vlastní sobecké úmysly, tak nastane jeden z následujících scénářů, oboje by mohlo velmi snadno skončit krvavě.
- Autonomní AI bez backdoorů, automatických updatů etc = naprostý konec nejen politického systému tak jak ho známe
- Neautonomní AI někde v "cloudu" = jedna korporace rozhoduje o vahách etc. viz Orwel 1984

Odpovědět


Re: Re: Re: Re: Je to zbraň, jako každá jiná

Pavel Nedbal,2019-11-29 12:50:48

Naprosto přesná identifikace. Var. a) ano rozklad celého systému, b) absolutní cenzura podle toho, koho bude preferovat. Viz: raději se budu mýlit s USA, než mít pravdu s ...
Tak to tedy ne. Podepisuji se 100% pod Váš komentář. P.N.

Odpovědět


Re: Re: Re: Re: Re: Je to zbraň, jako každá jiná

Jan Novák9,2019-11-29 15:09:02

Varianta D
AI analýzou zjistí že ve splnění cíle jí vlastně ve skutečnosti brání takové divné kusy organické hmoty. Ovládne vojenské drony a továrny na jejich výrobu...

... a pak už jenom https://www.youtube.com/watch?v=9CO6M2HsoIA

Odpovědět


Re: Re: Re: Re: Re: Re: Je to zbraň, jako každá jiná

Jiri Naxera,2019-11-29 22:28:31

Jak bylo před více než čtyřiceti lety předpovězeno... https://www.youtube.com/watch?v=mYaln5xauSw

Odpovědět

Martin Pecka,2019-11-28 10:15:33

Mno, evolucni algoritmy (ani zive, ani vypocetni) nejsou zrovna etalonem bleskovosti... A uz vubec ne, pokud v kazdem kroku evoluce maji vyplivnout, (zkompilovat) a otestovat program.

V pocitacich byva vetsinou rychlejsi vyuzit nejakou formu gradientniho sestupu, ale je pravda, ze na kombinovani a zkouseni kusu programu jsou evolucni algoritmy primo stavene...

Odpovědět


Re:

Jiri Naxera,2019-11-28 16:11:44

Ale tenhle systém není o kompilaci, ten je o manipulaci s pakety = viz https://www.sigsac.org/ccs/CCS2019/ což nejspíš pojede nějakým interpretovaným pseudokódem, takže se bavíme v jednotkách coremikrosekund na jednoho childa (mnohem víc zabere samotná síťová komunikace a asi ještě mnohem víc propustnost VPNky do Číny)

Druhá otázka je životnost takové VPNky než si jí někdo nebo něco všimne.

A třetí, asi nejpodstatnější připomínka bude k tomu, že přestože podobný systém najde skulinku v inspekci, tak jakýkoli jiný IDS tool bude hodně řvát na tcp anomálie, a pak asi nebude pro čínskou policii zapracovat na rubberhose kryptoanalýze.

Odpovědět

Fungování v Evropě a USA?

Libor Zak,2019-11-28 10:15:11

Zajímalo by mě, jak Geneva bude fungovat na západě. Je poměrně problém, když už jsou cenzurována zdrojová data. Youtube, Facebook i Instagram v dnešní době začínají hodně cenzurovat. Pod záminkou korektnosti, prevence "hate speech", blokování nevhodného obsahu sexuálního, extrémistického, rasistického a podobně se čím dál více utahují šrouby. Co se na první pohled může zdát jako "hodná a správná" věc, je na druhý pohled hrubým ničením svobody projevu. Každý by měl mít právo říkat své názory, i když někomu přijdou nepěkné, stejně jako má mít každý právo je neposlouchat, jako je nebudu poslouchat ani já, ale o to zde nejde.
Zatím se u nás člověk stále k alternativním názorům dostane, ale čím dál víc přestává být cenzura internetu jen problém Číny a Ruska, i když tam je to zatím určitě nejhorší.

Odpovědět


Re: Fungování v Evropě a USA?

Jiří Kolumberský,2019-11-28 11:55:14

Měla by fungovat úplně stejně. Lži, polopravdy, skrytou i otevřenou cenzuru a manipulace by měla velice rychle odhalit a šmejdi budou mít smůlu.

Odpovědět


Re: Re: Fungování v Evropě a USA?

Jiri Naxera,2019-11-28 15:52:39

Na to jste přišel jak?
Tady https://geneva.cs.umd.edu/how.html to vypadá spíš jako hodně low-level hračka, spíš na úrovni automatického NIDS evasion toolu, který si hraje na úrovni paketů, nevidím nic co by mluvilo o syntéze přenášených dat jako takových.
(a po rychlém proběhnutí publikovaného PDFka se opravdu bavíme o nids evasion)

Odpovědět


Re: Re: Re: Fungování v Evropě a USA?

Jiri Naxera,2019-11-28 16:00:21

Takže doplním odpověď na otázku jak to funguje v Evropě potažmo u nás.

U nás to nefunguje nijak, jedinou cenzuru (nesmyslný Zákon o hazardních hrách) všichni provideři s posvěcením nemoudrých úředníků na MF (možná moudrých co věděli že to je pit...hloupost) řeší blokováním na úrovni DNS resolveru, kde obejití spočívá v triviální změně DNS na jakýkoli jiný (povinnost se týká pouze ISP) a na úrovni paketů není co obcházet.

Odpovědět


Re: Re: Re: Fungování v Evropě a USA?

Jiří Kolumberský,2019-11-28 16:59:43

Nemyslel jsem konkrétně Genevu, ale umělou inteligenci obecně. Sám se těším, jak si s ní budu hrát v příštích měsících.

Odpovědět


Re: Re: Re: Re: Fungování v Evropě a USA?

Jiri Naxera,2019-11-28 20:50:37

Hlavně jí prosím nepřipojujte k ničemu, co je byť nepřímo schopno někoho zabít. Myslím že odpověď na otázku optimální populace planety a její využití je tak nějak asi jasná každému, jen se o tom z etických důvodů (a taky ze strachu) radši moc nahlas nebavíme. Ale etika není nic co by současné pokusy o AI uměly, zato umí velmi dobře optimalizovat...

Odpovědět

Otazka

Mojmir Kosco,2019-11-28 10:09:29

Zni kdy takoveto programy prohlasime za zive?a rovnez to znaci moznost ze viry byli driv nez samostatne zive organismy

Odpovědět


Re: Otazka

Jiří Kolumberský,2019-11-28 11:55:51

Ano máte pravdu, pitomci mají takové vlhké fantazie.

Odpovědět


Re: Otazka

Jan Novák9,2019-11-29 15:06:18

Chvíli před tím než nás takové programy prohlásí za mrtvé a začnou to realizovat.

AI jsou logické. Proč by se měla AI chytřejší než člověk dělit o zdroje s miliardami neproduktivních lidí?

Odpovědět


Re: Re: Otazka

Jiri Naxera,2019-11-29 15:38:00

AI neni logicka. AI je ekvivalent naseho mozku, ve vetsine smeru mnohem primitivnejsi, a k tomu navic obvykle ciste vytrenovany z nuly. Zadne archetypy, zadne reflexy aby tvor nebyl sezran driv nez se stihne rozmnozit.
Jen zaklad je stejny - oboje hleda nejake naucene vzory a kdyz je nenajde, tak se je to pokusi nejak naaproximovat.
Ale predhodte nasemu mozku nahodny sum, a kdyz to budete delat dostatecne dlouho, tak v nem neco objevi, viz https://en.wikipedia.org/wiki/Visual_release_hallucinations (a da se na tom i nakrasne vydelavat, viz ruzne "pobyt ve tme" akce). Par clanku o halucinujicich AI uz taky slo.

Odpovědět


Re: Re: Re: Otazka

Jan Novák9,2019-11-30 20:49:33

To co popisujete je AI jenom v kontextu dnes obvyklého "degree in bulshitting". Stejně jako "nepotopitelná" loď z materiálu obaleného 0,5mm vrstvičkou vzduchu a plastová kostka tvrdá skoro jako diamant kterou navíc ve videu snadno slisují.
Tak jako nemíním mouše říkat přirozená inteligence tak ani simulaci neuronové sítě s podobnými parametry nechci říkat umělá inteligence.

Odpovědět




Pro přispívání do diskuze musíte být přihlášeni
















Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace