Farmaceutická umělá inteligence vymyslela 40 tisíc chemických zbraní za 6 hodin  
Stačilo lehce pozměnit nastavení a šikovná umělá inteligence MegaSyn namísto nových léků navrhovala vražedné chemické bojové látky. Je to další problém, o němž je dobré vědět, ale se kterým moc nepomohou zákazy. Namísto boje proti inteligencím bude lepší využít jejich služby v ochraně před podobnými látkami.
Cvičení s plynovou maskou, US Navy. Kredit: US Navy / Wikimedia Commons.
Cvičení s plynovou maskou, US Navy. Kredit: US Navy / Wikimedia Commons.

Umělé inteligence si sice ještě neuvědomují samy sebe, ale i tak jsou šikovné a užitečné. Mistrovsky zvládají rozmanité činnosti, včetně těch monotónních a ubíjejících, z nichž lidé často šílí. Jsou výborné i v prohledávání ohromných množství chemických látek, třeba při hledání nových léčiv.

 

Fabio Urbina. Kredit: F. Urbina.
Fabio Urbina. Kredit: F. Urbina.

Tým farmaceutické společnosti Collaborations Pharmaceuticals, Inc. nedávno při pozoruhodném experimentu zjistil, že umělé inteligence jsou neméně výborné při hledání nových chemických zbraní. Použili svou umělou inteligenci, kterou lehce upravili, a pak s úžasem sledovali, jak za 6 hodin navrhla 40 tisíc nových chemických látek, které by bylo možné použít jako chemickou zbraň.

 

Jak prohlásil vedoucí výzkumu Fabio Urbina, šokovalo je, jak snadné to bylo. Použili věci, které jsou snadno a v řadě případů volně dostupné. Vlastně si stačí stáhnout dataset s toxicitou chemických látek a sehnat někoho, kdo umí programovat v Pythonu a tuší něco o algoritmech umělých inteligencí. Zvládlo by se to tak za víkend.

 

Urbina a spol. to měli ještě snazší. Mohli totiž použít svou umělou inteligenci MegaSyn, kterou používají při hledání nových léků. Obvykle je nastavená tak, že u chemické látky „odměňuje“ bioaktivitu a „trestá“ toxicitu. Díky takovému nastavení nachází ty nejvíce biologicky aktivní a zároveň nejméně toxické látky. V tomto výzkumu ovšem badatelé přehodili nastavení tak, že umělá inteligence odměňovala kromě bioaktivity i toxicitu.

 

Logo. Kredit: Collaborations Pharmaceuticals, Inc.
Logo. Kredit: Collaborations Pharmaceuticals, Inc.

Inteligence MegaSyn se projevila jako zručný designér chemických zbraní. Mimo jiné „objevila“ nechvalně známou a extrémně toxickou bojovou látku VX i další známé chemické bojové látky. Zašla ale ještě dál a předpověděla strukturu chemických bojových látek, které by měly být ještě účinnější než VX. Badatelé k tomu dodávají, že tyto předpovědi nejsou ověřené a ani nemají chuť je ověřovat. Některé z těchto predikcí budou chybné, to se při těchto simulacích stává. Nicméně, o inteligenci MegaSyn je známo, že své práci rozumí a má velmi slušné výsledky.

 

Urbina s kolegy pochopitelně neusilovali o vývoj chemických zbraní. Doufají, že jejich studie zafunguje jako varování před doposud spíše přehlíženou hrozbou. Lidé mívají sklony se podobných výzkumů bát a po zveřejnění výsledků se obvykle dožadují zákazu umělých inteligencí nebo ještě lépe zákazu celé chemie.

 

Ve skutečnosti jsou tyto „adrenalinové“ výzkumy velmi důležité. Riziko nezmizí, když před ním zavřeme oči a budeme se tvářit, že žádné není. V dnešní době existují země, které by se jistě nerozpakovaly umělé inteligence tímto způsobem využít. Teď o této možnosti víme a nemělo by nás to zaskočit. V mezičase můžeme používat umělé inteligence třeba na hledání co nejlepších protijedů proti chemickým bojovým látkám.

 

Literatura

IFL Science 21. 3. 2022.

Nature Machine Intelligence 4: 189–191.

Datum: 22.03.2022
Tisk článku

Související články:

AI vs pandemie: Umělá inteligence doporučila léky proti koronaviru     Autor: Stanislav Mihulka (06.02.2020)
Americké letectvo poprvé svěřilo řízení letounu umělé inteligenci     Autor: Stanislav Mihulka (18.12.2020)
Umělá inteligence DeepMind skvěle předpovídá počasí     Autor: Stanislav Mihulka (04.10.2021)



Diskuze:

Žádný příspěvek nebyl zadán

Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku








Tento web používá k poskytování služeb, personalizaci reklam a analýze návštěvnosti soubory cookie. Používáním tohoto webu s tím souhlasíte. Další informace