Inteligence vstupují do laboratoří. Kredit: SM a Zoner AI.

Není žádným tajemstvím, že je v dnešní době možné naťukat si nějakou sekvenci, poslat ji mailem a dotyčná biotechnologická společnost vám za pár dní pošle zpátky syntetizovanou molekulu. Něco to stojí, ale rozhodně to není nedostupné. Zároveň je jasné, že některé sekvence mohou být velmi nebezpečné, jako třeba vražedné viry nebo proteinové toxiny.

Eric Horvitz. Kredit: Microsoft.

Biotech společnosti to obvykle řeší tak, že používají bezpečnostní software Biosecurity Screening Software (BSS), kterým monitorují požadované sekvence a zjišťují, zda neodpovídají databázi známých biologických hrozeb. Pokud ano, sekvenci nevyrobí a na zákazníka nejspíš pošlou tajnou službu.

Až doposud to jakžtakž fungovalo. Teď ale přišly generativní inteligence, které si s chutí hrají se sekvencemi. Oslnivě zrychlují vývoj nových sekvencí a tím pádem i léků a léčebných postupů. Je to skvělé, pomůže to hodně lidem. Je to ale, bohužel, zbraň o dvou ostřích. Stejné AI nástroje je možné použít k vývoji nových toxinů, patogenů nebo postupů, které nejsou léčebné, ale naopak.

Eric Horvitz z „vědecké divize“ Microsoftu a jeho kolegové si zahráli na bioteroristy a zkusili, jestli sekvence generované inteligencí pro špatnou věc, mohou uniknout zmíněnému bezpečnostnímu softwaru, který hlídá u výrobců sekvencí. Použili veřejně dostupné AI nástroje a s jejich pomocí vytvořili více než 75 tisíc umělých variant sekvencí nebezpečných přírodních proteinů, včetně ricinu.

Logo. Kredit: Microsoft.

Pak tyto sekvence vytvořené generativní inteligencí prohnali bezpečnostními nástroji a sledovali, kolik sekvencí od generativní inteligence projde. Podstatné procento testovaných sekvencí skutečně prošlo. Bezpečnostní ochrana selhala. Specialisté Microsoftu pak společně s dodavateli BSS updatovali databázi a vylepšili software. V druhém kole bezpečnostní software zachytil „97 procent nejvíce nebezpečných sekvencí“ od generativní AI.

Jak badatelé zdůrazňují, je otázkou, jak by generované sekvence, které prošly jednou či v obou případech kontrolou jako nezávadné, fungovaly v reálném světě. Každopádně je to jasné varování, že začínají závody ve zbrojení mezi biotech generativními inteligencemi a nástroji pro detekci zlých sekvencí. Nejspíš bude řešením najmout umělé inteligence i pro bezpečnostní nástroje. Jak lakonicky píše Paul Arnold na platformě Phys.org, je to podobné jako věčné závody mezi virovými patogeny a vakcínami. Teď si můžeme připsat inteligence generující sekvence na stále delší seznam zneužitelných nástrojů v biotechnologiích.

Video: Relevance of Sequence Screening to the BioMADE Community

Literatura

TechXplore 3. 10. 2025.

Science 390: 82–87.