V dnešní době dramaticky narůstá poptávka po autonomních dronech a robotech. Velké jazykové modely jsou sice stále lepší a samy o sobě takové úkoly zvládají, je tu ale problém. Hardware zůstává pozadu.
Inženýři mají v podstatě dvě možnosti, z nichž ani jedna není ideální. Mohou nacpat celý AI model do dronu nebo robota. To ale chce spoustu paměti a výpočetní síly, která taky spotřebuje hodně energie z baterií. Další možností je umístit inteligenci v cloudu. V takovém případě ale zase zařízení přichází o spoustu energie, musí neustále intenzivně komunikovat s cloudem a je zranitelné útoky z okolí.
Tingjun Chen z Duke University a jeho kolegové pracují na třetí možnosti, které říkají WIreless Smart Edge networks (WISE), a která obchází nevýhody obou zmíněných přístupů. Zní to trochu jako magie, ale spočívá to v tom, že se váhy (weight), klíčové parametry velkých AI modelů, které určují sílu spojení mezi neurony neuronové sítě, posílají vzduchem v podobě rádiových vln, mezi dronem či robotem a blízkou komunikační stanicí, a to takovým způsobem, že dramaticky šetří energie i velikost potřebných komponent.
Klíčovým prvkem technologie WISE je koncept zvaný in-physics analog computing, česky by mohlo znít výpočty ve fyzice systému. Jde o to, že se otrocky neposílají nuly a jedničky tam a zpátky mezi koncovým zařízením a vzdáleným procesorem, ale že přirozené chování rádiových vln čili jejich „fyzika,“ cestou zařídí část výpočtů.
Funguje to tak, že kompletní AI model sedí v komunikační stanici, která vysílá rádiové vlny se zakódovanými váhami modelu. Když dron nebo robot zachytí vysílání, jeho hardware zpracuje vysílaný signál se svými daty získanými z okolí, přičemž se uplatní výpočty ve fyzice systému, tj. v rádiových vlnách nebo analogovém prostředí. Může to zařídit třeba pasivní směšovač (passive frequency mixer). Tím dron či robot zvládne klíčový krok většinu modelů hlubokého učení, aniž by potřeboval digitální procesor.
##seznam_reklama##
Pilotní experimenty ukazují, že WISE zvládne téměř 96procentní přesnost klasifikace snímků, přičemž spotřebuje o řád méně energie než dnešní přední digitální procesy. Ohromnou výhodou je, že WISE lze jen s drobnými úpravami provozovat na existující infrastruktuře, jako jsou 5G nebo 6G sítě a WiFi routery. Vývoj WISE je teprve v počátcích a zatím funguje jen na krátké vzdálenosti, ale jestli se povede ji dotáhnout, čekejte velké věci.
Video: T. Chen: COSMOS Testbed – A Platform for Advanced Wireless, Optical, and Edge Cloud Experimentation
Literatura