Umělá inteligence dnes zasahuje do téměř všech oblastí lidské činnosti – od automatizovaných překladů a rozpoznávání obrazu až po tvorbu textů a analýz velkých dat. S narůstající složitostí AI modelů však prudce roste i jejich energetická spotřeba. Trénování velkých neuronových sítí je extrémně náročné na výpočetní výkon, což znamená obrovské nároky na elektřinu.

Například datová centra v Německu v roce 2020 spotřebovala přibližně 16 miliard kilowatthodin (kWh) elektřiny, což odpovídalo 1 % celkové spotřeby země. Odhady naznačují, že do roku 2025 vzroste tato hodnota na 22 miliard kWh, což jen podtrhuje, jak rychle tento problém eskaluje.

Tradiční metody trénování neuronových sítí, jako je zpětná propagace chyb, vyžadují obrovské množství výpočtů a iterací, aby se model naučil správně fungovat. Až dosud se věřilo, že tento proces je nutně energeticky náročný – ale vědci nyní přišli se zajímavým řešením.

Nová metoda: Stokrát rychlejší učení bez ztráty přesnosti

Tým vědců pod vedením Felixe Dietricha představil pravděpodobnostní přístup k trénování neuronových sítí, který dramaticky snižuje množství potřebných výpočtů. Místo klasického postupného ladění parametrů využívá nová metoda pravděpodobnostní vzorkování klíčových hodnot, což umožňuje:

• Až 100x rychlejší učení
• Drasticky nižší spotřebu energie
• Srovnatelnou přesnost s tradičními metodami

Jak je to možné? Zatímco běžné neuronové sítě se učí opakovanými úpravami vah a propojení mezi neurony, nový přístup využívá pravděpodobnostní výběr parametrů v místech, kde dochází k největším změnám hodnot. Tato metoda umožňuje mnohem rychlejší adaptaci systému bez nutnosti neustálého přepočítávání tisíců či milionů vah.

„Naše metoda umožňuje určit klíčové parametry s minimální výpočetní náročností. Trénování neuronových sítí tak může být nejen rychlejší, ale především výrazně energeticky efektivnější,“ říká Dietrich.

Jak to funguje? Inspirace přírodními systémy

Tento nový přístup není jen dílem náhody – vědci se inspirovali dynamickými systémy, které se přirozeně vyskytují například v klimatických modelech nebo finančních trzích. Takové systémy se v průběhu času mění podle určitých pravidel a vykazují specifické vzorce chování.

Namísto klasického iterativního přístupu využívá tato metoda cílený výběr datových bodů, kde dochází k největším změnám, a pracuje s nimi přednostně. Tento způsob umožňuje neuronovým sítím efektivněji se přizpůsobit novým informacím, aniž by musely zpracovávat obrovské množství zbytečných výpočtů.

Přístup se ukázal jako obzvláště účinný pro systémy s vysokou dynamikou, jako jsou klimatické simulace, burzovní predikce nebo modelování biologických procesů.

Zdroj: Shutterstock

Dosavadní testy ukázaly, že tato metoda nejen dramaticky snižuje energetické nároky, ale zároveň dosahuje srovnatelné přesnosti jako tradiční způsoby trénování neuronových sítí.

To znamená, že budoucí vývoj AI nebude muset nutně znamenat exponenciální nárůst spotřeby energie. Pokud se tato technologie rozšíří, mohlo by dojít ke značné redukci údajné uhlíkové stopy, kterou prý AI způsobuje.

Navíc by tato metoda mohla otevřít dveře k rychlejšímu a levnějšímu trénování AI modelů, což by urychlilo samotný vývoj umělé inteligence a její nasazení v praxi.