CDR.cz - Vybráno z IT

Nový směr pro AI: Proč jednoduché biologické principy porážejí modely?

Zdroj: Shutterstock

Nová studie z Johns Hopkins University ukazuje, že správná architektura umělé inteligence může být důležitější než obrovská množství tréninkových dat. Biologicky inspirované modely vykazují podobnost s lidským mozkem ještě před prvním učením.
Přidejte si CDR do oblíbených na Google News

Umělá inteligence se v posledních letech vyvíjí způsobem, který stojí na dvou pilířích. Tím prvním jsou obrovské tréninkové soubory čítající miliony až miliardy příkladů. Tím druhým jsou výpočetní centra o spotřebě menšího města. Nová studie z Johns Hopkins University ale do této logiky vnáší zásadní pochybnosti. Ukazuje, že základní návrh modelu může mít na jeho schopnosti výraznější vliv než dlouhé a nákladné učení.

Výzkumný tým vedený Mickem Bonnerem zkoumal tři typy architektur, které dnes formují většinu moderních systémů AI. Transformery, plně propojené sítě a konvoluční sítě. Právě poslední skupina se ukázala jako klíčová. Vědci si vzali existující návrhy, opakovaně je upravovali, a poté je vystavili obrazovým podnětům zahrnujícím zvířata, osoby i předměty. Souběžně sledovali reakce lidského a primátího mozku na stejné snímky. Cílem bylo zjistit, zda se chování umělých neuronů dokáže přiblížit biologickým vzorcům ještě před samotným tréninkem.

Proč mozek stále vede

Závěry jsou pro současný svět AI překvapivé. Zatímco transformery a plně propojené sítě vykazovaly minimální změnu i po výrazném zvětšení počtu neuronů, konvoluční architektury reagovaly úplně jinak. Jakmile dostaly více prostoru a jemné konstrukční úpravy, začaly generovat vzorce aktivity, které se pozoruhodně podobaly reakcím lidské mozkové kůry. A to bez jediného tréninkového cyklu.

Zdroj: Shutterstock

Podle autorů studie to naznačuje, že některé architektonické principy mohou být tak silné, že dávají modelu náskok, který žádné množství dat nemůže plně nahradit. Pokud by byl hlavním faktorem výkonu pouze rozsah tréninku, podobný výsledek by nebyl možný. To posiluje myšlenku, že lidský mozek není silný díky objemu dat, ale díky způsobu, jakým je vystavěn. Evoluce podle vědců hledala miliony let optimální kompromis mezi efektivitou a učením a právě to může být nejcennější inspirace pro nové generace AI.

Výzkum tedy míří tam, kde se dosud pohybovalo jen několik odvážných týmů. Nejenže zpochybňuje nutnost obrovských investic do tréninkových dat, ale naznačuje možnost vytvářet systémy, které se učí mnohem rychleji a energeticky úsporněji. Pokud se podaří propojit vhodné architektonické základy s jednoduchými biologicky inspirovanými učícími algoritmy, může to vést k nové éře umělých inteligencí, jež budou efektivnější než dnešní gigantické modely.

Otázka už nezní jak získat další miliardu dat, ale jak navrhnout systém, který je dokáže využít podobně jako lidský mozek. Studie z Johns Hopkins University tak otevírá scénář, v němž budoucí AI nebude soutěžit velikostí, ale chytrostí svého základu. Vědecký svět tento směr sleduje s velkým očekáváním, protože může přepsat představy o tom, jak se umělá inteligence bude v příštích letech vyvíjet.

Diskuze