Ovo je zanimljiv trenutak za umjetnu inteligenciju. Dugo je napredak u AI-ju slijedio jednostavno pravilo: učinite modele većima. Više parametara, više podataka, više računalnih resursa. To je funkcioniralo, ali je stvorilo i ozbiljne probleme. Treniranje velikih modela skupo je, sporo i troši golemu količinu energije.
Nedavno je Nvidia predstavila drukčiju ideju pod nazivom Mixture of Experts, odnosno MOE. Umjesto da za svaki zadatak aktivira cijelu neuronsku mrežu, model uči odabrati koji su dijelovi sustava doista potrebni. Svaki dio djeluje kao stručnjak za određeno područje. Za bilo koje pitanje koriste se samo najrelevantniji stručnjaci.
To sustav čini učinkovitijim i fleksibilnijim. Slično je načinu na koji rade ljudi. Ne tražite pomoć od svake osobe koju poznajete za svaki problem. Obratite se onima koji najbolje odgovaraju toj situaciji. Uz MOE, AI sustavi mogu postajati pametniji, a da pritom ne postanu nepotrebno glomazni.
Mnogi istraživači vjeruju da je ovaj smjer važan za dugoročni cilj umjetne opće inteligencije, odnosno AGI-ja. Sustavu koji može rješavati mnogo različitih vrsta problema treba više od same veličine. Treba mu donošenje odluka. Mora znati koje sposobnosti koristiti i kada.
Ova ideja nije ograničena samo na istraživačke radove.
Zapravo, u Dvina već radimo sa sličnim pristupom. Od početka smo polazili od pretpostavke da nijedan pojedinačni jezični model ili alat neće biti dobar za sve. Umjesto oslanjanja na jedan model, izgradili smo orkestracijski sloj koji se nalazi iznad više modela, alata i izvora podataka.
Taj orkestrator funkcionira kao sloj za donošenje odluka. Kada korisnik postavi pitanje, on odlučuje koji model ili resurs treba upotrijebiti. Ponekad koristi jedan. Ponekad kombinira nekoliko njih i spaja rezultate. Cilj nije pokazati složenost, nego je sakriti iza jednostavnog iskustva.
Rezultat je sustav koji djeluje prilagodljivo. Postavite pitanje, a sustav sam otkriva kako na njega odgovoriti na najučinkovitiji način. To je po duhu vrlo blisko onome što MOE predlaže na razini modela, ali primijenjeno na razini sustava.
AGI još nije stigao. No ideje poput MOE-a pokazuju da put naprijed nije samo pitanje razmjera. Riječ je o strukturi, koordinaciji i pametnijem korištenju resursa.
Ako vas zanima kako ovakav pristup izgleda u praksi, možete besplatno isprobati Dvina na https://dvina.ai. To nije AGI, ali daje mali uvid u to kako bi budući AI sustavi mogli razmišljati i funkcionirati.
