Ovo je zanimljiv trenutak za umjetnu inteligenciju. Dugo vremena je napredak u AI-ju slijedio jednostavno pravilo: učiniti modele većim. Više parametara, više podataka, više računarske snage. To je funkcionisalo, ali je stvorilo i ozbiljne probleme. Obuka velikih modela je skupa, spora i troši ogromnu količinu energije.
Nedavno je Nvidia predstavila drugačiju ideju pod nazivom Mixture of Experts, odnosno MOE. Umjesto da aktivira cijelu neuronsku mrežu za svaki zadatak, model uči da odabere koji su dijelovi sistema zaista potrebni. Svaki dio djeluje kao stručnjak za određenu oblast. Za bilo koje pitanje koriste se samo najrelevantniji stručnjaci.
To sistem čini efikasnijim i fleksibilnijim. Slično je načinu na koji ljudi funkcionišu. Ne tražite pomoć od svake osobe koju poznajete za svaki problem. Obratite se onima koji najbolje odgovaraju toj situaciji. Uz MOE, AI sistemi mogu postajati pametniji, a da pritom ne postanu nepotrebno glomazni.
Mnogi istraživači vjeruju da je ovaj smjer važan za dugoročni cilj umjetne opće inteligencije, odnosno AGI-ja. Sistem koji može rješavati mnogo različitih vrsta problema treba više od same veličine. Potrebno mu je donošenje odluka. Mora znati koje sposobnosti koristiti i kada.
Ova ideja nije ograničena samo na istraživačke radove.
Zapravo, u Dvina već radimo sa sličnim pristupom. Od samog početka polazili smo od toga da nijedan pojedinačni jezički model ili alat neće biti dobar u svemu. Umjesto oslanjanja na jedan model, izgradili smo orkestratorski sloj koji se nalazi iznad više modela, alata i izvora podataka.
Taj orkestrator funkcioniše kao sloj za donošenje odluka. Kada korisnik postavi pitanje, on odlučuje koji model ili resurs treba koristiti. Ponekad koristi jedan. Ponekad kombinuje nekoliko njih i objedinjuje rezultate. Cilj nije pokazati složenost, već je sakriti iza jednostavnog iskustva.
Rezultat je sistem koji djeluje prilagodljivo. Postavite pitanje, a sistem sam procijeni kako da na njega odgovori na najefikasniji način. To je po duhu vrlo blisko onome što MOE predlaže na nivou modela, ali primijenjeno na nivou sistema.
AGI još nije stigao. Ali ideje poput MOE pokazuju da put naprijed nije samo pitanje razmjera. Riječ je o strukturi, koordinaciji i pametnijem korištenju resursa.
Ako vas zanima kako ovakav pristup izgleda u praksi, možete besplatno isprobati Dvina na https://dvina.ai. To nije AGI, ali pruža mali uvid u to kako bi budući AI sistemi mogli razmišljati i funkcionisati.
