MOE od Nvidia a cesta k AGI: Jak vám Dvina umožňuje zažít AI zítřka už dnes

Ömer Odabaş
Čtení na 2 min • 
Mnozí výzkumníci věří, že tento směr je důležitý pro dlouhodobý cíl, kterým je obecná umělá inteligence neboli AGI. Systém, který dokáže řešit mnoho různých typů problémů, potřebuje víc než jen velký rozsah. Musí se umět rozhodovat. Musí vědět, které schopnosti využít a kdy.

Umělá inteligence právě prochází zajímavým obdobím. Dlouho se pokrok v AI řídil jednoduchým pravidlem: zvětšovat modely. Více parametrů, více dat, více výpočetního výkonu. Fungovalo to, ale přineslo to i vážné problémy. Trénování velkých modelů je drahé, pomalé a spotřebovává obrovské množství energie.

Nedávno Nvidia představila jiný koncept nazvaný Mixture of Experts neboli MOE. Místo aktivace celé neuronové sítě pro každý úkol se model učí vybírat, které části systému jsou skutečně potřeba. Každá část funguje jako expert na určitou oblast. Pro konkrétní otázku se využijí jen ti nejrelevantnější experti.

Díky tomu je systém efektivnější a flexibilnější. Je to podobné tomu, jak pracují lidé. S každým problémem se neobracíte na všechny, které znáte. Oslovíte ty, kteří vám v dané situaci mohou pomoci nejlépe. S MOE mohou být systémy AI chytřejší, aniž by se stávaly zbytečně těžkopádnými.

Mnozí výzkumníci věří, že tento směr je důležitý pro dlouhodobý cíl, kterým je obecná umělá inteligence neboli AGI. Systém, který dokáže řešit mnoho různých typů problémů, potřebuje víc než jen velký rozsah. Musí se umět rozhodovat. Musí vědět, které schopnosti využít a kdy.

Tato myšlenka nezůstává jen ve výzkumných pracích.

S podobným přístupem totiž pracujeme i v Dvina. Od začátku jsme vycházeli z toho, že žádný jednotlivý jazykový model ani nástroj nebude dobrý ve všem. Místo spoléhání na jeden model jsme vytvořili orchestrační vrstvu nad několika modely, nástroji a datovými zdroji.

Tento orchestrátor funguje jako rozhodovací vrstva. Když uživatel položí otázku, rozhodne, který model nebo zdroj použít. Někdy využije jen jeden. Jindy jich zkombinuje několik a sloučí výsledky. Cílem není složitost ukazovat, ale skrýt ji tak, aby se systém používal jednoduše.

Výsledkem je systém, který působí přizpůsobivě. Položíte otázku a systém sám určí, jak na ni odpovědět co nejefektivněji. Princip je velmi blízký tomu, co MOE navrhuje na úrovni modelu, jen se uplatňuje na úrovni celého systému.

AGI tu ještě není. Koncepty jako MOE ale ukazují, že cesta vpřed nespočívá jen ve zvětšování rozsahu. Jde o strukturu, koordinaci a chytřejší využívání zdrojů.

Pokud vás zajímá, jak takový přístup funguje v praxi, můžete si Dvina zdarma vyzkoušet na https://dvina.ai. Není to AGI, ale nabízí malou ukázku toho, jak mohou budoucí systémy AI přemýšlet a fungovat.

Přidejte se k Dvina

Zaregistrujte se zdarma a spojte všechny své nástroje v jednom jednoduchém pracovním prostoru.

Objevte další