Nvidias MOE og veien mot AGI – og hvordan Dvina lar deg oppleve morgendagens KI i dag

Ömer Odabaş
3 min lesetid • 
Mange forskere mener at denne retningen er viktig for det langsiktige målet om generell kunstig intelligens, eller AGI. Et system som kan håndtere mange ulike typer problemer, trenger mer enn bare størrelse. Det trenger evnen til å ta beslutninger. Det må vite hvilke evner det skal bruke, og når.

Vi er inne i en interessant tid for kunstig intelligens. Lenge fulgte utviklingen innen KI en enkel regel: gjør modellene større. Flere parametere, mer data, mer regnekraft. Det fungerte, men skapte også alvorlige problemer. Å trene store modeller er dyrt, tar lang tid og krever enorme mengder energi.

Nylig introduserte Nvidia en annen idé kalt Mixture of Experts, eller MOE. I stedet for å aktivere hele det nevrale nettverket for hver oppgave lærer modellen å velge hvilke deler av systemet som faktisk trengs. Hver del fungerer som en ekspert på et bestemt område. For hvert spørsmål brukes bare de mest relevante ekspertene.

Dette gjør systemet mer effektivt og fleksibelt. Det ligner på hvordan mennesker jobber. Du ber ikke alle du kjenner om hjelp med hvert eneste problem. Du spør dem som er best egnet til å hjelpe i den aktuelle situasjonen. Med MOE kan KI-systemer bli smartere uten å bli unødvendig tunge.

Mange forskere mener at denne retningen er viktig for det langsiktige målet om generell kunstig intelligens, eller AGI. Et system som kan håndtere mange ulike typer problemer, trenger mer enn bare størrelse. Det trenger evnen til å ta beslutninger. Det må vite hvilke evner det skal bruke, og når.

Denne ideen finnes ikke bare i forskningsartikler.

Vi har faktisk jobbet med en lignende tilnærming i Dvina. Helt fra starten la vi til grunn at ingen enkelt språkmodell og intet enkelt verktøy ville være godt på alt. I stedet for å basere oss på én modell bygget vi et orkestreringslag over flere modeller, verktøy og datakilder.

Dette orkestreringslaget fungerer som et beslutningslag. Når en bruker stiller et spørsmål, avgjør det hvilken modell eller ressurs som skal brukes. Noen ganger bruker det én. Andre ganger kombinerer det flere og slår sammen resultatene. Målet er ikke å vise frem kompleksiteten, men å skjule den bak en enkel brukeropplevelse.

Resultatet er et system som oppleves som tilpasningsdyktig. Du stiller et spørsmål, og systemet finner ut hvordan det kan svare på den mest effektive måten. Tanken ligger svært nær det MOE foreslår på modellnivå, men brukes her på systemnivå.

AGI er ikke her ennå. Men ideer som MOE viser at veien videre ikke bare handler om størrelse. Den handler om struktur, koordinering og smartere bruk av ressurser.

Hvis du er nysgjerrig på hvordan denne typen tilnærming oppleves i praksis, kan du prøve Dvina gratis på https://dvina.ai. Det er ikke AGI, men det gir et lite innblikk i hvordan fremtidens KI-systemer kan tenke og fungere.

Bli med i Dvina

Registrer deg gratis og samle alle verktøyene dine i ett enkelt arbeidsområde.

Utforsk mer