Tekoälyn kannalta eletään kiinnostavaa hetkeä. Pitkään tekoälyn kehitys noudatti yksinkertaista sääntöä: tehdään malleista suurempia. Enemmän parametreja, enemmän dataa, enemmän laskentatehoa. Tämä toimi, mutta synnytti myös vakavia ongelmia. Suurten mallien kouluttaminen on kallista, hidasta ja kuluttaa valtavasti energiaa.
Hiljattain Nvidia esitteli toisenlaisen ajatuksen nimeltä Mixture of Experts eli MOE. Sen sijaan, että koko neuroverkko aktivoitaisiin jokaista tehtävää varten, malli oppii valitsemaan, mitä järjestelmän osia todella tarvitaan. Jokainen osa toimii tietyn alueen asiantuntijana. Kunkin kysymyksen kohdalla käytetään vain olennaisimpia asiantuntijoita.
Tämä tekee järjestelmästä tehokkaamman ja joustavamman. Se muistuttaa tapaa, jolla ihmiset toimivat. Et pyydä jokaisessa ongelmassa apua jokaiselta tuntemaltasi ihmiseltä. Käännyt niiden puoleen, jotka sopivat parhaiten kyseiseen tilanteeseen. MOE:n avulla tekoälyjärjestelmät voivat kehittyä älykkäämmiksi muuttumatta tarpeettoman raskaiksi.
Monet tutkijat uskovat, että tämä suunta on tärkeä Artificial General Intelligencen eli AGI:n pitkän aikavälin tavoitteen kannalta. Järjestelmä, joka pystyy käsittelemään monenlaisia ongelmia, tarvitsee muutakin kuin pelkkää kokoa. Se tarvitsee päätöksentekoa. Sen täytyy tietää, mitä kyvykkyyksiä käyttää ja milloin.
Tämä ajatus ei rajoitu tutkimusartikkeleihin.
Itse asiassa olemme työskennelleet samankaltaisella lähestymistavalla Dvinassa. Oletimme alusta asti, ettei mikään yksittäinen kielimalli tai työkalu olisi hyvä kaikessa. Sen sijaan, että olisimme nojanneet yhteen malliin, rakensimme orkestrointikerroksen, joka toimii useiden mallien, työkalujen ja tietolähteiden päällä.
Tämä orkestroija toimii päätöksentekokerroksena. Kun käyttäjä esittää kysymyksen, se päättää, mitä mallia tai resurssia tulisi käyttää. Joskus se käyttää yhtä. Joskus se yhdistää useita ja kokoaa tulokset yhteen. Tavoitteena ei ole näyttää monimutkaisuutta, vaan piilottaa se yksinkertaisen käyttökokemuksen taakse.
Tuloksena on järjestelmä, joka tuntuu mukautuvalta. Esität kysymyksen, ja järjestelmä selvittää, miten siihen vastataan tehokkaimmalla mahdollisella tavalla. Tämä on hengeltään hyvin lähellä sitä, mitä MOE ehdottaa mallitasolla, mutta sovellettuna järjestelmätasolle.
AGI ei ole vielä saapunut. Mutta MOE:n kaltaiset ideat osoittavat, että tie eteenpäin ei ole pelkästään mittakaavan kasvattamista. Kyse on rakenteesta, koordinoinnista ja resurssien älykkäämmästä käytöstä.
Jos haluat nähdä käytännössä, miltä tällainen lähestymistapa tuntuu, voit kokeilla Dvinaa ilmaiseksi osoitteessa https://dvina.ai. Se ei ole AGI, mutta antaa pienen välähdyksen siitä, miten tulevaisuuden tekoälyjärjestelmät saattavat ajatella ja toimia.
