È un momento interessante per l’intelligenza artificiale. Per molto tempo, i progressi nell’AI hanno seguito una regola semplice: rendere i modelli più grandi. Più parametri, più dati, più potenza di calcolo. Questo ha funzionato, ma ha anche creato problemi seri. Addestrare modelli di grandi dimensioni è costoso, lento e consuma un’enorme quantità di energia.
Di recente, Nvidia ha introdotto un’idea diversa chiamata Mixture of Experts, o MOE. Invece di attivare l’intera rete neurale per ogni compito, il modello impara a scegliere quali parti del sistema sono davvero necessarie. Ogni parte agisce come un esperto in un’area specifica. Per una determinata domanda, vengono usati solo gli esperti più pertinenti.
Questo rende il sistema più efficiente e più flessibile. È simile a come lavorano le persone. Non chiedi aiuto per ogni problema a tutte le persone che conosci. Lo chiedi a quelle più adatte a quella situazione. Con il MOE, i sistemi di AI possono diventare più intelligenti senza diventare inutilmente pesanti.
Molti ricercatori ritengono che questa direzione sia importante per l’obiettivo a lungo termine dell’Artificial General Intelligence, o AGI. Un sistema in grado di affrontare molti tipi diversi di problemi ha bisogno di più della sola scala. Ha bisogno di capacità decisionale. Deve sapere quali capacità usare e quando.
Questa idea non è limitata agli articoli di ricerca.
In effetti, in Dvina lavoriamo da tempo con un approccio simile. Fin dall’inizio, abbiamo dato per scontato che nessun singolo modello linguistico o strumento sarebbe stato bravo in tutto. Invece di affidarci a un solo modello, abbiamo costruito un livello di orchestrazione che si colloca sopra più modelli, strumenti e fonti di dati.
Questo orchestratore funziona come un livello decisionale. Quando un utente pone una domanda, decide quale modello o risorsa debba essere usato. A volte ne usa uno. A volte ne combina diversi e unisce i risultati. L’obiettivo non è mostrare la complessità, ma nasconderla dietro un’esperienza semplice.
Il risultato è un sistema che dà l’impressione di adattarsi. Fai una domanda e il sistema capisce come rispondere nel modo più efficiente. Nello spirito, è molto vicino a ciò che il MOE propone a livello di modello, ma applicato a livello di sistema.
L’AGI non è ancora arrivata. Ma idee come il MOE mostrano che la strada da seguire non riguarda solo la scala. Riguarda la struttura, il coordinamento e un uso più intelligente delle risorse.
Se sei curioso di capire come si traduce in pratica questo tipo di approccio, puoi provare Dvina gratuitamente su https://dvina.ai. Non è AGI, ma offre un piccolo assaggio di come i futuri sistemi di AI potrebbero pensare e operare.
