A inteligência artificial vive um momento interessante. Durante muito tempo, o progresso na IA seguiu uma regra simples: tornar os modelos maiores. Mais parâmetros, mais dados, mais capacidade de computação. Esta abordagem funcionou, mas também criou problemas sérios. Treinar modelos de grande dimensão é caro, demora muito tempo e consome uma enorme quantidade de energia.
Recentemente, a Nvidia apresentou uma ideia diferente chamada Mixture of Experts, ou MOE. Em vez de ativar toda a rede neuronal para cada tarefa, o modelo aprende a escolher as partes do sistema que são realmente necessárias. Cada parte funciona como um especialista numa área específica. Para cada pergunta, são usados apenas os especialistas mais relevantes.
Isto torna o sistema mais eficiente e mais flexível. É semelhante à forma como as pessoas trabalham. Não pede ajuda a todas as pessoas que conhece para resolver cada problema. Pede-a a quem está mais bem preparado para essa situação. Com o MOE, os sistemas de IA podem tornar-se mais inteligentes sem ficarem desnecessariamente pesados.
Muitos investigadores acreditam que esta abordagem é importante para o objetivo de longo prazo de alcançar a inteligência artificial geral, ou AGI. Um sistema capaz de lidar com muitos tipos diferentes de problemas precisa de mais do que uma grande dimensão. Precisa de capacidade de decisão. Precisa de saber que capacidades usar e quando.
Esta ideia não se limita aos artigos de investigação.
Na verdade, temos vindo a trabalhar com uma abordagem semelhante na Dvina. Desde o início, partimos do princípio de que nenhum modelo de linguagem ou ferramenta, por si só, seria bom em tudo. Em vez de depender de um único modelo, construímos uma camada de orquestração sobre vários modelos, ferramentas e fontes de dados.
Este orquestrador funciona como uma camada de decisão. Quando um utilizador faz uma pergunta, decide que modelo ou recurso deve ser usado. Por vezes, usa apenas um. Outras vezes, combina vários e reúne os resultados. O objetivo não é mostrar a complexidade, mas escondê-la por trás de uma experiência simples.
O resultado é um sistema que dá a sensação de se adaptar. Faz uma pergunta e o sistema determina como responder da forma mais eficiente. O princípio é muito próximo do que o MOE propõe ao nível do modelo, mas aplicado ao nível do sistema.
A AGI ainda não chegou. Mas ideias como o MOE mostram que o caminho a seguir não passa apenas pela escala. Passa pela estrutura, pela coordenação e por uma utilização mais inteligente dos recursos.
Se tem curiosidade em saber como é usar este tipo de abordagem na prática, pode experimentar a Dvina gratuitamente em https://dvina.ai. Não é AGI, mas dá uma pequena ideia de como os futuros sistemas de IA poderão pensar e funcionar.
