Nvidia 的 MOE 与通往 AGI 之路:Dvina 如何让你今天就体验未来的 AI

Ömer Odabaş
阅读需 1 分钟 • 
许多研究者认为,这一方向对实现通用人工智能(AGI)这一长期目标很重要。一个能够处理多种不同问题的系统,需要的不只是规模。它需要决策能力,需要知道何时该使用哪些能力。

人工智能正处于一个很有意思的时刻。很长一段时间以来,AI 的进步遵循着一条简单的规则:把模型做得更大。更多参数、更多数据、更多算力。这种方法确实有效,但也带来了严重的问题。训练大型模型成本高、耗时长,而且消耗大量能源。

最近,Nvidia 提出了一种不同的思路,称为混合专家模型(Mixture of Experts,简称 MOE)。模型不再为每项任务激活整个神经网络,而是学会选择系统中真正需要的部分。每个部分都像某个特定领域的专家。对于任何一个具体问题,系统只会使用最相关的专家。

这让系统更高效,也更灵活,类似于人们的工作方式。你不会遇到每个问题都向所有认识的人求助,而是会找最适合处理当前情况的人。借助 MOE,AI 系统可以变得更聪明,而不必变得过于笨重。

许多研究者认为,这一方向对实现通用人工智能(AGI)这一长期目标很重要。一个能够处理多种不同问题的系统,需要的不只是规模。它需要决策能力,需要知道何时该使用哪些能力。

这一思路并不局限于研究论文。

事实上,我们在 Dvina 中一直采用类似的方法。从一开始,我们就认为,没有任何单一的语言模型或工具能样样精通。因此,我们没有依赖单一模型,而是在多个模型、工具和数据源之上构建了一个编排层。

这个编排层负责决策。当用户提出问题时,它会决定应该使用哪个模型或资源。有时只使用一个,有时则结合多个,并合并结果。目的不是展示复杂性,而是将复杂性隐藏在简洁的体验背后。

最终得到的是一个让人感觉能灵活应变的系统。你提出问题,系统便会判断如何以最高效的方式回答。从理念上看,这与 MOE 在模型层面提出的思路非常接近,只是将其应用到了系统层面。

AGI 尚未到来。但 MOE 这样的思路表明,未来的发展不只是扩大规模,还在于结构、协同,以及更明智地利用资源。

If you are curious what this kind of approach feels like in practice, you can try Dvina for free at https://dvina.ai. It is not AGI, but it gives a small glimpse into how future AI systems may think and operate.

加入 Dvina

免费注册,将你的所有工具整合到一个简洁的工作空间。

探索更多