هوش مصنوعی روزهای جالبی را میگذراند. برای مدت طولانی، پیشرفت در هوش مصنوعی از یک قاعده ساده پیروی میکرد: مدلها را بزرگتر کنید. پارامترهای بیشتر، دادههای بیشتر، توان محاسباتی بیشتر. این رویکرد جواب میداد، اما مشکلات جدی هم ایجاد میکرد. آموزش مدلهای بزرگ پرهزینه و کند است و انرژی بسیار زیادی مصرف میکند.
اخیراً Nvidia ایده متفاوتی به نام «ترکیب متخصصان» یا MOE معرفی کرده است. بهجای فعال کردن کل شبکه عصبی برای هر کار، مدل یاد میگیرد انتخاب کند کدام بخشهای سیستم واقعاً لازماند. هر بخش مانند یک متخصص در حوزهای مشخص عمل میکند. برای هر پرسش، فقط مرتبطترین متخصصان به کار گرفته میشوند.
این کار سیستم را کارآمدتر و انعطافپذیرتر میکند. شبیه شیوه کار انسانهاست. شما برای هر مسئله از همه کسانی که میشناسید کمک نمیخواهید؛ سراغ کسانی میروید که برای آن موقعیت مناسبترند. با MOE، سیستمهای هوش مصنوعی میتوانند هوشمندتر شوند، بدون اینکه بیدلیل سنگینتر شوند.
بسیاری از پژوهشگران معتقدند این مسیر برای هدف بلندمدت دستیابی به هوش عمومی مصنوعی، یا AGI، اهمیت دارد. سیستمی که بتواند انواع مختلف مسائل را حل کند، به چیزی فراتر از بزرگتر شدن نیاز دارد. باید بتواند تصمیم بگیرد و بداند کدام قابلیتها را در چه زمانی به کار بگیرد.
این ایده به مقالههای پژوهشی محدود نمیشود.
در واقع، ما در Dvina با رویکردی مشابه کار کردهایم. از همان ابتدا، فرض ما این بود که هیچ مدل زبانی یا ابزاری بهتنهایی در همه کارها خوب عمل نمیکند. بهجای تکیه بر یک مدل، یک لایه هماهنگکننده ساختهایم که بر فراز چندین مدل، ابزار و منبع داده قرار میگیرد.
این هماهنگکننده نقش یک لایه تصمیمگیری را دارد. وقتی کاربر پرسشی مطرح میکند، تصمیم میگیرد از کدام مدل یا منبع استفاده شود. گاهی فقط از یکی استفاده میکند. گاهی چند مورد را با هم ترکیب و نتایج را ادغام میکند. هدف، نمایش پیچیدگی نیست، بلکه پنهان کردن آن پشت تجربهای ساده است.
نتیجه، سیستمی است که انطباقپذیر به نظر میرسد. شما پرسشی مطرح میکنید و سیستم تشخیص میدهد چگونه به کارآمدترین شکل به آن پاسخ دهد. این رویکرد از نظر منطق کلی بسیار به آنچه MOE در سطح مدل پیشنهاد میکند نزدیک است، اما در سطح سیستم به کار گرفته شده است.
AGI هنوز از راه نرسیده است. اما ایدههایی مانند MOE نشان میدهند که مسیر پیش رو فقط به مقیاس وابسته نیست؛ ساختار، هماهنگی و استفاده هوشمندانهتر از منابع هم در آن نقش دارند.
If you are curious what this kind of approach feels like in practice, you can try Dvina for free at https://dvina.ai. It is not AGI, but it gives a small glimpse into how future AI systems may think and operate.
