Yapay zekâ için ilginç bir dönemdeyiz. Uzun süre boyunca yapay zekâdaki ilerleme basit bir kurala uydu: modelleri büyütmek. Daha fazla parametre, daha fazla veri, daha fazla hesaplama gücü. Bu işe yaradı, ancak ciddi sorunlar da yarattı. Büyük modelleri eğitmek pahalıdır, yavaştır ve çok büyük miktarda enerji tüketir.
Kısa süre önce Nvidia, Mixture of Experts ya da MOE adı verilen farklı bir fikir ortaya koydu. Model, her görev için tüm sinir ağını etkinleştirmek yerine, sistemin hangi bölümlerine gerçekten ihtiyaç duyulduğunu seçmeyi öğreniyor. Her bölüm, belirli bir alanda uzman gibi davranıyor. Belirli bir soru için yalnızca en ilgili uzmanlar kullanılıyor.
Bu, sistemi hem daha verimli hem de daha esnek hâle getiriyor. Bu, insanların çalışma biçimine benziyor. Her problemde yardım için tanıdığınız herkese gitmezsiniz. O duruma en uygun olan kişilere gidersiniz. MOE ile yapay zekâ sistemleri gereksiz yere ağırlaşmadan daha akıllı hâle gelebilir.
Pek çok araştırmacı, bu yönelimin Yapay Genel Zekâ’nın, yani AGI’nin uzun vadeli hedefi açısından önemli olduğuna inanıyor. Birçok farklı türde problemi ele alabilen bir sistemin yalnızca ham ölçekten fazlasına ihtiyacı vardır. Karar verebilmesi gerekir. Hangi yetenekleri ne zaman kullanacağını bilmesi gerekir.
Bu fikir araştırma makaleleriyle sınırlı değil.
Aslında Dvina'da benzer bir yaklaşımla çalışıyoruz. En başından beri, tek bir dil modelinin ya da aracın her konuda iyi olmayacağını varsaydık. Tek bir modele güvenmek yerine, birden fazla modelin, aracın ve veri kaynağının üzerinde yer alan bir orkestrasyon katmanı inşa ettik.
Bu orkestrasyon katmanı bir karar katmanı olarak çalışır. Bir kullanıcı soru sorduğunda, hangi modelin ya da kaynağın kullanılacağına karar verir. Bazen birini kullanır. Bazen birkaçını birleştirir ve sonuçları bir araya getirir. Amaç karmaşıklığı göstermek değil, onu basit bir deneyimin arkasına gizlemektir.
Ortaya çıkan sonuç, uyarlanabilir hissettiren bir sistemdir. Siz bir soru sorarsınız ve sistem buna en verimli şekilde nasıl yanıt vereceğini çözer. Bu, ruh olarak MOE’nin model düzeyinde önerdiği şeye çok yakındır, ancak sistem düzeyine uygulanmıştır.
AGI henüz gelmedi. Ancak MOE gibi fikirler, ileriye giden yolun yalnızca ölçekle ilgili olmadığını gösteriyor. Mesele yapı, koordinasyon ve kaynakların daha akıllıca kullanımıdır.
If you are curious what this kind of approach feels like in practice, you can try Dvina for free at https://dvina.ai. It is not AGI, but it gives a small glimpse into how future AI systems may think and operate.
