Süni intellekt üçün maraqlı bir dövrdəyik. Uzun müddət AI sahəsində irəliləyiş sadə bir qaydaya əsaslanırdı: modelləri böyütmək. Daha çox parametr, daha çox data, daha çox hesablama gücü. Bu işləyirdi, amma eyni zamanda ciddi problemlər də yaradırdı. Böyük modellərin öyrədilməsi bahalıdır, ləngdir və çox böyük həcmdə enerji sərf edir.
Bu yaxınlarda Nvidia Mixture of Experts, yəni MOE adlanan fərqli bir ideya təqdim etdi. Hər tapşırıq üçün bütün neyron şəbəkəni aktivləşdirmək əvəzinə, model sistemin əslində hansı hissələrinin lazım olduğunu seçməyi öyrənir. Hər hissə müəyyən bir sahədə ekspert kimi fəaliyyət göstərir. Verilən hər sual üçün yalnız ən uyğun ekspertlər istifadə olunur.
Bu, sistemi daha səmərəli və daha çevik edir. Bu, insanların işləmə tərzinə bənzəyir. Siz hər problemi həll etmək üçün tanıdığınız hər kəsdən kömək istəmirsiniz. Həmin vəziyyətə ən uyğun olanlara müraciət edirsiniz. MOE ilə AI sistemləri lazımsız dərəcədə ağırlaşmadan daha ağıllı ola bilir.
Bir çox tədqiqatçı hesab edir ki, bu istiqamət Süni Ümumi İntellektin, yəni AGI-nin uzunmüddətli hədəfi üçün vacibdir. Çox fərqli növ problemlərin öhdəsindən gələ bilən sistemə təkcə böyük ölçü kifayət etmir. Ona qərarvermə lazımdır. Hansı imkanlardan nə vaxt istifadə etməli olduğunu bilməlidir.
Bu ideya yalnız tədqiqat məqalələri ilə məhdudlaşmır.
Əslində, biz Dvina-da oxşar yanaşma ilə işləyirik. Ən başdan belə qəbul etmişdik ki, heç bir tək dil modeli və ya alət hər şeydə yaxşı ola bilməz. Bir modelə güvənmək əvəzinə, bir neçə modelin, alətin və data mənbəyinin üzərində işləyən orkestrator qatı qurduq.
Bu orkestrator qərarvermə qatı kimi işləyir. İstifadəçi sual verəndə, hansı modeldən və ya resursdan istifadə olunmalı olduğuna o qərar verir. Bəzən birindən istifadə edir. Bəzən bir neçəsini birləşdirir və nəticələri bir araya gətirir. Məqsəd mürəkkəbliyi göstərmək deyil, onu sadə bir təcrübənin arxasında gizlətməkdir.
Nəticədə adaptiv hiss olunan bir sistem ortaya çıxır. Siz sual verirsiniz, sistem isə ona ən səmərəli şəkildə necə cavab verməyi özü müəyyənləşdirir. Bu, mahiyyət etibarilə MOE-nin model səviyyəsində təklif etdiyinə çox yaxındır, sadəcə sistem səviyyəsində tətbiq olunub.
AGI hələ gəlib çatmayıb. Amma MOE kimi ideyalar göstərir ki, irəliyə gedən yol təkcə miqyasla bağlı deyil. Söhbət strukturdan, koordinasiyadan və resurslardan daha ağıllı istifadə etməkdən gedir.
If you are curious what this kind of approach feels like in practice, you can try Dvina for free at https://dvina.ai. It is not AGI, but it gives a small glimpse into how future AI systems may think and operate.
