Ini ialah saat yang menarik untuk kecerdasan buatan. Untuk sekian lama, kemajuan dalam AI mengikuti satu peraturan mudah: jadikan model lebih besar. Lebih banyak parameter, lebih banyak data, lebih banyak kuasa pengkomputeran. Ini berhasil, tetapi ia juga menimbulkan masalah yang serius. Melatih model besar adalah mahal, perlahan, dan menggunakan jumlah tenaga yang sangat besar.
Baru-baru ini, Nvidia memperkenalkan idea berbeza yang dipanggil Mixture of Experts, atau MOE. Daripada mengaktifkan keseluruhan rangkaian neural bagi setiap tugasan, model belajar memilih bahagian sistem yang benar-benar diperlukan. Setiap bahagian bertindak seperti pakar dalam bidang tertentu. Untuk mana-mana soalan yang diberikan, hanya pakar yang paling relevan digunakan.
Ini menjadikan sistem lebih cekap dan lebih fleksibel. Ia serupa dengan cara manusia bekerja. Anda tidak meminta setiap orang yang anda kenal untuk membantu bagi setiap masalah. Anda meminta mereka yang paling sesuai untuk situasi itu. Dengan MOE, sistem AI boleh menjadi lebih pintar tanpa menjadi terlalu berat secara tidak perlu.
Ramai penyelidik percaya hala tuju ini penting untuk matlamat jangka panjang Artificial General Intelligence, atau AGI. Sistem yang boleh menangani pelbagai jenis masalah memerlukan lebih daripada sekadar saiz mentah. Ia memerlukan keupayaan membuat keputusan. Ia perlu tahu keupayaan mana yang harus digunakan dan bila.
Idea ini tidak terhad kepada kertas penyelidikan.
Malah, kami telah bekerja dengan pendekatan yang serupa dalam Dvina. Sejak awal, kami mengandaikan bahawa tiada satu model bahasa atau alat pun yang akan bagus dalam semua perkara. Daripada bergantung pada satu model, kami membina lapisan orkestrator yang berada di atas pelbagai model, alat, dan sumber data.
Orkestrator ini berfungsi sebagai lapisan keputusan. Apabila pengguna mengemukakan soalan, ia memutuskan model atau sumber mana yang patut digunakan. Kadangkala ia menggunakan satu. Kadangkala ia menggabungkan beberapa dan menyatukan hasilnya. Matlamatnya bukan untuk menunjukkan kerumitan, tetapi untuk menyembunyikannya di sebalik pengalaman yang ringkas.
Hasilnya ialah sistem yang terasa adaptif. Anda mengemukakan soalan, dan sistem menentukan cara untuk menjawabnya dengan cara yang paling cekap. Ini sangat hampir dari segi semangat dengan apa yang dicadangkan oleh MOE pada peringkat model, tetapi diterapkan pada peringkat sistem.
AGI masih belum tiba. Tetapi idea seperti MOE menunjukkan bahawa laluan ke hadapan bukan sekadar tentang skala. Ia tentang struktur, penyelarasan, dan penggunaan sumber yang lebih bijak.
Jika anda ingin tahu bagaimana pendekatan seperti ini terasa dalam amalan, anda boleh mencuba Dvina secara percuma di https://dvina.ai. Ia bukan AGI, tetapi ia memberikan gambaran kecil tentang bagaimana sistem AI masa depan mungkin berfikir dan beroperasi.
