Είναι μια ενδιαφέρουσα στιγμή για την τεχνητή νοημοσύνη. Για πολύ καιρό, η πρόοδος στην AI ακολουθούσε έναν απλό κανόνα: κάντε τα μοντέλα μεγαλύτερα. Περισσότερες παράμετροι, περισσότερα δεδομένα, περισσότερη υπολογιστική ισχύς. Αυτό λειτούργησε, αλλά δημιούργησε και σοβαρά προβλήματα. Η εκπαίδευση μεγάλων μοντέλων είναι ακριβή, αργή και καταναλώνει τεράστια ποσότητα ενέργειας.
Πρόσφατα, η Nvidia παρουσίασε μια διαφορετική ιδέα που ονομάζεται Mixture of Experts, ή MOE. Αντί να ενεργοποιείται ολόκληρο το νευρωνικό δίκτυο για κάθε εργασία, το μοντέλο μαθαίνει να επιλέγει ποια μέρη του συστήματος χρειάζονται πραγματικά. Κάθε μέρος λειτουργεί σαν ειδικός σε έναν συγκεκριμένο τομέα. Για κάθε δεδομένη ερώτηση, χρησιμοποιούνται μόνο οι πιο σχετικοί ειδικοί.
Αυτό κάνει το σύστημα πιο αποδοτικό και πιο ευέλικτο. Είναι παρόμοιο με το πώς λειτουργούν οι άνθρωποι. Δεν ζητάτε βοήθεια από κάθε άνθρωπο που γνωρίζετε για κάθε πρόβλημα. Ζητάτε από εκείνους που ταιριάζουν καλύτερα στη συγκεκριμένη περίπτωση. Με το MOE, τα συστήματα AI μπορούν να γίνονται πιο έξυπνα χωρίς να γίνονται αχρείαστα βαριά.
Πολλοί ερευνητές πιστεύουν ότι αυτή η κατεύθυνση είναι σημαντική για τον μακροπρόθεσμο στόχο της Τεχνητής Γενικής Νοημοσύνης, ή AGI. Ένα σύστημα που μπορεί να διαχειρίζεται πολλά διαφορετικά είδη προβλημάτων χρειάζεται κάτι περισσότερο από απλό μέγεθος. Χρειάζεται λήψη αποφάσεων. Χρειάζεται να γνωρίζει ποιες δυνατότητες να χρησιμοποιεί και πότε.
Αυτή η ιδέα δεν περιορίζεται στα ερευνητικά άρθρα.
Στην πραγματικότητα, εργαζόμαστε με μια παρόμοια προσέγγιση στο Dvina. Από την αρχή, θεωρήσαμε ότι κανένα μεμονωμένο γλωσσικό μοντέλο ή εργαλείο δεν θα ήταν καλό σε όλα. Αντί να βασιστούμε σε ένα μοντέλο, δημιουργήσαμε ένα επίπεδο ενορχήστρωσης που βρίσκεται πάνω από πολλαπλά μοντέλα, εργαλεία και πηγές δεδομένων.
Αυτός ο ενορχηστρωτής λειτουργεί ως επίπεδο λήψης αποφάσεων. Όταν ένας χρήστης κάνει μια ερώτηση, αποφασίζει ποιο μοντέλο ή ποιος πόρος πρέπει να χρησιμοποιηθεί. Μερικές φορές χρησιμοποιεί ένα. Μερικές φορές συνδυάζει περισσότερα και ενοποιεί τα αποτελέσματα. Ο στόχος δεν είναι να δείξει την πολυπλοκότητα, αλλά να την κρύψει πίσω από μια απλή εμπειρία.
Το αποτέλεσμα είναι ένα σύστημα που μοιάζει προσαρμοστικό. Κάνετε μια ερώτηση και το σύστημα βρίσκει πώς να την απαντήσει με τον πιο αποδοτικό τρόπο. Αυτό είναι πολύ κοντά, ως προς το πνεύμα, σε αυτό που προτείνει το MOE σε επίπεδο μοντέλου, αλλά εφαρμοσμένο σε επίπεδο συστήματος.
Το AGI δεν έχει φτάσει ακόμη. Όμως ιδέες όπως το MOE δείχνουν ότι ο δρόμος μπροστά δεν αφορά μόνο την κλίμακα. Αφορά τη δομή, τον συντονισμό και την εξυπνότερη χρήση των πόρων.
Αν σας κινεί η περιέργεια να δείτε πώς είναι στην πράξη αυτού του είδους η προσέγγιση, μπορείτε να δοκιμάσετε το Dvina δωρεάν στο https://dvina.ai. Δεν είναι AGI, αλλά προσφέρει μια μικρή ματιά στο πώς μπορεί να σκέφτονται και να λειτουργούν τα μελλοντικά συστήματα AI.
