செயற்கை நுண்ணறிவுக்கு இது ஒரு சுவாரஸ்யமான தருணம். நீண்ட காலமாக, AI-யின் முன்னேற்றம் ஒரு எளிய விதியைப் பின்பற்றியது: மாடல்களை இன்னும் பெரியதாக மாற்றுவது. அதிக parameters, அதிக data, அதிக compute. இது வேலை செய்தது, ஆனால் அதே நேரத்தில் கடுமையான சிக்கல்களையும் உருவாக்கியது. பெரிய மாடல்களை பயிற்றுவிப்பது செலவானது, மெதுவானது, மேலும் மிகப் பெரிய அளவு ஆற்றலை நுகர்கிறது.
சமீபத்தில், Nvidia Mixture of Experts, அல்லது MOE எனப்படும் ஒரு வேறுபட்ட யோசனையை அறிமுகப்படுத்தியது. ஒவ்வொரு பணிக்கும் முழு neural network-ஐ செயல்படுத்துவதற்குப் பதிலாக, அமைப்பின் எந்த பகுதிகள் உண்மையில் தேவை என்பதை மாடல் கற்றுக்கொண்டு தேர்வு செய்கிறது. ஒவ்வொரு பகுதியும் ஒரு குறிப்பிட்ட துறையில் நிபுணரைப் போல செயல்படுகிறது. எந்த ஒரு கேள்விக்காகவும், அதற்கு மிகவும் தொடர்புடைய நிபுணர்களே பயன்படுத்தப்படுகிறார்கள்.
இதனால் அமைப்பு மேலும் திறமையானதாகவும் மேலும் நெகிழ்வானதாகவும் மாறுகிறது. இது மனிதர்கள் செயல்படும் முறையைப் போன்றது. ஒவ்வொரு பிரச்சினைக்கும் நீங்கள் அறிந்திருக்கும் எல்லோரிடமும் உதவி கேட்க மாட்டீர்கள். அந்த சூழ்நிலைக்கு மிகவும் பொருத்தமானவர்களிடமே கேட்பீர்கள். MOE மூலம், தேவையற்ற அளவு கனமாகாமல் AI அமைப்புகள் மேலும் புத்திசாலித்தனமாக வளர முடியும்.
பல ஆய்வாளர்கள், இந்த திசை Artificial General Intelligence, அல்லது AGI என்ற நீண்டகால இலக்கிற்கு முக்கியமானது என்று நம்புகின்றனர். பல்வேறு வகையான பிரச்சினைகளை கையாளக்கூடிய ஒரு அமைப்பிற்கு வெறும் அளவு மட்டும் போதாது. அதற்கு முடிவெடுக்கும் திறன் தேவை. எந்த திறன்களை எப்போது பயன்படுத்த வேண்டும் என்பதை அது அறிந்திருக்க வேண்டும்.
இந்த யோசனை ஆய்வுக் கட்டுரைகளுக்குள் மட்டும் கட்டுப்பட்டதல்ல.
உண்மையில், Dvina-வில் நாங்களும் இதற்கு ஒத்த ஒரு அணுகுமுறையுடன் பணியாற்றி வருகிறோம். ஆரம்பத்திலிருந்தே, எந்த ஒரு language model-உம் அல்லது கருவியும் எல்லாவற்றிலும் சிறந்ததாக இருக்காது என்று நாங்கள் கருதினோம். ஒரே ஒரு model-ஐ நம்புவதற்குப் பதிலாக, பல models, tools, மற்றும் data sources-களின் மேல் அமரும் ஒரு orchestrator layer-ஐ நாங்கள் உருவாக்கினோம்.
இந்த orchestrator ஒரு decision layer ஆக செயல்படுகிறது. ஒரு பயனர் கேள்வி கேட்டால், எந்த model அல்லது resource பயன்படுத்தப்பட வேண்டும் என்பதை அது தீர்மானிக்கிறது. சில நேரங்களில் அது ஒன்றைப் பயன்படுத்தும். சில நேரங்களில் பலவற்றை இணைத்து, முடிவுகளை ஒன்றாகச் சேர்க்கும். நோக்கம் சிக்கல்தன்மையை காட்டுவது அல்ல; அதை ஒரு எளிய அனுபவத்தின் பின்னால் மறைப்பதே.
இதன் விளைவாக, தழுவிக்கொள்ளும் தன்மை கொண்டதாக உணரப்படும் ஒரு அமைப்பு உருவாகிறது. நீங்கள் ஒரு கேள்வி கேட்கிறீர்கள்; அதற்கு மிகச் செயல்திறனான முறையில் எப்படி பதிலளிக்க வேண்டும் என்பதை அமைப்பு கண்டுபிடிக்கிறது. இது, MOE மாடல் மட்டத்தில் முன்வைக்கும் கருத்தின் உணர்வுக்கு மிகவும் நெருக்கமானது, ஆனால் இது அமைப்பு மட்டத்தில் பயன்படுத்தப்படுகிறது.
AGI இன்னும் வரவில்லை. ஆனால் MOE போன்ற யோசனைகள், முன்னேறும் பாதை வெறும் அளவைப் பற்றியது மட்டுமல்ல என்பதை காட்டுகின்றன. அது கட்டமைப்பு, ஒருங்கிணைப்பு, மற்றும் வளங்களை இன்னும் புத்திசாலித்தனமாக பயன்படுத்துவது பற்றியது.
If you are curious what this kind of approach feels like in practice, you can try Dvina for free at https://dvina.ai. It is not AGI, but it gives a small glimpse into how future AI systems may think and operate.
