కృత్రిమ మేధస్సుకు ఇది ఆసక్తికరమైన దశ. చాలా కాలంగా AIలో పురోగతి ఒక సరళమైన సూత్రాన్ని అనుసరించింది: మోడళ్లను మరింత పెద్దవిగా చేయడం. మరిన్ని పారామీటర్లు, మరింత డేటా, మరింత గణన సామర్థ్యం. ఈ విధానం పనిచేసింది, కానీ తీవ్రమైన సమస్యలనూ తెచ్చిపెట్టింది. పెద్ద మోడళ్లకు శిక్షణ ఇవ్వడం ఖరీదైన పని, ఎక్కువ సమయం పడుతుంది, విపరీతమైన శక్తిని వినియోగిస్తుంది.
ఇటీవల Nvidia, Mixture of Experts, లేదా MOE, అనే భిన్నమైన ఆలోచనను పరిచయం చేసింది. ప్రతి పని కోసం మొత్తం న్యూరల్ నెట్వర్క్ను చురుకుగా చేయడానికి బదులు, వ్యవస్థలో నిజంగా ఏ భాగాలు అవసరమో ఎంచుకోవడం మోడల్ నేర్చుకుంటుంది. ప్రతి భాగం ఒక నిర్దిష్ట రంగంలో నిపుణుడిలా పనిచేస్తుంది. ఏ ప్రశ్నకైనా, దానికి అత్యంత సంబంధిత నిపుణులను మాత్రమే ఉపయోగిస్తుంది.
దీనివల్ల వ్యవస్థ మరింత సమర్థవంతంగా, అవసరాలకు అనుగుణంగా మారగలిగేలా ఉంటుంది. ఇది మనుషులు పనిచేసే విధానం లాంటిదే. ప్రతి సమస్యకూ మీకు తెలిసిన ప్రతి ఒక్కరినీ సహాయం అడగరు. ఆ పరిస్థితికి బాగా సరిపోయే వారినే అడుగుతారు. MOEతో, AI వ్యవస్థలు అనవసరంగా భారంగా మారకుండా మరింత తెలివిగా ఎదగగలవు.
చాలా మంది పరిశోధకులు Artificial General Intelligence, లేదా AGI, అనే దీర్ఘకాలిక లక్ష్యాన్ని చేరుకోవడానికి ఈ దిశ ముఖ్యమని భావిస్తున్నారు. ఎన్నో రకాల సమస్యలను పరిష్కరించగల వ్యవస్థకు కేవలం భారీ పరిమాణం సరిపోదు. నిర్ణయాలు తీసుకునే సామర్థ్యం అవసరం. ఏ సామర్థ్యాలను ఎప్పుడు ఉపయోగించాలో దానికి తెలియాలి.
ఈ ఆలోచన పరిశోధనా పత్రాలకే పరిమితం కాదు.
నిజానికి, Dvinaలో మేము ఇలాంటి విధానంతోనే పనిచేస్తున్నాము. ఏ ఒక్క భాషా మోడల్ లేదా సాధనం అన్నింటిలోనూ సమర్థంగా ఉండదని మొదటి నుంచీ భావించాము. ఒకే మోడల్పై ఆధారపడకుండా, అనేక మోడళ్లు, సాధనాలు, డేటా వనరుల పైన పనిచేసే సమన్వయ పొరను నిర్మించాము.
ఈ సమన్వయ పొర నిర్ణయాలు తీసుకునే పొరగా పనిచేస్తుంది. వినియోగదారు ప్రశ్న అడిగినప్పుడు, ఏ మోడల్ లేదా వనరును ఉపయోగించాలో నిర్ణయిస్తుంది. కొన్నిసార్లు ఒక్కదానినే ఉపయోగిస్తుంది. మరికొన్నిసార్లు అనేక వాటిని కలిపి ఉపయోగించి, వాటి ఫలితాలను ఒకటిగా చేరుస్తుంది. సంక్లిష్టతను చూపించడం మా లక్ష్యం కాదు; సరళమైన అనుభవం వెనుక దాన్ని దాచడమే లక్ష్యం.
ఫలితంగా, అవసరానికి అనుగుణంగా స్పందించే వ్యవస్థగా ఇది అనిపిస్తుంది. మీరు ప్రశ్న అడిగితే, దానికి అత్యంత సమర్థవంతంగా ఎలా సమాధానం ఇవ్వాలో వ్యవస్థ గుర్తిస్తుంది. దీని మూల భావన, మోడల్ స్థాయిలో MOE ప్రతిపాదించేదానికి చాలా దగ్గరగా ఉంటుంది, కానీ ఇక్కడ అది వ్యవస్థ స్థాయిలో అమలవుతుంది.
AGI ఇంకా రాలేదు. కానీ MOE వంటి ఆలోచనలు ముందుకు సాగే మార్గం కేవలం పరిమాణాన్ని పెంచడమే కాదని చూపిస్తున్నాయి. అది నిర్మాణం, సమన్వయం, వనరులను మరింత తెలివిగా ఉపయోగించడం మీద ఆధారపడి ఉంటుంది.
If you are curious what this kind of approach feels like in practice, you can try Dvina for free at https://dvina.ai. It is not AGI, but it gives a small glimpse into how future AI systems may think and operate.
