కృత్రిమ మేధస్సుకు ఇది ఒక ఆసక్తికరమైన దశ. చాలా కాలం పాటు, AIలో పురోగతి ఒక సరళమైన నియమాన్ని అనుసరించింది: మోడళ్లను మరింత పెద్దవిగా చేయడం. ఎక్కువ parameters, ఎక్కువ data, ఎక్కువ compute. ఇది పనిచేసింది, కానీ అదే సమయంలో తీవ్రమైన సమస్యలను కూడా సృష్టించింది. పెద్ద మోడళ్లను ట్రెయిన్ చేయడం ఖరీదైనది, నెమ్మదిగా జరుగుతుంది, అలాగే విపరీతమైన శక్తిని వినియోగిస్తుంది.
ఇటీవల, Nvidia Mixture of Experts, లేదా MOE, అనే భిన్నమైన ఆలోచనను పరిచయం చేసింది. ప్రతి పనికీ మొత్తం neural networkను యాక్టివేట్ చేయడం బదులుగా, వ్యవస్థలో నిజంగా అవసరమైన భాగాలను ఏవో మోడల్ నేర్చుకుని ఎంచుకుంటుంది. ప్రతి భాగం ఒక నిర్దిష్ట రంగంలో నిపుణుడిలా పనిచేస్తుంది. ఏ ప్రశ్నకైనా, అత్యంత సంబంధిత నిపుణులనే ఉపయోగిస్తారు.
దీంతో వ్యవస్థ మరింత సమర్థవంతంగా, మరింత అనువుగా మారుతుంది. ఇది మనుషులు పనిచేసే విధానానికి సమానంగా ఉంటుంది. ప్రతి సమస్యకు మీకు తెలిసిన ప్రతి ఒక్కరిని సహాయం కోసం అడగరు. ఆ పరిస్థితికి అత్యంత సరిపోయే వారినే అడుగుతారు. MOEతో, AI వ్యవస్థలు అవసరం లేనంత భారంగా మారకుండా మరింత తెలివిగా ఎదగగలవు.
చాలా మంది పరిశోధకులు ఈ దిశను Artificial General Intelligence, లేదా AGI, అనే దీర్ఘకాలిక లక్ష్యానికి ముఖ్యమైనదిగా భావిస్తున్నారు. అనేక రకాల సమస్యలను ఎదుర్కోగల వ్యవస్థకు కేవలం పరిమాణం మాత్రమే సరిపోదు. దానికి నిర్ణయ సామర్థ్యం అవసరం. ఏ సామర్థ్యాలను ఎప్పుడు ఉపయోగించాలో అది తెలుసుకోవాలి.
ఈ ఆలోచన కేవలం పరిశోధనా పత్రాలకే పరిమితం కాదు.
నిజానికి, Dvinaలో మేము కూడా ఇలాంటి విధానంతోనే పని చేస్తున్నాము. ప్రారంభం నుంచే, ఏ ఒక్క language model గానీ tool గానీ అన్నింటిలోనూ సమర్థంగా ఉండదని మేము భావించాము. ఒకే మోడల్పై ఆధారపడటం బదులుగా, అనేక మోడళ్లు, టూల్స్, మరియు data sources పైన పనిచేసే ఒక orchestrator layerను మేము నిర్మించాము.
ఈ orchestrator ఒక decision layerలా పనిచేస్తుంది. వినియోగదారు ఒక ప్రశ్న అడిగినప్పుడు, ఏ మోడల్ లేదా resource ఉపయోగించాలో అది నిర్ణయిస్తుంది. కొన్నిసార్లు అది ఒక్కదానినే ఉపయోగిస్తుంది. మరికొన్నిసార్లు అనేక వాటిని కలిపి, ఫలితాలను సమ్మిళితం చేస్తుంది. లక్ష్యం సంక్లిష్టతను చూపించడం కాదు, దాన్ని ఒక సరళమైన అనుభవం వెనుక దాచడం.
దీని ఫలితంగా, వ్యవస్థ అనుకూలంగా స్పందిస్తున్నట్టుగా అనిపిస్తుంది. మీరు ఒక ప్రశ్న అడుగుతారు, దానికి అత్యంత సమర్థవంతమైన విధంగా ఎలా సమాధానం ఇవ్వాలో వ్యవస్థ తానే గుర్తిస్తుంది. ఇది భావపరంగా MOE మోడల్ స్థాయిలో ప్రతిపాదించేదానికి చాలా దగ్గరగా ఉంటుంది, కానీ ఇది వ్యవస్థ స్థాయిలో అమలవుతుంది.
AGI ఇంకా రాలేదు. కానీ MOE వంటి ఆలోచనలు ముందున్న దారి కేవలం scale గురించే కాదని చూపిస్తున్నాయి. అది structure, coordination, మరియు resourcesను మరింత తెలివిగా ఉపయోగించడం గురించి కూడా ఉంది.
If you are curious what this kind of approach feels like in practice, you can try Dvina for free at https://dvina.ai. It is not AGI, but it gives a small glimpse into how future AI systems may think and operate.
