Nyuma ya vichwa vya habari vinavyong'aa, sekta ya AI inakabiliana na maswali ya msingi kuhusu kasi ya ubunifu, uendelevu wa mtaji, na njia zinazozidi kutofautiana kati ya watengenezaji wa modeli na wajenzi wa programu tumizi.
Wakati wa Kimya wa Mgeuko wa Sekta
Akili bandia imekua kwa kasi isiyo na kifani katika kipindi cha miaka mitatu iliyopita. Tangu kuzinduliwa kwa ChatGPT, matumizi ya watumiaji yamevunja rekodi, makampuni makubwa kuanzia OpenAI hadi Google yametangaza modeli mfululizo kwa kasi, na kampuni za Fortune 500 zimeweka AI katika kiini cha michakato yao ya biashara. Hata hivyo leo, nyuma ya vichwa vya habari vinavyong'aa, sekta inakabiliana na swali tofauti kimsingi:
Je, ubunifu wa kweli bado unasonga mbele kwa kasi thabiti, au tunashuhudia mashine kubwa ikigonga mipaka isiyoonekana?
Ili kujibu swali hili ipasavyo, tunahitaji kuangalia mfumo huu wa ikolojia kupitia lenzi mbili tofauti:
Soko la msingi: Makampuni yanayotengeneza modeli za msingi kama GPT-4, Claude, na Gemini: OpenAI, Anthropic, Google DeepMind, Meta.
Soko la sekondari: Makampuni yanayochukua modeli hizi na kujenga suluhisho kwa matatizo halisi ya watumiaji: Perplexity, Cursor, Notion AI, Replit.
Ingawa masoko yote mawili yapo ndani ya sekta moja, mienendo yake, miundo ya gharama, wasifu wa hatari, na matarajio ya ukuaji ni tofauti kimsingi. Mvutano tunaoushuhudia leo unatokana hasa na tofauti hii.
Mipaka ya Asili ya Uendelezaji wa Modeli Inaanza Kujitokeza
Mambo manne ya msingi yameunda mageuzi ya modeli kubwa za lugha katika kipindi cha miaka mitano iliyopita:
- Ukubwa wa modeli (idadi ya vigezo)
- Data ya mafunzo (ubora na utofauti)
- Nguvu ya kompyuta (uwezo wa GPU/TPU)
- Mbinu za mafunzo (miundo ya transformer, mifumo ya attention)
Kuanzia 2018 hadi 2023, mambo haya manne yaliongezeka katika mwelekeo mmoja, na kuleta hatua kubwa sana. Hivi ndivyo tulivyotoka GPT-2 hadi GPT-4, kutoka BERT hadi PaLM. Hata hivyo, mwelekeo huu hautaendelea milele. Data ya mafunzo sasa ndiyo kikwazo muhimu zaidi katika sekta hii.
Hifadhi za data za ubora wa juu, zenye utofauti, na asilia zinazozalishwa na binadamu ni chache. Unafundisha kwa kutumia Wikipedia, unafundisha kwa kutumia arXiv, unafundisha kwa kutumia GitHub: halafu nini? Gharama katika eneo hili zinaongezeka kwa kasi ya kielelezo kutokana na masuala ya hakimiliki, makubaliano ya umiliki wa data, na vizuizi vya upatikanaji. Unafanya makubaliano na Reddit, unajadili na Stack Overflow, unakabiliwa na kesi kutoka The New York Times. Kuongeza ukubwa wa modeli bado kunawezekana kiufundi, lakini upande wa data unaweka kikomo cha asili.
Ndiyo maana sekta imehamisha mwelekeo wake kutoka ukubwa wa modeli kwenda kwenye ufanisi. Chain-of-thought reasoning, reinforcement learning from human feedback (RLHF), mbinu bora zaidi za sampling, miundo ya mixture-of-experts (MoE): yote haya ni sehemu ya mabadiliko haya.
Maendeleo haya ni muhimu, lakini hayawezi kudumu peke yake. Kwa sababu wakati fulani, mafanikio ya ufanisi nayo hufikia ukomo. Sekta inaanza kutambua kwamba ubunifu wa modeli za msingi umeingia katika hatua iliyo polepole zaidi na yenye gharama kubwa zaidi.
Shinikizo la Mtiririko wa Mtaji na Kuongezeka kwa Udhaifu
Kadiri mipaka ya kiteknolojia inavyozidi kuonekana wazi, ukuaji upande wa mtaji umechukua hatari kubwa zaidi.
Makampuni ya modeli za msingi yanajenga miundombinu mikubwa ya kompyuta na kutoa ofa kali katika vita vya kuvutia vipaji. Matumizi haya yanafanyika kabla ya misingi imara ya mapato kuanzishwa. Gharama za kila mwaka za compute za OpenAI zinafikia mabilioni. Anthropic hupokea mabilioni ya uwekezaji kutoka Microsoft. Google hutenga bajeti tofauti kwa ajili ya DeepMind.
Mabilioni yaliyowekezwa katika data centers, mikataba ya GPU ya miaka mingi, mishahara ya juu sana inayolipwa kwa majina kama Ilya Sutskever: haya yote yanaongeza kwa kiasi kikubwa mistari ya matumizi ya makampuni.
Taswira hii inaonyesha kwamba soko la msingi limejengwa juu ya modeli ya upanuzi iliyo dhaifu sana kiuchumi. Muundo wa gharama wa ubunifu wa modeli unazidi kwa mbali viwango vya ukuaji wa mapato.
Kupanda kwa Kimya kwa Tabaka la Programu
Wakati soko la msingi likiwa chini ya shinikizo, soko la pili linaendelea kwa mkondo wa ukuaji ulio na afya kwa kiasi. Makampuni haya huchukua modeli za msingi na kuzigeuza kuwa matumizi halisi.
- Perplexity: Kubuni upya uzoefu wa utafutaji
- Cursor & Replit: Kubadilisha mchakato wa kuandika msimbo
- Notion AI: Kufanya zana za uzalishaji kuwa za akili
- Dvina: Kuunganisha na programu 120+ ili kusimamia maisha yote ya kidijitali kutoka kwenye tabaka moja la akili
Faida ya makampuni haya ni kuwa karibu zaidi na mtumiaji. Thamani halisi hujitokeza moja kwa moja katika uzoefu wa mtumiaji. Utafutaji, uandishi wa msimbo, uundaji wa maudhui, uzalishaji, uchakataji wa taarifa: maeneo haya yote yanatoa modeli za mapato zinazoweza kupanuka na zinazoeleweka.
Ndiyo maana wazalishaji wengi wa modeli za msingi wameanza kuhamia kwenye tabaka la programu. OpenAI iliigeuza ChatGPT kuwa bidhaa, Anthropic iliibadilisha Claude kuwa toleo la watumiaji, Google iliunganisha Gemini. Mkakati wa ujumuishaji wa wima umeenea kwa kasi.
Lakini mkakati huu umeleta athari za pembeni: Gharama za upatikanaji zimepanda sana, tathmini za soko la pili zimevimba. Ukweli kwamba soko la pili: eneo pekee linaloweza kuzalisha mapato: limekuwa ghali kiasi hiki unaongeza zaidi hatari ya mtaji katika sekta hii.
Mizunguko ya Kihistoria na Tofauti ya Leo
Akili bandia imepitia misukosuko miwili mikubwa hapo awali: mwishoni mwa miaka ya 1970 na mwanzoni mwa miaka ya 1990. Kilichofanana katika vipindi hivyo: matarajio makubwa, kasi ndogo ya ubunifu, na hamu ya uwekezaji iliyotoweka.
Hali ya leo ni tofauti. Ubunifu wa kiufundi unaendelea lakini kasi ya mafanikio makubwa inapungua. Mtiririko wa mtaji, hata hivyo, unakua kwa kiwango ambacho hakijawahi kushuhudiwa. Sam Altman anazungumzia mfuko wa compute wa $7 trillion, Elon Musk anamimina mabilioni katika xAI.
Kwa hiyo, tunachopitia si "AI winter" ya kawaida. Ni zaidi kipindi cha udhaifu kinachotokana na ugawaji wa mtaji: tathmini zinavimba, gharama zinaongezeka kwa kasi, lakini kasi ya ubunifu haifikii matarajio.
Enzi Mpya: Si Modeli Kubwa Zaidi, Bali Mbinu Zenye Akili Zaidi Ndizo Zitakazoshinda
Tofauti muhimu zaidi leo ni hii: Kilicho muhimu sasa si kuzalisha modeli kubwa zaidi kwa kuongeza parameters zaidi.
Mabadiliko ya kweli yatatokea katika maeneo haya:
- Kuongeza ufanisi wa vigezo
- Kufikia ubora wa juu zaidi kwa kutumia modeli ndogo
- Kuendeleza mbinu mpya za mafunzo
- Kutumia data kwa njia ya kimkakati zaidi na yenye ufanisi zaidi
- Kupunguza kwa kiasi kikubwa gharama za mafunzo
Moja ya mifano ya hivi karibuni iliyovutia zaidi ilikuwa DeepSeek. Startup hii ya China ilitengeneza modeli inayofanya kazi katika kiwango cha GPT-4: lakini kwa gharama za mafunzo zilizo chini sana. Muundo wa mixture-of-experts, uboreshaji wa vigezo, mbinu za mafunzo zinazolenga ufanisi. Soko liliitikia kwa nguvu.
Baada ya tangazo la DeepSeek, thamani ya soko ya NVIDIA ilishuka kwa dola bilioni 600 ndani ya siku moja. Hili lilionyesha kwamba wawekezaji sasa wanafuatilia si tu mbio za kutengeneza modeli kubwa zaidi, bali pia mbio za ufanisi na ubunifu wa kimuundo.
Lakini hata hili bado halitoshi. Ikiwa sekta itapata hatua ya kweli ya kuruka mbele, itakuja kupitia mifumo mipya ya kimuundo. Kitu kinachokwenda zaidi ya muundo wa transformer. Labda neuromorphic computing, labda modeli mseto, au labda mfumo wa kujifunza ulio tofauti kabisa.
Aina hizi za mabadiliko ya msingi kwa kawaida hazitoki kwa kampuni kubwa. Hufanya kazi kwa tahadhari kutokana na shinikizo la ukubwa, gharama za miundombinu, na usimamizi wa hatari za kampuni. Mafanikio ya kweli ya kuvunja mipaka mara nyingi huibuka kutoka kwa startup ndogo, zenye msukumo mkubwa, zinazokubali hatari, na zenye matarajio makubwa.
Mfumo wa ikolojia wa AI wa leo huenda unasubiri usumbufu wa aina hiyo hasa.
Hitimisho: Si Rasilimali, Bali Mbinu Ndiyo Itakayoshinda
Sekta ya AI leo inasuasua kati ya mvutano miwili: Kwa upande mmoja, mkakati wa kuongeza ukubwa wa modeli unaokaribia mipaka yake; kwa upande mwingine, hatari za mtaji zinazoongezeka na soko la matumizi linalopanda thamani kwa kasi.
Taswira hii inaonyesha kwamba tatizo la msingi sasa ni mbinu, si uwezo. Washindi wa kesho hawatakuwa wale wanaojenga modeli kubwa zaidi, bali wale wanaojenga mbinu za akili zaidi. Ufanisi, miundo mipya ya kimuundo, na mbinu za mafunzo zilizoboreshwa vinakuwa mstari halisi wa kutenganisha sekta hii.
Kitakachokuwa cha kuamua katika siku zijazo ni ubora wa mbinu, si nguvu ya rasilimali. Na uwezekano kwamba startup zenye maono, badala ya kampuni kubwa, ndizo zitakazoanzisha mabadiliko haya ya kimtazamo ni mkubwa sana.
