A 7 billió dolláros kérdés

Az AI-iparág kritikus fordulóponthoz érkezett: az innováció korlátai, a tőkenyomás és a jövőt átformáló stratégiai megosztottság

A 7 billió dolláros kérdés

A ragyogó címlapok mögött az AI-iparág alapvető kérdésekkel küzd az innováció lendületéről, a tőke fenntarthatóságáról, valamint a modellfejlesztők és az alkalmazásépítők eltérő pályáiról.

Az iparág csendes fordulópontja

A mesterséges intelligencia az elmúlt három évben példátlan ütemben növekedett. A ChatGPT indulása óta a fogyasztói elfogadás rekordokat döntött, az OpenAI-tól a Google-ig az óriások egymás után jelentették be modelljeiket, a Fortune 500 vállalatok pedig üzleti folyamataik középpontjába helyezték az AI-t. Mégis, ma a ragyogó címlapok mögött az iparág egy alapvetően más kérdéssel néz szembe:

A valódi innováció továbbra is erős lendülettel halad előre, vagy egy hatalmas gépezetet látunk, amely láthatatlan korlátokba ütközik?

A kérdés megfelelő megválaszolásához az ökoszisztémát két különálló nézőponton keresztül kell vizsgálnunk:

Elsődleges piac: Olyan vállalatok, amelyek alapmodelleket fejlesztenek, mint a GPT-4, a Claude és a Gemini: OpenAI, Anthropic, Google DeepMind, Meta.

Másodlagos piac: Olyan vállalatok, amelyek ezeket a modelleket felhasználva valós felhasználói problémákra építenek megoldásokat: Perplexity, Cursor, Notion AI, Replit.

Bár mindkét piac ugyanazon az iparágon belül létezik, dinamikájuk, költségszerkezetük, kockázati profiljuk és növekedési elvárásaik alapvetően eltérnek. A ma tapasztalható feszültség éppen ebből az eltérésből fakad.

A modellfejlesztés természetes korlátai kezdenek kirajzolódni

Négy alapvető tényező alakította a nagy nyelvi modellek fejlődését az elmúlt öt évben:

  • Modellméret (paraméterszám)
  • Betanítási adatok (minőség és sokféleség)
  • Számítási teljesítmény (GPU/TPU-kapacitás)
  • Betanítási technikák (transzformer-architektúrák, figyelmi mechanizmusok)

2018 és 2023 között ez a négy tényező ugyanabba az irányba skálázódott, ami óriási ugrásokat eredményezett. Így jutottunk el a GPT-2-től a GPT-4-ig, a BERT-től a PaLM-ig. Ez a görbe azonban nem folytatódik a végtelenségig. A betanítási adatok mára az iparág legkritikusabb szűk keresztmetszetévé váltak.

A jó minőségű, sokszínű és eredeti, emberek által létrehozott adathalmazok korlátozottak. Betanítasz Wikipédián, betanítasz arXivon, betanítasz GitHubon: és aztán? Az ezen a területen jelentkező költségek exponenciálisan nőnek a szerzői jogi problémák, az adattulajdonosi megállapodások és a hozzáférési korlátozások miatt. Megállapodásokat kötsz a Reddittel, tárgyalsz a Stack Overflow-val, perekkel nézel szembe a The New York Times részéről. A modellek méretének növelése technikailag továbbra is megvalósítható, de az adatok oldala természetes plafont teremt.

Ezért helyezte át az iparág a fókuszt a modellméretről a hatékonyságra. A chain-of-thought érvelés, a reinforcement learning from human feedback (RLHF), a hatékonyabb mintavételezési technikák, a mixture-of-experts (MoE) architektúrák: mind ennek az átalakulásnak a részei.

Ezek a fejlemények jelentősek, de önmagukban nem fenntarthatók. Mert egy ponton a hatékonyságnövekedés is telítődik. Az iparág kezdi felismerni, hogy az alapmodellek innovációja egy lassabb és drágább szakaszba lépett.

Tőkeáramlási nyomás és növekvő törékenység

Ahogy a technológiai korlátok egyre kézzelfoghatóbbá válnak, a növekedés a tőke oldalán még nagyobb kockázatot vett fel.

Az alapmodellekkel foglalkozó vállalatok hatalmas számítási infrastruktúrákat építenek, és agresszív ajánlatokat tesznek a tehetségekért folyó versenyben. Ezek a kiadások még azelőtt történnek, hogy erős bevételi bázisok alakultak volna ki. Az OpenAI éves számítási költségei milliárdos nagyságrendet érnek el. Az Anthropic milliárdos befektetést kap a Microsofttól. A Google külön költségvetést különít el a DeepMind számára.

Az adatközpontokba fektetett milliárdok, a többéves GPU-szerződések, az olyan neveknek fizetett csillagászati bérek, mint Ilya Sutskever: ezek drámaian felduzzasztják a vállalatok költségsorait.

Ez a kép azt mutatja, hogy az elsődleges piac egy gazdaságilag rendkívül törékeny skálázási modellre épül. A modellinnováció költségszerkezete messze meghaladja a bevételnövekedés ütemét.

Az alkalmazási réteg csendes felemelkedése

Miközben az elsődleges piac nyomás alatt áll, a másodlagos piac viszonylag egészséges növekedési pályán halad előre. Ezek a vállalatok az alapmodelleket valós felhasználási esetekké alakítják.

  • Perplexity: Újratervezi a keresési élményt
  • Cursor & Replit: Átalakítják a kódolási folyamatot
  • Notion AI: Intelligenssé teszi a produktivitási eszközöket
  • Dvina: 120+ alkalmazáshoz kapcsolódva egyetlen intelligens rétegből kezeli a teljes digitális életet

Ezeknek a vállalatoknak az előnye, hogy ők állnak a legközelebb a felhasználóhoz. A valódi érték közvetlenül a felhasználói élményben jelenik meg. Keresés, kódolás, tartalomkészítés, produktivitás, információfeldolgozás: mind olyan területek, amelyek skálázható és jól érthető bevételi modelleket kínálnak.

Ezért kezdett sok alapmodell-gyártó az alkalmazási réteg felé elmozdulni. Az OpenAI a ChatGPT-ből terméket csinált, az Anthropic a Claude-ot fogyasztói ajánlattá alakította, a Google integrálta a Geminit. A vertikális integrációs stratégia gyorsan elterjedt.

Ennek a stratégiának azonban mellékhatásai is lettek: az ügyfélszerzési költségek az egekbe szöktek, a másodlagos piac értékeltségei felfúvódtak. Az a tény, hogy a másodlagos piac — az egyetlen terület, amely képes bevételt termelni — ennyire drágává vált, tovább erősíti az ágazat tőkekockázatát.

Történelmi ciklusok és a mai helyzet megkülönböztető tényezője

A mesterséges intelligencia a múltban két jelentős visszaesést élt át: az 1970-es évek végén és az 1990-es évek elején. Ezekben az időszakokban az volt a közös, hogy magasak voltak az elvárások, alacsony volt az innováció sebessége, és elpárolgott a befektetési kedv.

A mai helyzet más. A technikai innováció folytatódik, de az áttörések üteme lassul. A tőkeáramlás viszont példátlan léptékben növekszik. Sam Altman egy 7 trillion dolláros számítási alapról beszél, Elon Musk pedig milliárdokat önt az xAI-ba.

Ezért amit most tapasztalunk, az nem klasszikus „AI winter”. Inkább egy tőkeallokáció-alapú törékenységi időszak: az értékeltségek felfúvódnak, a költségek gyorsulnak, de az innováció üteme nem felel meg a várakozásoknak.

Az új korszak: nem a nagyobb modellek, hanem az okosabb megközelítések fognak nyerni

A mai helyzet legkritikusabb különbsége ez: most már nem az számít, hogy még hatalmasabb modelleket hozzunk létre több paraméter hozzáadásával.

Az igazi átalakulás ezeken a területeken fog végbemenni:

  • A paraméterhatékonyság növelése
  • Magasabb minőség elérése kisebb modellekkel
  • Új tanítási technikák fejlesztése
  • Az adatok stratégiaibb és hatékonyabb felhasználása
  • A tanítási költségek radikális csökkentése

Az egyik legfeltűnőbb közelmúltbeli példa a DeepSeek volt. Ez a kínai startup egy olyan modellt fejlesztett, amely GPT-4 szinten teljesít: de jóval alacsonyabb tanítási költségek mellett. Mixture-of-experts architektúra, paraméteroptimalizálás, hatékonyságközpontú tanítási technikák. A piac erőteljesen reagált.

A DeepSeek bejelentését követően az NVIDIA piaci kapitalizációja egyetlen nap alatt 600 milliárd dollárral csökkent. Ez megmutatta, hogy a befektetők már nemcsak a nagyobb modellekért folyó versenyt figyelik, hanem a hatékonyságért és az architekturális innovációért zajló versenyt is.

De ez még mindig nem elég. Ha az ágazat valódi ugrást akar elérni, az új architekturális paradigmákon keresztül fog megtörténni. Valami a transformer architektúrán túl. Talán neuromorf számítástechnika, talán hibrid modellek, vagy talán egy teljesen más tanulási keretrendszer.

Az ilyen radikális átalakulások jellemzően nem nagyvállalatoktól érkeznek. Ők az óvatos működésre vannak kényszerítve a méretből fakadó nyomás, az infrastruktúraköltségek és a vállalati kockázatkezelés miatt. Az igazi áttörések gyakran kicsi, agresszív, kockázattűrő, ambiciózus startupoktól jönnek.

A mai AI-ökoszisztéma valószínűleg éppen egy ilyen felforgató változásra vár.

Következtetés: Nem az erőforrások, hanem a megközelítés fog győzni

Az AI-szektor ma két feszültség között ingadozik: az egyik oldalon egy modellskálázási stratégia áll, amely közelít a határaihoz; a másikon növekvő tőkekockázatok és egy gyorsan felértékelődő alkalmazási piac.

Ez a kép azt mutatja, hogy az alapvető probléma ma már a megközelítés, nem a kapacitás. A holnap nyertesei nem azok lesznek, akik nagyobb modelleket építenek, hanem azok, akik okosabb módszereket dolgoznak ki. A hatékonyság, az új architekturális tervek és az optimalizált tanítási technikák válnak az ágazat valódi választóvonalává.

A jövőben a megközelítés minősége lesz a döntő, nem az erőforrások ereje. És meglehetősen nagy a valószínűsége annak, hogy ezt a szemléletváltást nem a nagyvállalatok, hanem a vízióval rendelkező startupok indítják el.

Csatlakozz a Dvina-hoz

Regisztrálj ingyen, és hozd az összes eszközödet egyetlen egyszerű munkaterületre.

Fedezz fel többet


© Dvina Inc. - San Francisco, CA

Csak a szolgáltatásaink zavartalan működéséhez nélkülözhetetlen analitikai adatokat gyűjtjük.