מאחורי הכותרות הזוהרות, תעשיית ה־AI מתמודדת עם שאלות יסוד על תנופת החדשנות, היכולת לקיים את המימון לאורך זמן והמסלולים המתפצלים של מפתחי המודלים לעומת מפתחי היישומים.
נקודת המפנה השקטה של התעשייה
הבינה המלאכותית צמחה בקצב חסר תקדים בשלוש השנים האחרונות. מאז השקת ChatGPT, קצב האימוץ בקרב צרכנים שבר שיאים, ענקיות מ־OpenAI ועד Google הכריזו על מודלים בזה אחר זה, וחברות Fortune 500 הציבו את ה־AI בלב התהליכים העסקיים שלהן. אך כיום, מאחורי הכותרות הזוהרות, התעשייה מתמודדת עם שאלה שונה מיסודה:
האם החדשנות האמיתית עדיין מתקדמת בתנופה חזקה, או שאנחנו צופים במכונה אדירה שנתקלת במגבלות בלתי נראות?
כדי לענות על השאלה הזו כראוי, עלינו לבחון את המערכת האקולוגית משתי נקודות מבט נפרדות:
השוק הראשוני: חברות שמפתחות מודלי יסוד כמו GPT-4, Claude ו־Gemini: OpenAI, Anthropic, Google DeepMind, Meta.
השוק המשני: חברות שלוקחות את המודלים האלה ובונות פתרונות לבעיות אמיתיות של משתמשים: Perplexity, Cursor, Notion AI, Replit.
אף ששני השווקים פועלים באותה תעשייה, הדינמיקה שלהם, מבני העלויות, פרופילי הסיכון וציפיות הצמיחה שונים מיסודם. המתח שאנחנו עדים לו כיום נובע בדיוק מהפער הזה.
המגבלות הטבעיות של פיתוח מודלים מתחילות להתגלות
ארבעה גורמים יסודיים עיצבו את התפתחותם של מודלי שפה גדולים בחמש השנים האחרונות:
- גודל המודל (מספר הפרמטרים)
- נתוני האימון (איכות וגיוון)
- כוח החישוב (קיבולת GPU/TPU)
- טכניקות האימון (ארכיטקטורות טרנספורמר, מנגנוני קשב)
מ־2018 עד 2023, ארבעת הגורמים האלה צמחו באותו כיוון ויצרו קפיצות אדירות. כך התקדמנו מ־GPT-2 ל־GPT-4, ומ־BERT ל־PaLM. עם זאת, העקומה הזו לא תימשך לנצח. נתוני האימון הם כעת צוואר הבקבוק הקריטי ביותר של התעשייה.
מאגרי נתונים איכותיים, מגוונים ומקוריים שנוצרו בידי בני אדם הם משאב מוגבל. מאמנים מודלים על Wikipedia, על arXiv ועל GitHub — ומה הלאה? העלויות בתחום הזה עולות בקצב אקספוננציאלי בשל סוגיות של זכויות יוצרים, הסכמי בעלות על נתונים ומגבלות גישה. חותמים על עסקאות עם Reddit, מנהלים משא ומתן עם Stack Overflow ומתמודדים עם תביעות מצד The New York Times. הגדלת המודלים עדיין אפשרית מבחינה טכנית, אבל הנתונים מציבים תקרה טבעית.
לכן התעשייה העבירה את המיקוד מגודל המודלים ליעילות. הסקה בשרשרת מחשבה, למידת חיזוק ממשוב אנושי (RLHF), טכניקות דגימה יעילות יותר וארכיטקטורות של תערובת מומחים (MoE) — כל אלה הם חלק מהשינוי הזה.
ההתפתחויות האלה משמעותיות, אבל אינן בנות קיימא בפני עצמן. בשלב מסוים גם השיפור ביעילות מגיע לרוויה. התעשייה מתחילה להכיר בכך שהחדשנות במודלי בסיס נכנסה לשלב איטי ויקר יותר.
לחץ על זרימת ההון ושבריריות גוברת
ככל שהמגבלות הטכנולוגיות נעשות מוחשיות יותר, הצמיחה בהון כרוכה בסיכון גדול עוד יותר.
חברות המפתחות מודלי בסיס בונות תשתיות חישוב עצומות ומציעות הצעות אגרסיביות במאבק על כוח האדם המוכשר. ההוצאות האלה מתבצעות עוד לפני שנוצר בסיס הכנסות איתן. עלויות המחשוב השנתיות של OpenAI מגיעות למיליארדים. Anthropic מקבלת השקעות של מיליארדים מ-Microsoft. Google מקצה תקציב נפרד ל-DeepMind.
מיליארדים שמושקעים במרכזי נתונים, חוזי GPU רב-שנתיים ומשכורות אסטרונומיות שמשולמות לאנשים כמו Ilya Sutskever — כל אלה מנפחים באופן דרמטי את סעיפי ההוצאות של החברות.
התמונה הזו מראה שהשוק הראשוני נשען על מודל של התרחבות שברירי מאוד מבחינה כלכלית. מבנה העלויות של החדשנות במודלים חורג בהרבה מקצב הצמיחה בהכנסות.
העלייה השקטה של שכבת היישומים
בעוד השוק הראשוני נתון ללחץ, השוק המשני מתקדם בעקומת צמיחה בריאה יחסית. החברות האלה לוקחות מודלי בסיס והופכות אותם ליישומים מעשיים.
- Perplexity: מעצבת מחדש את חוויית החיפוש
- Cursor & Replit: משנות את תהליך כתיבת הקוד
- Notion AI: הופכת כלי פרודוקטיביות לחכמים
- Dvina: מתחברת ל-120+ יישומים כדי לנהל את כל החיים הדיגיטליים משכבה חכמה אחת
היתרון של החברות האלה הוא קרבתן הרבה למשתמש. הערך האמיתי נוצר ישירות בחוויית המשתמש. חיפוש, כתיבת קוד, יצירת תוכן, פרודוקטיביות ועיבוד מידע — כל התחומים האלה מציעים מודלי הכנסה ברורים שאפשר להרחיב.
לכן יצרניות רבות של מודלי בסיס החלו לעבור לשכבת היישומים. OpenAI הפכה את ChatGPT למוצר, Anthropic הפכה את Claude למוצר לצרכנים, ו-Google שילבה את Gemini. אסטרטגיית האינטגרציה האנכית התפשטה במהירות.
אבל האסטרטגיה הזו יצרה תופעות לוואי: עלויות הרכישה זינקו, והערכות השווי בשוק המשני התנפחו. העובדה שהשוק המשני — התחום היחיד שמסוגל לייצר הכנסות — הפך ליקר כל כך מעצימה עוד יותר את הסיכון להון בענף.
מחזורים היסטוריים ומה שמייחד את המצב כיום
הבינה המלאכותית חוותה בעבר שתי תקופות שפל משמעותיות: בסוף שנות ה-1970 ובתחילת שנות ה-1990. לתקופות האלה היו מאפיינים משותפים: ציפיות גבוהות, קצב חדשנות נמוך ונכונות להשקיע שהתפוגגה.
המצב כיום שונה. החדשנות הטכנולוגית נמשכת, אבל קצב פריצות הדרך מאט. זרימת ההון, לעומת זאת, גדלה בהיקף חסר תקדים. Sam Altman מדבר על קרן מחשוב בהיקף של $7 טריליון, ו-Elon Musk מזרים מיליארדים ל-xAI.
לכן, מה שאנחנו חווים אינו "חורף בינה מלאכותית" קלאסי. זו יותר תקופה של שבריריות הנובעת מהקצאת הון: הערכות השווי מתנפחות, העלויות עולות בקצב מואץ, אבל קצב החדשנות אינו עומד בציפיות.
העידן החדש: לא המודלים הגדולים יותר ינצחו, אלא הגישות החכמות יותר
ההבדל המכריע כיום הוא זה: מה שחשוב עכשיו אינו יצירת מודלים עצומים עוד יותר באמצעות הוספת פרמטרים.
השינוי האמיתי יתרחש בתחומים האלה:
- הגברת יעילות הפרמטרים
- השגת איכות גבוהה יותר באמצעות מודלים קטנים יותר
- פיתוח טכניקות אימון חדשות
- שימוש אסטרטגי ויעיל יותר בנתונים
- הפחתה דרמטית של עלויות האימון
אחת הדוגמאות הבולטות ביותר מהזמן האחרון הייתה DeepSeek. הסטארט-אפ הסיני הזה פיתח מודל שמציג ביצועים ברמה של GPT-4, אך בעלויות אימון נמוכות בהרבה. ארכיטקטורת תערובת מומחים, אופטימיזציה של פרמטרים, טכניקות אימון ממוקדות יעילות. השוק הגיב בעוצמה.
בעקבות ההכרזה של DeepSeek, שווי השוק של NVIDIA צנח ב-600 מיליארד דולר ביום אחד. הדבר הראה שהמשקיעים עוקבים כעת לא רק אחרי המרוץ למודלים גדולים יותר, אלא גם אחרי המרוץ ליעילות ולחדשנות ארכיטקטונית.
אבל גם זה עדיין לא מספיק. אם התחום יחווה קפיצת מדרגה אמיתית, היא תגיע באמצעות פרדיגמות ארכיטקטוניות חדשות. משהו מעבר לארכיטקטורת הטרנספורמר. אולי מחשוב נוירומורפי, אולי מודלים היברידיים, ואולי מסגרת למידה שונה לחלוטין.
שינויים רדיקליים כאלה בדרך כלל אינם מגיעים מחברות גדולות. הן פועלות בזהירות בשל הלחצים הכרוכים בהיקף פעילותן, עלויות התשתית וניהול הסיכונים התאגידי. פריצות דרך אמיתיות מגיעות לעיתים קרובות מסטארט-אפים קטנים, אגרסיביים ושאפתניים, שמוכנים לקחת סיכונים.
סביר להניח שסביבת ה-AI כיום ממתינה בדיוק לשינוי משבש כזה.
סיכום: הגישה תנצח, לא המשאבים
תחום ה-AI נע כיום בין שני מוקדי מתח: מצד אחד, אסטרטגיה של הגדלת מודלים שמתקרבת לגבולותיה; מצד שני, סיכוני הון הולכים וגדלים ושוק יישומים שערכו עולה במהירות.
התמונה הזו מראה שהבעיה היסודית כעת היא הגישה, לא הקיבולת. המנצחים של מחר לא יהיו מי שבונים מודלים גדולים יותר, אלא מי שמפתחים שיטות חכמות יותר. יעילות, תכנונים ארכיטקטוניים חדשים וטכניקות אימון ממוטבות הופכים לקו ההפרדה האמיתי בתחום.
מה שיכריע בעתיד הוא איכות הגישה, לא עוצמת המשאבים. והסבירות שסטארט-אפים בעלי חזון, ולא חברות גדולות, ייזמו את השינוי הזה בגישה גבוהה למדי.