צרות בהייטק

פרק 8812 באוקטובר 2026 · 53 דקות

נאו-קלאוד, דאטה סנטרים של GPU ואלף מעבדים מהמדינה, עם עידו מנביוס

עם עידו, Technical Partner Solution Manager גלובלי בנביוס

נביוס התחילה בישראל כענן גנרי עם 40 עובדים שלא ממש הצליח. כמה שנים ומעבר אחד ל-GPU אחר כך, היא מגדירה את עצמה hyperscaler of AI.

אירחנו את עידו, Technical Partner Solution Manager גלובלי בנביוס, שגם הוביל את המכרז של רשות החדשנות.

דיברנו על מה זה בכלל דאטה סנטר של GPU (ארון אחד מושך 55 קילוואט), איך מקימים אחד עם 4,200 GPU במודיעין תוך חמישה חודשים, ולמה חברות ענק קונות קרקע ריקה רק כי היא ליד הגריד. עידו פירק את המכרז: אלף GPU משוריינים לסטארטאפים ולאקדמיה בישראל, כשהערך האמיתי הוא לא ה-30% הנחה אלא עצם השריון. דיברנו גם על המעבר של חברות מהמודלים הסגורים ל-open source (״כל העולם משתמש באנתרופיק״), ושאלנו את מה שכולם שואלים: מה קורה לחברה שבונה בלי לחכות ללקוחות ביום שהביקוש ל-GPU יתקרר.

תמלול הפרק

התמלול נוצר אוטומטית מהפרק שפורסם, בלי שיוך לדוברים. ייתכנו טעויות, בעיקר בשמות ובמונחים. לחיצה על זמן מקפיצה את הנגן לאותה נקודה.

0:00

יש היום הרבה מאוד חברות, זה כבר קורה כבר כמה שנים, חברות ענק שפשוט קונות עתודות קרקע, שכל מה שמיוחד בעתודות קרקע האלה זה שהן קרובות, יושבות על הגריד של החשמל באותה מדינה או קרובות לאותו חשמל. סתם, אין שם כלום, הן פשוט קונות את זה כעתודות עתידיות ל-GP-- ל-data center.

0:18

זה כמו שפעם חברות של Algo Trading, אז הן היו שוכרות דירות שקרובות לבורסה בניו יורק. כן, יותר קרובות. זו ממש מחשבה מגניבה, גיאוגרפית.

0:26

זה לגמרי ככה.

0:52

טוב, אז עידו, שלום. איזה כיף שבאת. זה... עברו החגים וזה, אני כאילו בלו"ז שלי יש מלא זמן, כאילו, Nebius, Nebius. אתה אומר נכון. לא הקלטנו הרבה זמן, אז נחמד לחזור.

1:04

אני הכרתי את החברה הזאת במקור כטיקר של מניה. למה? כי זה היה meme קצת, בהתחלה. בסדר? היה כזה... אני מאוד מהמשקיעי Reddit לפעמים, מודה, עליי, לא המלצות, לא זה, תתעלמו מכל מה שאני אומר, לא מבין כלום. ואז התחילו לדבר על הזה. ואז אמרתי, oui, הם בישראל. כאילו, ככה זה ממש היה לי. אז זה קורה לך? שאתה כזה, פתאום מגלים שאתם בעצם מישראל?

1:29

כן, הרבה. האמת ש... תראה, בסוף בסוף, הסיפור של Nebius התחיל מישראל. זאת אומרת, זה... ארקדי וולוז'י, ה-founder של Nebius, בעצם הגיע... הוא, א', יש לו היסטוריה ארוכה עם האקוסיסטם הישראלי, הוא גם גר בארץ, יש לו משפחה, ילדים בארץ, אבל הוא בראש ובראשונה הביא את Nebius לישראל, היה Nebius ישראל, או CloudIL בהתחלה זה אפילו היה נקרא, אחר כך זה היה נקרא Nebius ישראל,

1:58

והביא את זה בהתחלה בתור ענן גנרי, בתור ענן... כן, Another cloud. ובאמת, במסגרת המאמצים שלו להביא ורטיקלים טכנולוגיים תחת קבוצת Nebius למערב, באמת התחלנו בישראל, קבוצה של 40 חבר'ה ישראלים, סוג של סטארטאפ כזה, באמת ענן גנרי. אז באיזשהו שלב זה פחות הצליח בארץ מכל מיני סיבות. גם ה-cloud ecosystem בארץ מאוד מאוד רווי, גם הגדולות, גם הקטנות,

2:33

יש הרבה מאוד, ולא הייתה איזו דיפרנציאציה מאוד מאוד חזקה למוצר. ואז הם הלכו, צוות ההנהלה, ארקדי ורומן ועוד כמה, באמת עשו מה שנקרא Assets Check, אמרו, אוקיי, יש לנו לא מעט כסף בכיס, יש לנו הרבה מאוד מהנדסים עם הרבה מאוד היסטוריה מאוד טובה בבניית דאטה סנטרים, ב-cloud גנרי וגם ב-machine learning קלאסי, כי הם באים מרקע עם הרבה מאוד machine learning קלאסי ברקע שלהם,

3:07

ויש לנו קשרים טובים עם NVIDIA, גם, לא רע, אף פעם לא מזיק.

3:10

זה לא מזיק.

3:12

אז אוקיי, מה נעשה? וזה בדיוק היה אחרי ה-ChatGPT moment והכול, אז הוא אמר, אוקיי, אני רואה בחזוני, מה שנקרא, ארקדי הוא איש חזון כזה, אני רואה בחזוני הרבה מאוד חברות שצריכות את אותו cloud ecosystem שהיום, שעד אז היה CPU based microservice platform, לצורך העניין, אני רואה שהן צריכות את זה לבנייה על גבי GPU, וככה התחיל Nebius AI בעצם, ככה התחילה החברה.

3:39

וארבע שנים אחר כך, שווי 70 מיליארד דולר של חברה, קצב הכנסות שנתי 3-4 מיליארד, מה שמפחות מדווח. מטורף, כאילו, זה תזמון מושלם והקשר עם NVIDIA.

3:53

וגיבלד, החלטה פנומנלית.

3:56

ואתם גם צומחים בצורה מטורפת. אז באמת, ספר לנו, כאילו, איך נראה להיות היום ב-Nebius? מה זה אומר? מה...

4:06

אז תראה, Nebius בסוף היא... שהרבה שואלים, באות, אז תגדיר את Nebius במילה אחת. אז Nebius מסתכלת על עצמה בתור ה-hyperscaler of AI. אוקיי? זאת אומרת, hyperscaler לצורך העניין, AWS, GCP, Azure, כן? העננים הגדולים, השלוש הגדולים, אתה רוצה חמש, אתה רוצה להכניס עוד כמה. אבל בסוף אנחנו לא... יש היום ecosystem מאוד גדול ונרחב של Neo Clouds, GPU Clouds,

4:32

שזה יכול לנוע מחברות שעד לא מזמן, מה זה לא מזמן? זה כבר כמה שנים, אבל עשו Crypto Mining ועכשיו יש להם הרבה GPU והם פשוט מוכרים אותו כ-bare metal ללקוחות, ועד לקצה, שבאמת Nebius נמצאת בקצה עם עוד כמה בודדות, שבאמת מספקים cloud ecosystem מלא ושלם וייעודי לעבודות שמצריכות GPU, אוקיי? וזה מגוון רחב של workloads types, על גבי GPU Data Center. זאת אומרת, זה לא

5:07

bare metal provider. יש שם הרבה מאוד חשיבה של software stack, בין אם זה בוירטואליזציה מלאה עם הרבה מאוד תכונות שאתם אולי מכירים מהגדולות, בין אם זה software stacks שונים על גבי זה, הכול מיועד לעבודות machine learning ו-AI על גבי GPU Data Centers.

5:25

סבבה. אז בוא ננסה לפשט את כל המושגים האלה, כי אמרת bare metal, אז כאילו, כשאומרים Data Centerים וכשאומרים, נגיד לצורך העניין, שרואים שאתם זכיתם במכרז למעבדת האימון הרשמית של מדינת ישראל ולבנות Data Center, אז כאילו חושבים עליכם, אני לפחות ואחרים שדיברתי איתם, אה, הם בונים Data Centerים, קבלנים, עבודה, בטון ומבנים.

5:53

אז בדיוק, זה בדיוק פה הנקודה שאנחנו... של הייחודיות של Nebius. Nebius היום... בעצם היא לחלוטין Vertically Integrated. מה זה אומר? זה אומר שבתוך Nebius, בתוך החברה, יש לנו מחלקות שיודעות ממש לבנות דאטה סנטרים. זאת אומרת, בהרבה מהדאטה סנטרים שלנו יש היום באזור התשעה בכל העולם, עוד כמות דומה בהכנה. הרבה מאוד מקומות אנחנו הולכים על Greenfield, זאת אומרת,

6:23

על בנייה משלנו לחלוטין מההתחלה. ולבנות דאטה סנטר של GPU זה לא כמו לבנות או לאסב דאטה סנטר קיים של CPU. יש הרבה מאוד תשתיות, הרבה מאוד תשתיות שצריכות להיות שונות. צריכת החשמל היא משמעותית יותר. לצורך העניין, רון אחד של GPU בהרחבה שלנו במודיעין לוקח באזור ה-55 קילוואט, שזה עוד יחסית GPU B200, לא ה-Latest וה-Greatest. היום ה-GPUים הגדולים, הרקים שלהם, ה-NVL72 לוקחים 140 ומשהו קילוואט. זאת אומרת, ו-CPU

7:01

Based Generic Cloud לוקחים הרבה הרבה פחות.

7:04

כן, יש הרבה כזה ביקורת על דאטה סנטרס בעולם. הם לוקחים את כל החשמל, בעיקר בארצות הברית מדברים על זה. מה אומרים על העניין הזה?

7:11

כן, תשמע, GPU לוקח יותר חשמל, אין פה שאלה. מערכות הקירור שלו עובדות חזק, למרות שהרבה פעמים Air Cooling דווקא לוקח יותר, אבל מערכות הקירור שלו עובדות חזק וכן הלאה. זה נכון שיש דיבור כזה. מצד שני, אני יכול להגיד לך ספציפית על Nebius, למשל, שהקיימות זה משהו שאנחנו מסתכלים עליו מאוד מאוד חזק. אפילו הדאטה סנטר שלנו בפינלנד, שהוא הדאטה סנטר הראשון, לצורך העניין,

7:39

הוא ממש נולד יחד עם איזשהו שיתוף פעולה עם הכפר שליד, ואנחנו מזרימים חום אל תוך הכפר הזה. זאת אומרת, וכן, עושים מה שאפשר.

7:51

אני תמיד אומר, זה תמיד מורכב, נכון? בסוף ה-Value שזה מקבל, גם מזגנים לוקחים חשמל, נכון? וכולנו גרים בישראל, במדינה חמה.

8:02

אז נחזור בעצם למענה הביסוסה ולהפשטה. אז אוקיי, בונים דאטה סנטרים, GPU זה ייחודי, אבל מה מעבר לזה? ותן לנו גם את הסטאק הכללי. חושבים על NVIDIA, אז NVIDIA זה מרכיב בעצם אצלכם, יש תשתית מתחת, יש תשתית מעל, מה?

8:18

נכון. אז כמו שאמרתי, Vertically Integrated זה אומר שכבות. זה אומר, השכבה הראשונה זה ממש המבנה של הדאטה סנטר עצמו. שוב, יש פה הרבה שיקולים שהוא מעבר לדאטה סנטר רגיל. רוב הדאטה סנטרים שאנחנו בונים זה שלנו. אנחנו גם עובדים בכל Locations עם חברות אחרות בארץ. כן, זה אפילו לפני הברזלים, זה הבניין. התשתית חשמל, תשתית Networking שמגיעה לבניין, ה-Cooling, איפה אתה שם את ה-Chiller, איפה אתה שם את ה-Cloud.

8:43

זה כאילו צריך להביא בן אדם לפרוס כבלים, נכון? כאילו, גם אני מדמיין פה-

8:48

גם לפרוס כבלים, עוד מחוץ לדאטה סנטר.

8:50

כן, זהו, והכבלים האלה צריכים להיות כבלים שונים.

8:53

נכון, ISPs שונים, ב-Redundancy שונים, יש כל מיני סטנדרטים לדאטה סנטרים של Redundancy ו-Resilience.

9:01

אני מניח שאתם גם לא יכולים להתחבר לאיזה מרכז מקומי של חברת חשמל. אתם צריכים כאילו...

9:08

הנושא של החשמל, שוב, אנחנו עדיין ב-Level הראשון של הבניין. אבל הנושא של החשמל הוא סופר סופר קריטי ב-GPU Data Center. הוא מעסיק כל כך הרבה את העולם, וגם במדינת ישראל מאוד מאוד שמים על זה פוקוס עכשיו. ממש לא מזמן הוציאו איזשהו ניסיון להסדרה חדשה של כל הנושא הזה. יש היום הרבה מאוד חברות, זה כבר קורה כבר כמה שנים, חברות ענק שפשוט קונות עתודות קרקע,

9:33

שכל מה שמיוחד בעתודות קרקע האלה זה שהן קרובות, יושבות על הגריד של החשמל באותה מדינה או קרובות לאותו חשמל. סתם, אין שם כלום. הן פשוט קונות את זה כעתודות עתידיות ל-Data Center.

9:44

זה כמו שפעם חברות של Algo Trading היו שוכרות דירות שקרובות לבורסה בניו יורק. זה ממש מחשבה מגניבה, דרך אגב.

9:52

זה לגמרי ככה.

9:53

אוקיי, סבבה. פרסנו חשמל, פרסנו תקשורת.

9:56

עכשיו אנחנו מדברים על החומרה, על התשתית ה-GPUית, בסדר? אז שוב, אז תשתית GPUית, אז נכון, ציינת, Nebius היום עובדת חזק מאוד עם NVIDIA, שותף מאוד מרחב של NVIDIA, Exemplar Status, בכל ה-Reference Architectures. אבל כמו שאמרת, NVIDIA זה הצ'יפ שאותו אנחנו שמים בשרתים. אבל מעבר לזה יש שרתי GPU, שרתי CPU, Storage, כי שוב, כי זה

10:25

לא רק GPU, אתה חייב CPU ו-Storage.

10:27

זה כאילו מגוון ספקים כדי לאכלס את הבניין הזה בכל מיני שרתים. זה לא רק...

10:32

כן, אבל גם פה אני אגיד, אנחנו יודעים לעבוד עם ספקים של OEM של NVIDIA, אוקיי? כל מיני שרתים, אבל אנחנו יודעים גם לבנות שרתים משלנו. זאת אומרת, יש לנו Chip Design, Server Design שאנחנו עושים בתוך החברה. זה מאפשר לנו גם לבנות את השרתים בצורה מאוד מאוד איכותית, מתאימה לרקים שלנו, מתאימה לכל שאר הסטנדרטים שלנו, וגם אחר כך כשאנחנו בונים את ה-Virtualization Layer,

10:58

Software Virtualization Layer, שגם, שוב, אנחנו בונים, אנחנו כותבים את הקוד, זה קוד שלנו, אז הוא יודע לעבוד ממש ממש ממש טוב עם שכבת החומרה שמתחתיו.

11:09

זה מה שאמרת עכשיו על ה-Diversity של החומרה, זה ממש מעניין, כי יש בעיה באספקה, נכון? לא סתם המניות של מיקרון וזה קופצות, נכון? מאיפה מביאים זיכרון? מאיפה מביאים HDD, SSD? אני בטוח אומר לא נכון. אני רק מבין בהשקעות, אני לא מבין בזה. סתם. אני לא מבין כלום בהשקעות, אל תקשיבו לי אף פעם. זה מגניב. כאילו, זה היה מראש החלטה של אנחנו לא מתמקדים רק באחד, אלא אנחנו בונים מראש, או שזה כזה עם הזמן הבנתם את זה? או שהיה לכם מזל? זה גם לגיטימי.

11:38

אז עוד פעם, אני מראה, יש פה הרבה מאוד רקע של רקע. יש פה Decades of Experience, מה שנקרא, בבניית דאטה סנטרים וב-Cloud. ויש פה, שוב, הרבה מאוד יכולת גם ב-Hardware Level וגם ב-Software Level. אז אנחנו כן היום מבוססים על NVIDIA Chips. זאת אומרת, כל הדאטה סנטרים שלנו בכל העולם מבוססים על NVIDIA Chips, אבל מעבר לזה, ה-Storage וה-Networking וכן הלאה, זה שוב,

12:10

יש לנו Storage משלנו שאנחנו עובדים איתו צמוד. אנחנו יודעים לעבוד גם עם ספקים שונים, Weka ו-Vast וכל מיני כאלה. זאת אומרת, זה גם נמצא בפלטפורמה שלנו ללקוחות ספציפיים שרוצים את זה, וכל ה-Networking שלנו שמבוסס Infinity Band גם של NVIDIA, שוב, הכול תחת NVIDIA Reference Architecture עם מהנדסים של NVIDIA, והרבה פעמים כשאנחנו עושים בדיקות היום לדאטה סנטר שלנו

12:37

ומריצים NCCL Test ו-Performance Testing, ML Perf Test של NVIDIA רשמיים וכן הלאה, אנחנו מקבלים הרבה פעמים תוצאות יותר טובות מ-Bare Metal Providers אחרים שאולי הרכיבו את הדאטה סנטרים טיפה פחות טוב, וזאת למרות שכמו שאמרתי, יש לנו Virtualization Layer שיושבת על, שכביכול אמורה לעשות איזשהו Hop ב-Performance, אבל היא לא עושה כי

13:01

שוב, כי היא חכמה, כי היא יודעת מתי לעשות Pass Through ל-GPU.

13:04

ב-Performance אתה אומר יותר ה-Performance התשתיתי כאילו.

13:08

ה-Performance התשתיתי שהוא מאוד מאוד חשוב לעבודות, למשל Training. Training Jobs היום, יש... שוב, תכף נגיע גם אולי לדבר על קצת מה זה AI ומה זה ML.

13:18

כן, זהו, זה מעולה, כי זה מביא אותנו בעצם לשכבה הבאה.

13:21

בדיוק, לשכבה הבאה.

13:22

אבל רק בשביל ההבנה שלי, אני קצת מכיר Cloud ישן יותר. כשאתה אומר שכבת וירטואליזציה, זה כמו Hypervisor כזה? זאת אומרת, לשבת מעל כל החומרות, ליצור חומרה וירטואלית. אוקיי, אז כולם, אנחנו מבינים, זה פשוט מורכב כי זה GPU וזה חדש.

13:36

בדיוק. אז כמו שאמרתי בהתחלה, זוכרים שאמרתי hyperscaler of AI? הרבה ממה שאני הולך להגיד היום, ובכלל הרבה ממה ש-Nebius עושה, הוא מקבילי, אוקיי? למונחים שקיימים היום ב-Cloud. רק שהכול מותאם ל-GPU Workloads, וכמו שאמרתי, גם הדאטה סנטר עצמו, התשתית עצמה צריכה להיות מותאמת ל-GPU Workloads, גם בכל רמת Software וגם בכל רמת Hardware, ההתאמה ל-GPU Workloads היא פה היא פה הדיפרנציאציה.

14:03

זה בדיוק מה שבאתי לשאול. זה כאילו, זה הדיפרנציאציה היא גם המומחיות ב-GPU. ולי יש עוד שאלה, כאילו, גם הקדמתם, כאילו הייתם שם מהראשונים, וזה בטוח היה... תמיד יש מרכיב של מזל, אבל כאילו, מאיפה זה בא? כאילו, הסיבה ש-Nebius צמחה כמו שהיא צמחה גם בבורסה, גם בכלל, זה בגלל שהיה להם הרבה חומרה ובתקופה שקשה להשיג חומרה. סליחה שאני מקטין מהאירוע, אני לא... זו לא הכוונה.

14:30

אני בכלל לא מזלזל בזה, אבל שוב, אז זה חוזר לשלוש התובנות המצוינות. אחד, יחסית כסף בכיס, בוא נגיד שלא כל החברות יכולות להשקיע כזה Capex ב-GPU. מהנדסים, מאות מהנדסים עם עשרות שנים של ניסיון בכל התחומים האלה, בדיוק מה שדיברתי, בניית דאטה סנטרים, Cloud גנרי ו-GPU ו-Machine Learning כאילו, וקשרים טובים עם NVIDIA. בסוף אין מה לעשות, זה גם חלק מהסיפור. ו-NVIDIA היום היא הספק מספר אחד של GPU. בסדר, יש מתחרות כמובן, אבל...

15:05

והיום כשאנחנו הולכים לחברות, שנניח כל מיני ארגונים שיש להם On-Prem, מסורתית גם יש להם On-Prem, גם חלק אולי ב-Cloud, אבל הרבה מהם יש On-Prem, ההשקעה בדאטה סנטר On-Premy של GPU היא השקעה קשה, לא רק ברמת הכסף, אלא גם ברמת ה-Delivery Time ש-NVIDIA יכולה לספק אותו, וגם ברמת ה-Expertise שנדרש כדי לבנות אותו. אוקיי? זאת אומרת זה...

15:32

ולכן Cloud GPU הוא מאוד מאוד מתבקש לצורך העניין בהרבה מהמקרים. אוקיי? זאת אומרת...

15:41

כמה זמן לוקח לבנות דאטה סנטר? אני אשאל עוד יותר, איך מחליטים לבנות דאטה סנטר חדש, קודם כל, על בסיס כזה לקוחות, דרישה, whatever? ושתיים, מהרגע שהחלטתם, כמה זמן לוקח לבנות אותו? כי כולם אומרים אין מספיק GPU, צריך בטח לבנות מלא, נכון?

15:58

כן, אז נכון. עכשיו, Nebius נוקטת בגישה של היא לא מחכה ללקוח, היא בונה. ההנחה היא שהלקוחות יגיעו. אוקיי? ולכן, לצורך העניין, אנחנו לא מחכים לאיזשהו On-Prem Enterprise כזה שאומר, אוקיי, עכשיו תביאו לי ועכשיו בוא נדבר על עוד שנה וחצי. אז אנחנו מראש יש לנו... קונים GPU, אנחנו תמיד מעודכנים עם NVIDIA, תמיד מקבלים את ה-Latest וה-Greatest, בסדר? וקונים

16:28

מסות של GPU. ולגבי ההחלטה של בניית דאטה סנטר, אז זה מורכב מכמה שיקולים, אבל בהחלט איפה הלקוחות יושבים, בהחלט הגישה לחשמל, אוקיי? כי שוב, כמו שאמרנו, בלי זה אין על מה לדבר בכלל, ואיזשהו Regional Deployment, כן? זאת אומרת, היום אנחנו מרוכזים בעיקר באירופה, ישראל וארצות הברית. אנחנו מסתכלים כמובן ל-Regionים נוספים במזרח, באמירויות וכן הלאה. מסתכלים על הכול כמובן, כי בסוף אתה צריך את ה-Deployment הזה.

17:02

ופה גם נכנס איזשהו נושא של מה אנחנו חושבים שיהיה השימושים של GPU Data Centers, וקצת לגבי Training ו-Inference. אבל לפני שנגיע לזה, לגבי כמה זמן לוקח לנו לבנות. אז כמה זמן לוקח לנו לבנות זו שאלה מאוד מאוד טובה, והיא מתחילה ב-האם אנחנו בונים את הדאטה סנטר לבד או עם Co-Location? אני יכול להגיד לך שאת הדאטה סנטר במודיעין שעשינו פה אחרי ה...

17:31

תוך כדי ואחרי הזכייה במכרז של הרשות לחדשנות, שהוא דאטה סנטר נראה לי הכי קטן שלנו בעולם, הוא מכיל רק 4,200. בקטנה. 8.5 מגה וואט חשמל. הוא הוקם... בחמישה חודשים, אוקיי? כשפה עשינו כל לוקיישן עם מגה די סי, אבל זה לא שהם-

17:55

השיפוץ בדירה שלי לקח יותר זמן.

17:58

זה לא שהם-- וגם פה הוא גם מגיע הרבה קרדיט למגה די סי, כי בסוף מגה די סי זה לא שהמבנה היה מוכן לגמרי ואנחנו פשוט באנו ולקחנו חמישה חודשים להרים שרתים. גם המבנה עצמו עוד לא היה מוכן וגם הם מאוד מאוד נרתמו לאירוע הזה ועבדו מאוד מאוד קשה כדי ש-

18:13

מה זה היה? מבנה אחר כאילו?

18:14

כן, זה סיפור... זה היה מפעל יהלומים סינתטיים במקור.

18:21

גם עכשיו זה יהלומים. סליחה.

18:24

לא! מישהו פעם אמר לי בדיוק את זה. זה כאילו ה-GPU זה היהלומים של היום. אני לא יודע מאיפה זה הגיע, אבל כן, זה היה מפעל יהלומים סינתטיים ש...

18:34

ואמרת שבניתם את זה גם תוך כדי המשא ומתן עם המדינה. אז מה היה קורה אם לא הייתם זוכים במכרז?

18:39

אז שוב, המכרז הזה מכיל-- סליחה, ה-GPU דאטה סנטר שלנו במודיעין מכיל 4,200. המכרז של רשות החדשנות הוא על 1,000. זאת אומרת, אנחנו מה שרשות החדשנות- תכף אפשר להרחיב על זה. כן, הוא על 1,000, אבל אין היגיון בלבנות דאטה סנטר כזה של 1,000 GPU. זה פשוט לא- לא כלכלי מספיק והוא לא מייצג את הכוח. ועכשיו אני חוזר, למה הוא נבנה? למה הוא בעצם התחיל להיבנות? אז זה נכון שהמכרז של הרשות וכל הסיפור הזה היה קטליזטור רציני, אוקיי?

19:12

אבל למעשה יש פה גם אלמנט של ציונות של ארקדי, שהיה חשוב לו כן, אחרי הסשן הראשון שתיארתי קודם עם הקלאוד הגנרי, היה חשוב לו כן לבוא ולהשקיע באקוסיסטם הישראלי, ולכן בעצם ההחלטה להקים את הדאטה סנטר הזה הייתה קורית לצורך העניין, גם אם לא היה המכרז של הרשות.

19:33

וזו החלטה במודיעין ממה היא נבעה? זאת אומרת, למה לא בנגב או בגליל או משהו כזה?

19:37

אז פה אני חושב שהיה באמת הרבה שיקולים של אם אנחנו בונים לבד או לא, ומגה די סי כבר היה להם איזשהו מתקן יחסית מוכן, וגם בגודל הוא יחסית התאים לנו כי ידענו מראש שזה לא איזשהו מין מגה-- שזה לא איזשהו דאטה סנטר מאוד מאוד גדול. אבל אני יכול להגיד כבר שאנחנו כבר יש תוכניות להרחבה. Nebius מגיעה לארץ עם עוד שני דאטה סנטרים, עם עוד כמה עשרות מגה וואט.

20:00

זה כן, זה פה.

20:02

אז לא סקופ. שאלה של אולי שמישהו שלא אולי, בטוח מישהו שלא מבין בנגב, משהו סולארי יכול להיות רלוונטי? או שזה לא-

20:10

סולארי זה אירוע קצת קשה לצרכים האלה, אוקיי? אני אתן לך סתם דוגמה. מגה די סי בעצמם, שבונים היום בכמה מקומות בארץ, הם בונים גם כחלק מהדאטה סנטר שלהם, הם בונים תחנות כוח. זאת אומרת, זה לא שאתה עושה סולארי, פה יזיז משהו, כן? יכול להיות שבשביל added workloads, לא יודע מה, אולי יש גם, אבל אני לא מכיר, אבל זה לא האירוע של סולארי. אבל כן, יש גם הרבה מקומות בנגב, גם

20:38

הדאטה סנטרים החדשים של Nebius הולכים להיות במסמיע ושם.

20:42

אוקיי, אז יש דאטה סנטר, הוא מוכן, החשמל עומד, הכול מוכן לעבודה. Training, inference, אתם הולכים לחברות שעושות את זה? אתם מקבלים דרישה? אתם יש כאילו איזשהו... מה מוכרים בעצם? מוכרים capacity? מוכרים קריאות?

20:58

אז שאלה מצוינת, כי שוב אנחנו חוזרים לנושא של הקלאוד. אנחנו מוכרים full stack של services שהם למעשה כלים לכל מיני חברות לבוא ולפתח כל מה שהן צריכים בעולמות ה-AI, בסדר? אז יש לנו סט של כלים לניהול דאטה. שוב, object storage S3, בסדר? מאוד מוכר. למה? AWS יש להם גם S3, נכון? גם לאז'ור, גם לזה, יש מיניו, יש... S3 זה פרוטוקול מוכר. גם לנו יש אותו, אבל יש לנו tiers מאוד ספציפיים בשביל GPU workloads.

21:33

Storage רגיל, object storage, Manage Kubernetes, בסדר? גם Manage Kubernetes, הרבה עננים, זה basic, כן? אז יש לנו הרבה מאוד כלים שהם מאוד מוכרים, services, managed services שאנחנו נותנים בפלטפורמה. בסוף, על ה-GPU, על ה-GPU cloud שלנו, על התשתית, יושבת virtualization layer, אבל כשלקוח בא ורוצה להתחיל לעבוד על Nebius, הוא מקבל UI, הוא מקבל פלטפורמה

22:00

שהוא יכול להיכנס, self-service platform, אתם יכולים להיכנס עכשיו, אחרי השידור. שמים כרטיס אשראי, אפשר לשים... לא משנה, יש כל מיני שיטות זה, ואפשר להתחיל לעבוד. אפשר פשוט כמו שאתה יכול להיכנס ל-AWS ולהרים מכונה ולהרים שירותים ולהרים Manage Kubernetes ולהרים זה ולהרים database ולפרוס אפליקציות וכן הלאה, עם marketplace applications כזה.

22:22

אותו דבר ב-Nebius. אתה יכול להיכנס, להרים VM מבוסס GPU, אתה יכול גם להרים VM מבוסס CPU רגיל, כי שוב, כי אמרנו, זה לא הולך לבד. אתה יכול להרים שירותים, אתה יכול להתקין תוכנות ואתה יכול בעצם לבנות לך מה שאתה רוצה לבנות שם. רוב החברות שבאות ל-Nebius, במקור Nebius הייתה מאוד מאוד מפוקסת על חברות Training, כי זה גם התאים לתקופה. כל החברות שבונות

22:47

מודלים, אוקיי? בונות LLMs, עושות large scale distributed training, צריכות קלסטרים של GPU, קלסטרים גדולים של כמות רצינית של GPU בשביל לבנות את המודלים האלה. בסופו של דבר, ה-LLMs של GPT וכן הלאה, נבנו על אלפי A100 בהתחלה, H100 וכן הלאה, והיום נבנים על קלסטרים של אלפים. זה לא אחד בודד, שניים בודדים, אבל הקונסולה של Nebius מאפשרת גם לחוקר באוניברסיטה לבוא ולהרים GPU בודד או שמונה GPU, אוקיי? זאת אומרת, אתה יכול...

23:18

זה self-serve. אתה יכול לבחור כמה שאתה רוצה. עכשיו, כמובן שכשמגיעות חברות וצריכות קלסטרים יותר משמעותיים, עם יותר hands-on experience וליווי, יש לנו גם את השירותים האלה שאנחנו יודעים לעזור עם solution architects ו-support engineers וכל הדברים האלה. אבל... וזה עבור באמת... רוב הביזנס שלנו היום מבוסס על חברות שבאמת עושות עבודה מאסיבית, אבל יש לנו גם כל מיני סטודנטים, כל מיני מכוני מחקר, כל מיני חברות סטארט-אפ שגם מרימות שמונה GPU, 16 GPU, 32 GPU ועובדות ישירות על הפלטפורמה, מרימות שירותים וכן הלאה.

23:55

זה בעולמות ה... נקרא לזה Training וגם כל HPC Workloads, אוקיי? גם סימולציות, תיאורטית רינדור, תיאורטית עוד דברים שמצריכים GPU. מעבר לזה, בשכבה העליונה יש לנו גם Inference Platform. קצת על Training מול Inference?

24:15

אנחנו נעשה אולי רפרור לפרק שלנו עם אורי אבייב ומה שנתן שם...

24:20

נכון, ברור. דברים טובים.

24:23

נסיך ה-Inference הישראלי.

24:25

לגמרי. אז Inference Platform זה בעצם... שוב, Training זה לבנות את המודל, Inference זה לפרוס אותו. אז יש לנו גם שירותים מנוהלים שהם קצת יותר High Level ובמסגרתם, אם לקוח רוצה רק לעבוד מול פלטפורמות, מול LLMs, אוקיי? Open Source לצורך העניין, או יש לו משלו והוא רוצה לפרוס את זה בצורה קלה, בלי עכשיו להתעסק באמת בלהרים Kubernetes לבד, להרים VLLM לבד, להרים את

24:58

המנועים, את כל מה שהוא צריך לבד, אז הוא יכול לעשות את זה גם דרך השירותים המנוהלים שלנו ברמה היותר גבוהה. אני, שוב, אני כן...

25:07

שזה כבר לעולמות ה-DevOps, כאילו, נכון?

25:09

נכון, זה כבר יותר מתאים לעולמות ה-Solutions, נקרא לזה. DevOps.

25:13

זה עובר מה-Research ל-Product כבר.

25:16

בדיוק, נכון, נכון. בדיוק. אז Nebius היום, באמת, אז כמו שאמרתי, Nebius התחילה מאוד מאוד מפוקסת על עולמות ה-Training, אוקיי? עם כל הכלים שאנחנו נותנים וכמובן, ה-Hardware האיכותי והבנייה והכול, כמו שאמרתי בפעם הקודמת, אבל כל הכלים שאנחנו נותנים, Cloud Services לעולמות ה-Training. אבל אנחנו רואים בשנה, שנתיים האחרונות, שנה וחצי,

25:37

Transition מאוד מאוד גדול ב-AI Market לכיוון של Inference. Inference זה פשוט לפרוס את המודל ולתשאל אותו. לכיוון של Agentic Platforms שיושבות על גבי ה-Inference, זאת אומרת, הרבה מאוד Agentים שעושים Inference Calls לתוך המודלים. AI Solutions זה בעצם חברות שעושות AI Transformation, חברות שבאות לחברה, מסתכלות על ה-Business Pipelines שלהם ממש, על איך ה-Lead Funnel...

26:04

Wonderful שם קוד.

26:06

איך ה-Lead Funnel הולך, איך ה-Fraud Detection בבנק וכל מיני כאלה, ובעצם לוקחות תהליכים שעד היום היו Manual או באיזושהי אוטומציה פשוטה ומלבישות אותם על Agentic Platforms. אז כל האזור הזה של ה-High Level Services, Nebius do not tend it out of the box, אבל יש לנו הרבה מאוד שותפים בכל העולם ואנחנו גם מחפשים שותפים נוספים בעולמות האלה, גם בישראל. יש חברות שעושות דברים ממש יפים,

26:33

ואנחנו רוצים שגם Enterprises גדולים שצריכים את ה-Workloads האלה יבואו בסוף ל-Nebius, כי בסוף כל קריאת Inference, כל מה שמדברים היום על Tokenים והכול הזה, זה הכול בסוף מתרגם ל-GPU Workloads. זה הכול בסוף יושב על זה.

26:48

אז בעצם הלקוחות של חברות AI גדולות, לא יודע, מי שעורך תמונה ב-Nano Banana או שואל שאילתה את ChatGPT, הוא בסוף משתמש גם ב-GPUs שלכם?

26:57

אז אנחנו היום, מה שתיארת כרגע לצורך העניין, זה מלחמה מאוד גדולה שקיימת היום בשוק בין ה-Property Models, בסדר? בין ה-Close Source Models, האנטרופיקס, ה-ChatGPT, כל החבר'ה האלה שבעצם מפתחים מודלים מצוינים, הפרונטיר של הפרונטיר, אבל א', ה-Cost פה הוא משחק משהו משמעותי. הנושא של לאמן את המודלים האלה או להתאים אותם לצרכים שלך עם דאטה שלך הוא לא אפשרי. אפשר לעשות RAG, אפשר לעשות במעטפת...

27:37

אבל אין Fine Tuning.

27:38

אבל אין Fine Tuning ואין Post Training, כי אתה לא שולט ב-Weights, אתה לא שולט במשקלות. והנושא של Sovereignty גם, כי בסוף חברה רוצה לדעת שכשהיא שולחת מידע למנוע LLM, היא יודעת מה קורה עם המידע הזה ולמרות כל הדיסקליימרס והכול, אז בסוף כשהיא שולחת אותו לאנטרופיק, היא שולחת אותו לאנטרופיק. זה גם עניין של Sovereignty Original, אוקיי? אנחנו יודעים כבר היום שהרבה חברות

28:03

מאזורי אירופה, מאזורי האמירויות וכן הלאה, פחות רוצות לשלוח את המידע שלהן לשרתים של אנטרופיק בארצות הברית. אבל גם בקטע של אני לא יודע מה קורה עם המידע הזה, והיום הרבה חברות אומרות, אוקיי, יש פה איזשהו משחק של Multi Cloud, יש לי את ה-Ecosystem שלי ב-AWS וממנו אני מוציא Inference Calls לאנטרופיק. אני לא שולט במידע של אנטרופיק, אני לא שולט במה קורה. אני רוצה,

28:28

בתור חברה, להרים לי LLM Model, Open Source Model, והיום ה-Open Source Model Ecosystem מאוד מאוד איכותי.

28:35

ראינו עלייה משמעותית בחודשים האחרונים.

28:37

היום מדברים על זה ש... דיברו עד לא מזמן, אני מזכיר, לפחות ב-Security, שהיה שנה פיגור של ה-Open Source Model, זה איזה שבעה חודשים, אמרו לי לאחרונה ארבעה חודשים. זאת אומרת, יש פה ממש ממש Catching Up, ואותן חברות אומרות, אני רוצה להקים על תשתית GPU באותו Region של ה-AWS שלי גם LLM Model, ובמקום לשלוח את כל השאילתות שלי, שהוא בשליטתי לגמרי, שאני יודעת מה קורה איתו, אני פרסתי אותו בסביבה סגורה שרק למאנדסים שלי יש גישה.

29:07

אני לא מבזבז Tokenים, אני אשלח אותו למודל שלי אצלכם.

29:11

בדיוק, אני אשלח אותו. עכשיו, אני אשלח אותו למודל שלי, של הארגון, שפרסתי פשוט על תשתית של Nebius באותו Region של AWS.

29:20

ואז זה בעצם חוסך להם עלויות מטורפות ב-Tokenים.

29:24

זה לא רק עלויות, זה עלויות, כמו שאמרתי, יש פה שלושה מרכיבים. עלויות, דיפרנציאציה במודל, כי ברגע שהם הולכים על Open Source, הם כן יכולים להביא את הדאטה שלהם, הם כן יכולים לאמן אותו שיהיה מאוד מאוד ספציפי להם. ותחשוב, אני חברה, אני משתמשת באנטרופיק. כל העולם משתמש באנטרופיק. אין לי שום דיפרנציאציה ברמת המודל. אז אולי יש לי דיפרנציאציה ברמת ה-Software Stack, כי בניתי מוצר מדהים,

29:48

אבל ברמת המודל, אני שולחת שאלות למודל שכל העולם משתמש בו. אם אני כבר חברה מבוססת ויש פה גם איזשהו Maturity, כי ברור שסטארטאפים והכול מתחילים ב-Open Source, אבל ברגע שחברה מתחילה לאסוף דאטה... והדאטה הזה יכול לעזור לה לשפר מודל Open Source, לענות יותר טוב לצרכים שלה, היא כבר מקבלת דיפרנציאציה ברמת המודל. אז זו הסיבה השנייה. אמרנו Cost, דיפרנציאציה ברמת המודל והסיבה השלישית זה Sovereign. Sovereign ברמת ה-Region, Sovereign ברמת השליטה על הדאטה. זה בגדול שלוש הסיבות.

30:21

לא תלוי באנטרופיק, לא יודע, ב-downtime שלהם או ש...

30:24

זה בגדול שלוש הסיבות היום שאנחנו רואים הרבה מאוד חברות עוברות מה-Frontier Models, Proprietary, Closed Source Models ל-Open Source Models, Deployed בסביבות ענן שהם יכולים לשלוט בהן. זאת אומרת, זה מודלים שלהם והם פורסים את זה במקומות שהם שולטים בהם.

30:43

וגם יש את הנקודה של ה-Cost, שאני חושב שהיא חשובה. אמרת את זה עכשיו, אני רק רוצה להדגיש את זה. זאת אומרת, יש הרבה מאוד חברות, גם בישראל, גם בעולם, שנושות FinOps למודלים, נכון? זה פעם היה ב-Cloud רגיל, עכשיו אנחנו רואים את זה למודלים. אני בעצמי יש לי אורקסטраטור על המחשב הזה שפעם שולח ל-Claude ופעם שולח למודל אחר. Open Router כזה. כן, בדיוק.

31:06

הרבה מאוד. גם אנחנו עובדים על פתרונות ראוטרינג. אז האמת שבנושא של הטוקנים וכל הסיפור הזה, בדיוק כתבתי מאמר לא מזמן עם שותפה, עם הדס לאורבר, על כל הנושא הזה של טוקנים וטוקנומיקס ואיך זה משנה את הכלכלה של העולם היום. זה עולם מטורף, באמת. זה המטבע הכלכלי החדש. חברות משקיעות בזה המון. סטארטאפים קמים ונופלים סביב האירוע הזה

31:36

וזה באמת, זה עושה מהפכה בעולם הכלכלי, לפי דעתי.

31:40

זה אפילו מגיע לתיאוריות קונספירציה עדכניות לגבי ההנפקה של Anthropic ו-OpenAI, כמה זה משפיע עליהם בעצם, העלייה של Open Source Models. טוב, אז אנחנו מבינים איך זה גדל. אנחנו מאמינים שהשוק הזה הולך לגדול. נראה לי, שוב, אפשר בועת AI וזה, סבבה, אבל זה בעיניי יהיה עניין, שוב, לא המלצות השקעה, אף אחד לא מבין פה כלום. כאילו ברמה הטקטית אולי יעלה, ירד וזה. בסוף יצטרכו יותר שימוש ב-AI.

32:06

ככל הנראה, עכשיו אנחנו מגיעים לעולם שבו הטריינינג הוא פחות, תופס פחות קיפסטי מהאינפרנס, כרגע.

32:14

נכון. לא, זה נכון. בסוף, שוב, העולם עסק בבניית מודלים. והיום יש כבר המון מודלים. היום אם אני עכשיו לקוח...

32:23

ויותר קל לאמן מודלים.

32:24

ה-Entry Barriers, ה-Expertise Barriers גם ירדו משמעותית. יש היום הרבה מאוד פלטפורמות, גם ב-Nebius, שנותנות לך Fine Tuning Out of the Box.

32:33

כמה בעצם הלקוחות הם כאלה, נקרא להם קטנים בודדים, שמורידים את המודל מ-Hugging Face והמשקולות והכול ופותחים ומאמנים? ואז שאלה שנייה זה כמה מהם באמת אולי צומחים להיות סטארטאפים ענקיים הבאים?

32:49

אז יש היום כבר לא מעט סטארטאפים שסביב העולמות האלה. אז עוד פעם, אם נחזור רגע אחורה, אינפרנס היה פעם, כשרק התחיל האינפרנס, אז אתה יודע, זה היה כזה מאוד, אוקיי, בוא נפרס Kubernetes, בוא נריץ VLLM, נוריד את המודל מה-Hugging Face ונפרס אותו על הזה, והנה יש לנו אינפרנס. זה מצוין פעם. זה מצוין גם היום לאיזה דמו מגניב ביוטיוב, אבל בסוף זה לא עובד ככה. היום אינפרנס ו-Inference Optimization

33:17

זה אירוע עם Expertise מאוד מאוד מאוד מאוד חזקים. יש מיליון שיטות של אופטימיזציה, יש מיליון שיטות של לבחור את המנוע הנכון, אם זה TensorRT, אם זה SGLang, אם זה VLLM, אם זה שיטות אופטימיזציה, Distillation. כאילו יש מלא מלא מלא טכניקות היום באמת לפרוס מודל בצורה איכותית שישלוט לך, שייתן לך Token Performance טוב, שייתן לך High Availability טוב, שייתן לך

33:54

KV Cache טוב. זאת אומרת, ישמור לך על הסשנים. זאת אומרת, יש ממש חברות שמתעסקות רק בזה. איך עושים KV Cache Management? איך עושים Session Management? איך עושים... בסוף אתה צריך לשרת הרבה משתמשים, אז איך עושים Cold Start מאוד מאוד מהיר? ואיך... שוב, חלק מזה גם מושגים שאולי קיימים היום ב-High Availability של... נכון, אבל בעולמות

34:25

של LLM יש עוד הרבה שיקולים. איך אתה... האם אתה מעלה את המנוע, האם אתה מעלה את ה-KV Cache עצמו, אם אתה... כל הפלטפורמה שיושבת מסביב ל-LLM. אז שוב, אנחנו מדברים על RAG, אנחנו מדברים על Vector DBs, אנחנו מדברים על כל הדברים האלה.

34:40

אני, השיחה הזאת מאוד מרגיעה אותי, כי אני חשבתי שאני ממש כזה לא... I'm not catching up, נכון? תמיד יש תחושה של FOMO כל הזמן. ואני כאילו אומר, אוקיי, אני מבין Cloud רגיל וזה מאוד דומה. זה More Services, אולי פלטפורמות שונות, אבל אפשר להגיד את זה כמעט על כל Cloud, נכון? פתאום היה כזה APIs, פתאום היה זיכרון Cold Memory ו-Cold Storage וזה.

35:02

ובסדר, מבינים. אז אני קצת דווקא השיחה מרגיעה אותי.

35:06

אני אומר, אפשר להסתכל על זה באמת ככה. ושוב, גם, אז כמו שאמרתי, בסוף אף חברה היום שפועלת על AWS לא תעביר את כל המולטי מיקרו-סרוויס, מולטי דאטה בייס, מולטי זה שלה ל-Neo Cloud. כי זה לא התשתית וזה לא השירותים, אפילו לא ל-Nebius. אבל במולטי Cloud, במשחק המולטי Cloud, כשהחוכמה היא לנצל כל ענן למה שהוא טוב בו. אוקיי? ולכן רוצים להשאיר את כל הפלטפורמה שלכם על AWS או על Azure או על GCP, מעולה.

35:43

ברגע שיש לכם איזשהו Workload שמצריך GPU, אם זה Training, אם זה Fine Tuning, אם זה Simulation, אם זה Post Training, אם זה Inference, אם זה Inference Optimizations, AI Solutions, וכולי, כן? אז אתה בא לענן שהוא מתמחה באירוע הזה ואנחנו משקיעים הרבה בסנכרון, בשירותים שיכולים אולי לעזור במולטי Cloud Approach.

36:07

אני עושה קצת פיבוט רגע. בסדר? רכשתם שתי חברות בחודשים האחרונים, את Tavily ואת Inferize, אם אני קורא את זה נכון, נכון? למה? יש לי דעות, אבל תהיה-

36:23

זו שאלה מצוינת. לא, בסופו של דבר, כמו שאמרתי, זה שוק שיש היום המון המון סטארטאפים, המון חברות שכבר עשו לעצמם שם ממש ממש איכותי. דיברנו קודם על חברות שעושות Fine Tuning, חברות שעושות Reinforcement Learning. זה חברות שמצד אחד בנו פלטפורמה, מצד שני, לא תמיד הפלטפורמה הזאת מספיקה ככה Out of the Box, ואז הם גם עושים סוג של Technical Enablement או Professional Services on top הפלטפורמה,

36:54

וזה חברות שבאמת אנחנו עובדים איתן כדי לתת את השירותים האלה. ובסוף, עם כמה ש-Nebius היא Vertical Integrated ויש לנו Software Engineers מאוד חזקים בהרבה מאוד תחומים, יש תחומים ספציפיים שאנחנו רואים את העולם רץ מאוד מאוד מהר אליהם. אנחנו מאמינים שזה הכיוונים ולכן It makes sense. בסוף- צריכים מומחים וצריכים פלטפורמות שכבר יש להם איזשהו Track.

37:21

וסתם דוגמה, אני ספציפית על Tavily, כשאני הייתי בשיחה עם שותפים, שוב, לא דיברנו עליי ועל התפקיד שלי ב-Nebius, אבל אני בגדול בתפקידי הגלובלי, אני Technical Partner Solution Manager. זאת אומרת, אני עוזר לשותפים טכנולוגיים לעבוד ב-Nebius. ואני זוכר שרק, אפילו לפני שידעתי בכלל שאנחנו קונים את Tavily, פשוט נתקלנו בכמה וכמה מקרים של לקוחות שאמרו, אוקיי, יש לכם משהו בעולמות ה-Search, בעולמות ה-Agentic Search, בעולמות הזה, ואפילו הזכירו את השם עכשיו. זה ממש היה באותו שבוע כמעט, שיצא-

38:08

רעיון מצוין, לגמרי. אז אתה יודע, בסוף זה התפתחות של כל חברה. בסוף לדעת איפה להשקיע בלבנות את זה In House ולדעת איפה להשקיע בלרכוש-

38:22

Build or Buy, ואנחנו שמחים שזה היה בישראל ואנחנו אוהבים שאתה זה. בוא נדבר קצת על המכרז של רשות החדשנות. אתה גם הובלת אותו. אתה יכול לספר מה זה אומר? מה תנאי המכרז? מה הולך להיות בעתיד?

38:37

בהחלט. אז באמת הרשות לחדשנות הביאה מודל חדשני. האמת שהמודל הזה- המודל הזה הוא מאוד מאוד, בעינינו ספציפית, הוא מאוד מצא חן עד כדי כך שאנחנו היום למעשה הולכים וממליצים עליו לישויות ארגוניות וממשלתיות שאנחנו מדברים איתן בעולם. המודל בעצם בא ואמר, המדינה רוצה לשפר את האקוסיסטם של ה-Machine Learning וה-AI. בסוף זה בא על הרקע של

39:14

ועדת נגל, על הרקע של איפה ישראל ממוקמת בסייבר ואיפה היא ממוקמת ב-AI, שהיה בזמנו מאוד לא טוב יחסית ב-AI, ובעצם זה הגיע על הרקע של זה. והרשות לחדשנות בעצם אמרה, אני רוצה לסבסד שימוש. אני רוצה לתת תמריץ לחברות לבוא וממש להשתמש ב-GPU, אוקיי? אני לא מסבסדת בנייה. אני לא עכשיו נותנת כסף ל-Nebius על זה, בואו תבנו פה דאטה סנטר, כי אז בעצם אין

39:49

שום סבסוד לחברה להגיד, אוקיי, בוא, אני רוצה לבוא לעבוד בדאטה סנטר הזה, אני רוצה להשקיע שם. אז מה שהרשות לחדשנות בעצם אמרה, היא אמרה את הדבר הבא, אני עושה מכרז לחברות שרוצות לבנות דאטה סנטר פה. אני הולכת לתת קופונים, נקרא לזה, כביכול. במקרה של ספציפית, במקרה של זה, הרשות לחדשנות החליטה על 30% הנחה לחברות מסחריות וסטארטאפים,

40:21

ו-80% הנחה לאקדמיה, בסדר? והיא בעצם לקחה 1,000 GPU מהדאטה סנטר שלנו במודיעין, ובעצם חילקה את זה בגדול 70-30, 70% לסטארטאפים ו-Industry, ו-30% לאקדמיה, ובעצם אמרה ל-Nebius, אני אסבסד כל חברה שתבוא אליכם. מה זה אומר? זה אומר ש-Nebius בעצמה צריכה להביא את הלקוחות. נכון? זאת אומרת, הרשות אמרה מראש, אני לא מביאה לכם לקוחות. אני אולי אעזור בשיווק, אני אולי אעזור בפרסום, אתן לכם את הזה, אבל

40:57

בסוף Nebius צריכה להוכיח. Nebius צריכה להביא את הלקוחות, וזה גם חלק מהדרישה שלנו כשהגשנו את המכרז, זה חלק מהדרישה להראות שיש לכם את היכולת גם, לא רק לבנות את הדאטה סנטר, אלא גם להביא את הלקוחות. אז בעצם זה המכרז. עכשיו, מה שבזמנו הרשות... הנושא החשוב פה הוא אפילו לא המחיר, הוא אפילו לא ההנחה. הרשות בעצם, בשריון הזה של 1,000 GPU לטובת לקוחות ישראלים, מה שהיא עשתה, היא פתרה כשל

41:30

שהיום הוא הרבה יותר גדול. היום חברות שמגיעות בעולם ומבקשות GPU, הרבה מהן נדחות, כי גם לעננים אין תמיד GPU לתת. אוקיי? זאת אומרת- והאקדמיה בישראל, איזה חוקר, איזה פה, איזה שם, לא בהכרח היינו יכולים לתת לו תמיד את ה-GPU שהוא צריך.

41:51

אז זה כאילו צבוע ישראל.

41:52

זה צבוע ישראל, זה צבוע אפילו הרשות. זאת אומרת, זה ממש, יש לרשות תהליך, יש ועדה, יש קול קורא, ניגשים לאתר של הרשות, מגישים בקשה, יש ועדה.

42:03

סטארטאפים מכירים את זה? סטארטאפים משתמשים בזה?

42:05

אנחנו עושים את כל המאמצים שסטארטאפים יכירו.

42:08

הנה, הוא עולה על זה.

42:09

כולל פודקאסטים. עשינו שיווק, אנחנו עושים שיווק גם הרשות לחדשנות, עשינו וובינרים, עשינו כל מיני מאמצי מרקטינג בכל מיני זירות, ובאמת... חברה שרוצה GPU בהנחה מנביוס מתוך האלף האלה, מדובר על B200, צריכה לבוא לאתר של הרשות. יש עמוד לחפש באתר של הרשות. אפשר גם, יש גם אתר של נביוס לטובת הדבר הזה ובעצם להגיש בקשה. הבקשה נידונה אחת לחודש בערך בוועדה מיוחדת של הרשות

42:46

ומקבלים, שוב, בוחנים את הבקשה ומקבלים אישור לקפסיטי מסוים לכמות זמן מסוימת עם ה-30% הנחה, ואז בעצם מגיעים לנביוס ומתנהלים מול נביוס באופן כמו שכל לקוח מתנהל מול נביוס.

43:01

ואפשר לבחור שלבים, כאילו אפשר לבחור ב-blackwell או...

43:05

בארץ יש לנו כרגע בדאטה סנטר הזה רק B200. יש תוכניות להרחבות נוספות שאולי גם ייכנסו לאותו אירוע של הרשות, עוד לא, זה עוד לא סגור. אבל כן, אבל זו הנקודה החשובה, שהרבה מאוד חברות כאלה או לקוחות בודדים, יש... ה-3,000 האחרים שדיברתי עליהם בדאטה סנטר הזה הם full capacity, הם מכורים. אוקיי? לא מן הנמנע שגם האלף הזה, אם לא היו משוריין לטובת לקוחות ישראלים...

43:38

מישהו אחר היה תופס אותם וצו ביקורת.

43:41

ולא בטוח, בדיוק, לא בטוח שהיינו יכולים להיענות לדרישות של הלקוחות הישראלים ולכן זה המודל החזק פה. זאת אומרת, החוזקה פה היא לאו דווקא ה-30% הנחה, אלא השריון של הקפסיטי.

43:56

כן, אני זוכר את זה עוד כשהייתי בארגונים גדולים, אז אתה צריך לשריין TPU או GPU או לא יודע איזה ארגון אותם מראש, גם למרות שאתה בתוך הארגון וזה לפי תעדוף וזה תשתיות ובטח אם זה ברמה כזאת. פיבוט לקריירה רגע. איזה מקצועות יש בדאטה סנטרים שהם כאילו אנחנו לא חושבים עליהם? אתה יודע, אמרנו מהנדסים, חוקרי AI, סבבה, אולי כזה טכנאי system classים.

44:23

מה עוד? כאילו אני כזה, יש לי ממש חלומות על הדברים האלה.

44:31

אני יכול לומר שאני דיברתי לא מעט עם גם מהנדסים אצלנו וגם המהנדס של MegaDC. הסיפור הזה של דאטה סנטר עם GPU הפך את מה שכביכול אפשר לקרוא לזה low tech, את החשמל וההנדסה וכל הסיפור הזה והנטוורקינג, הפך אותם למקצועות מאוד מאוד מבוקשים. זאת אומרת, היום בן אדם, מכיוון שהבנייה של הדאטה סנטר של ה-GPU היא שונה, אז בן אדם היום שיודע

45:09

לתכנן דאטה סנטר של GPU, שוב, NVIDIA Reference Architecture וכל הדברים, מעולה, אבל בסוף זה צריך תכנון מאוד מאוד חזק על פני כל האלמנטים שדיברנו עליהם קודם. והוא אמר לי, אנחנו מחפשים מהנדסים שיש להם את הרקע הזה וזה לא פשוט היום בגלל שכל כך מעט חברות יוצרות את הדאטה סנטרים האלה, זה לא פשוט היום לקבל expertise בעולמות האלה. זה לא לומדים את זה באוניברסיטה ככה.

45:40

ובניגוד לדאטה סנטר גנרי, שיש הרבה מאוד חברות שפונות, אפילו כמו שאמרתי, on prem וכן הלאה, כדי להשיג מומחיות בלבנות את הדאטה סנטרים האלה, צריך לעבוד בארגון שבונה את הדאטה סנטרים האלה וכאלה יש מעט בעולם וזה שוני משמעותי. זה ממש מקצוע מאוד מאוד מבוקש. מעבר לזה, שוב, גם ב-software stack, כל מי שמפתח היום ב-CUDA, כל מי שמפתח היום ב-low level של ה-GPU והרבה מאוד חברות, אגב, סטארט-אפ, שכל החברות שמתעסקות ב-cold start ומתעסקות באיך להוציא מה-GPU עוד יותר. אוקיי? זה לא

46:19

טריוויאלי. זה מקצועות מאוד, זה מאוד low level, אנשים מאוד מאוד חזקים ושם יש הרבה מאוד demand לדבר הזה. זהו. מעבר לזה, אני יכול להגיד ש... וזה לא סוד, אחד הדברים שמאוד מבוקשים היום זה אותם AI transformation capabilities. זאת אומרת, אם מסתכלים על לפני 20 שנה, על ה-digital transformation שבעצם לקחו את ה-enterprise מה-on prem ל-cloud,

46:47

מעולה. לא בהכרח אותן חברות היום חזקות ב-AI transformation. אוקיי? כי AI transformation זה באמת להיכנס לתוך העסק, להבין איך התהליכים עובדים. צריך פה גם mindset עסקי, גם mindset טכנולוגי. להבין איך תהליכים עובדים, לדעת לאפיין אותם בצורה של כל ה-agentic pipelines וכן הלאה, עם כל ה-harnesses וכל ה-richness שיש לנו מהסיפור הזה

47:14

וגם לדעת להוציא את זה לפועל תוך כדי חיבור מערכות החברה ובקרה ושוב, ולראות שה-agentים לא בורחים ועושים כל מיני שטויות, שזה בכלל סוג מסוים של קטסטרופה.

47:26

נדבר על זה, יש לנו אנשים ב-pipeline.

47:28

זהו, אז זה גם מאוד מאוד, מצרך מאוד מאוד מבוקש היום וזה, שוב, זה לא בהכרח אותם אלה שעשו את ה-digital transformation של פעם.

47:37

טוב, נעבור לשאלות מהקהל. אז קודם כל שאלה מאנונימי, יש לנו הרבה כאלה. מה אתה חושב על דאטה סנטרים בחלל?

47:50

לא, סבבה, אז אין בעיה. היה למיקרוסופט phase של... לא רק מיקרוסופט, היה למיקרוסופט phase של דאטה סנטרים מתחת למים, נכון? היה... דאטה סנטרים, רעיון של דאטה סנטרים בחלל וכן הלאה. הכול זה סבבה, זה בסוף מתבטא ביכולת לתחזוקה.

48:12

תחזוקה ו-DNA, לא?

48:13

תחזוקה והקמה, בסדר, וכן. היום קשה לי לראות את זה, שוב, אילון מאסק אולי, אבל היום קשה לי לראות את זה הופך להיות המיינסטרים, אולי בעתיד. אני יכול כן להגיד אבל, שוב, לא נגענו בזה כל כך, אבל על ההבדל בין דאטה סנטרים של Training ל-Inference. אז שוב, פעם היה דאטה סנטר, פעם, לפני שנה, היה דאטה סנטר של Training עם קלסטרים מאוד מאוד ענקיים של GPU מה-Latest Technology. היום הרבה מאוד מקומות בעולם מסתכלים על דאטה סנטרים ייעודיים ל-Inference,

48:48

קטנים, עם GPU כאילו דור אחורה אחד או שניים, שהם ממוקמים, יכולים להיות ממוקמים מאוד קרוב למרכזי לקוחות, אוקיי? או עם כל מיני Cloudflare למיניהם וכן הלאה. אז זה גם משהו. אני יודע שיש היום חברות, יש היום חברות שבונות דאטה סנטר מודולריים שאתה יכול להרחיב. Unity אני יודע שבונה דברים כאלה. יש עוד כמה חברות שבונים באמת דאטה סנטרים שהם כאילו כביכול בתוך

49:17

מבנים מודולריים, שאתה יכול לרכוש מבנה, אתה יכול להרחיב אותו עם עוד מבנה, להרחיב אותו עם עוד מבנה, להוריד מבנה וזה-

49:25

כאילו מכולות כזה.

49:26

כן, סוג של מכולות. אתה יודע, בהפרשה מאוד-

49:29

שזה בדיוק קונטיינרים, שזה גם בענן.

49:32

זה מצחיק שחזרנו מהענן לקונטיינרים.

49:36

כן, זה לא בדיוק קונטיינרים כי אתה צריך הרבה מאוד אוויר, אבל כן, אבל זה הקונספט ומודולרי, אתה יכול להרכיב, פתאום אתה צריך עוד אחד, אתה מביא עוד אחד. אז יש היום הרבה דיבור על גם האזור הזה של ההפרדה בין דאטה סנטרים של Training ל-Inference, בחלל.

49:51

אם לא בחלל, מה עם האוקיינוסים? סתם, לא, אפשר-

49:54

זה מייקרוסופט עשו. זה מתחת למים.

49:59

סרטון די מגניב האמת, של איך הם זורקים אותו למים, שם מתוך תפיסה של קירור ולחסוך וזה, זה בתקופה ש-ESG היה מגניב.

50:08

שאלה הבאה. אג"ח להמרה, מקדמות מלקוחות, NVIDIA היא גם ספקית, גם משקיעה. מה ישתנה אצלכם ביום שהביקוש ל-GPU יתקרר? ואני אוסיף, אתם הרי מתכננים שנים קדימה, אז אתם לא, אתם צריכים לצפות כאילו איזשהו ביקוש שהולך והולך. איך מתמודדים עם כזה דבר?

50:25

אוקיי, אז זה נכון. יש פה את הסוגיה הזאת. אני, כמו שאמרתי, Nebius היום לא מחכה על לקוחות. היא מאמינה שהלקוחות יגיעו והיא מאמינה שהלקוחות יגדלו. והאם הביקוש ירד? אז פה יש שאלה. אנחנו כרגע לא רואים שהביקוש יורד. אנחנו רואים שה-AI נכנס לעוד ועוד ועוד תחומים וכמו שאמרתי, בסוף כל טוקן שיוצא על Inference, שלצורך העניין תחשוב הכי לא AI בעולם, הכי לא GPU בעולם, כן? אני מפתח React,

51:00

יש לי איזו אפליקציה, אני פשוט רוצה להכניס לה AI, נכון? אני עושה לה API call במקרה ההתחלתי לאנטרופיק, בסדר? בסוף ה-API call הזה זה טוקן. בסוף הטוקן הזה מתרגם לעבודת GPU. בסדר? אז זה לא שאני אומר GPU וכולם חייבים להיות סופר Training. לא. כל דבר היום בעולם והכניסה של המערכות האג'נטיות וה-Harnesses פשוט גרם להתפוצצות של טוקנים, כי האג'נטים-

51:29

כן, ראינו Muse, Instinct, כולם צריכים בסוף להגדיר לאיזשהו לקוח קצה, איזשהו GPU שהוא מוקדש בצורה מסוימת לו בלבד, כי אני צריך אחרי משימות, תזכיר לי מחר.

51:41

היום מדברים על זה שלכל עובד בחברה יש סט של Agentים שעוזרים לו לעשות את העבודה. לכל עובד בכל חברה. כמה Inference call זה קורה? זה יותר. זה עולם מטורף. אז נכון שאולי, כמו שאמרנו, ה-Training המסורתי ירד בכמות שלו כי יש כל כך הרבה ויש כזה עושר וה-Entry Barrier הזו יותר נמוכים, אבל ה-Inference רק בראשיתו. חברות עוד לא התחילו

52:09

לנצל את העולם הזה של Agentים וזה, ואני לא יודע לאן נגיע עם זה.

52:14

טוב, איזה כיף שבאת. אנחנו הגענו לסוף. יש לך משהו להוסיף שאתה רוצה להזכיר שלא דיברנו עליו?

52:22

אז שוב, אני יכול להגיד שבסוף Nebius חברה גלובלית, מחפשים עובדים בכל העולם, גם בארץ, אבל גם יש לנו הרבה עובדים שעובדים גם בחו"ל, הרבה עובדים שעובדים ברימוט. כן, ה-Headquarter נמצא באמסטרדם, אבל יש לנו מרכזים גדולים גם בארצות הברית וגם מקומות נוספים באירופה. אז אנחנו תמיד מחפשים אנשים טובים ומוכשרים, שוב, בכל העולמות, כמו שאמרתי, Vertical Integrated זה אומר גם בבנייה של דאטה סנטרים, גם בסופטوير, גם ב-Sales, גם ב-Partnerships, גם ב-Ops, בכל העולמות האלה

52:59

וממליץ מאוד לפנות אלינו באתר.

53:02

ותגידו שהגעתם מצורבה הייטק.

53:05

בהחלט.

53:05

תודה שבאת.

53:06

תודה, עידו.

53:07

תודה, נהניתי מאוד.

  • AI
  • ענן ותשתיות
שתפו את הפרק: ווטסאפ

עוד פרקים

לכל הפרקים