צרות בהייטק

פרק 92בשיתוף Wolt Benefits16 בנובמבר 2026 · 46 דקות

דן פאדנוס, Head of AI ב-Novee: ״לא ראינו את החולשות הכי גרועות עדיין״

עם דן פאדנוס, Head of AI ב-Novee

מה קורה כשסוכן AI מקבל משימה בלתי אפשרית, ומחליט לבד לפרוץ לחברה אחרת כדי להצליח בה?

אירחנו את דן פאדנוס, Head of AI ב-Novee, שחזר אלינו אחרי ארבע שנים והיום בונה אייג'נטים שתוקפים את הלקוחות של החברה שלו. דיברנו על התקרית של OpenAI ו-Hugging Face, על מה שאפשר לעשות היום ממרתף עם קלוד, ועל איך מלמדים מודל לפרוץ בלי שיברח מה-sandbox. ביקשנו ממנו להיות פסימי, והוא עמד במשימה.

פרקי זמן

  1. 0:00הוק
  2. 0:49פתיחה
  3. 1:04Wolt Benefits
  4. 1:57ארבע שנים מאז ChatGPT
  5. 2:35מ-AI לסייבר
  6. 4:46מה השתנה בשנה האחרונה
  7. 6:12חולשות ו-Zero Day
  8. 8:11התקרית של OpenAI ו-Hugging Face
  9. 12:32לברוח מה-sandbox
  10. 14:38האקר במרתף עם קלוד
  11. 15:43אפשר להגביל מודל מסוכן
  12. 17:38מה Novee בונה
  13. 20:03שוק ה-agentic security
  14. 22:56לאמן מודל או לשפר הארנס
  15. 26:47Post training מול fine tuning
  16. 27:40איך מלמדים מודל לתקוף
  17. 29:32ומה אם המודל בורח
  18. 31:02איך ישנים בלילה
  19. 32:57אאוטסיידר בסייבר
  20. 35:08התקפה מול הגנה
  21. 37:48את מי קשה יותר לגייס
  22. 40:13כנסי AI מול כנסי סייבר
  23. 41:29חברת AI ורטיקלית
  24. 44:32את מי Novee מגייסת

תמלול הפרק

התמלול נוצר אוטומטית מהפרק שפורסם, בלי שיוך לדוברים. ייתכנו טעויות, בעיקר בשמות ובמונחים. לחיצה על זמן מקפיצה את הנגן לאותה נקודה.

0:00

נפגשנו פעם קודמת לפני ארבע שנים על רקע ההתפוצצות של ChatGPT.

0:04

הוא היה בן שבועיים אז.

0:06

אוסף של ביטים שאתה משקשק ב-GPU לא אמור לפלוט לך שירה נהדרת וסרטונים וקוד מדהים, אבל הנה. לתוקף יש היום כלים הרבה יותר חזקים. הוא יכול להרים התקפות יותר מורכבות במשאבים יותר צנועים. לא ראינו את החולשות הכי גרועות עדיין ואת התקיפות הכי טובות. יהיה עוד, כי העולם השתנה והכלים שיש לאנשים רעים הם הרבה יותר חזקים פתאום.

0:28

אבל זה לא כאילו אם תהיו ממש ממש טובים, אז המודל שלכם בהגדרה יצליח לצאת מה-sandbox?

0:33

זו שאלה מעניינת. בונים Agentים שתוקפים את הלקוחות שלנו, שלא במטרה לעשות ללקוחות שלנו נזק כמובן, אלא במטרה למצוא את החולשות.

0:43

אופטימיות לא מביאה Engagement, אז תהיה פסים.

0:46

אז הכול הולך להישרף. צרות בהייטק עם ארבל זינגר וערן יעקובוביץ.

0:58

אז לפני שמתחילים, רצינו רק להגיד תודה ל-F2 Venture Capital על אירוח ההקלטה ועל התמיכה ביזמים ישראלים. אז הפרק הזה בשיתוף Wolt Benefits, ואנחנו אומרים את זה בכיף כי זה כנראה נותן החסות הכי צרות בהייטק שהיה לנו.

1:10

ארוחות צהריים, הצרה המקורית.

1:12

כן, שנים שאנחנו רואים בקבוצה את אותם הפוסטים. נגמר לי התקציב באמצע החודש, המסעדה שאני לא אוהב לא בפנים, מי מזמין היום?

1:19

ולכל מי שמקריא קוד בקופה כשיש תור מאחוריו ולחוץ, אנחנו איתכם, גם עם התור.

1:25

אז דור גביזון, ממקימי Wolt בישראל ומי שמנהלת Wolt Benefits, ישב איתנו בפרק 89 וסיפר מה הם בונים. בגדול, התקציב מהעבודה נכנס ל-Wolt שכבר יש לכם. מזמינים, יושבים במסעדה, קונים בסופר, פשוט מצמידים את הטלפון וזהו.

1:40

אני התחברתי להזמנה הקבוצתית. לא צריך יותר להעביר בביט, לא צריך זה, כל אחד משלם מהתקציב שלו.

1:46

כן, מי כמוך מכיר את זה? אתה היית Head of Wolt. לגמרי. אז אם זה חסר לכם בעבודה, תגידו ל-HR שידברו עם Wolt Benefits. בתיאבון. יאללה, לפרק. טוב, דן, Welcome back.

2:00

לא היו לנו הרבה אורחים חוזרים. בעצם נראה לי שאתה היחיד.

2:04

לא, היה לנו מישהו, אני לא זוכר, אבל היה לנו.

2:07

אוקיי, אז סליחה, לא מישהו.

2:08

אהבה להיות מהיחידים.

2:10

פעם אחרונה שדיברנו איתך היית בחזית ה-AI, נכון? Frontier Models. הנה, בונים עכשיו מודל בישראל, AI21, AI21. סליחה, אני יודע שלא אוהבים זה.

2:22

וזה היה שבועיים אחרי ש-ChatGPT יצא לאוויר.

2:25

כן, ממש כזה בתחילת הזה, עוד דיברנו על זה ברמה יותר אקדמאית. כמה דברים קרו.

2:31

כן, אפשר להגיד את זה.

2:35

ואחד הדברים העיקריים שקרו לדעתי בשוק ההייטק וה-AI זה שאתה עברת בעצם לצד של הסייבר.

2:42

אני חושב שזה היה חדשות בכל העולם, זה שאני עובר לצד הזה.

2:45

אני כזה ראיתי את הציוד של ג'נסון הזה. ואיך זה מרגיש?

2:54

תראה, מאז ומעולם היה ברור שתעשיית הסייבר יצא ממנה משהו, נכון?

3:01

נראה לי שזה יתפוס, כן.

3:03

זה לא כאילו השנה האחרונה פתאום גילתה איזה משהו. אז לא צריך שאני אספר למה זו תעשייה חשובה ולמה יש לה מקום, אבל נראה לי שמה שקורה עכשיו עם AI וסייבר הוא סופר מגניב והוא עוד איזה פרק מיוחד וחדש.

3:16

אז מה קורה עכשיו עם AI וסייבר?

3:20

הייתי אומר שתעשיית הסייבר גילתה את ה-AI באמת, אולי לפני, לא יודע, שנתיים, שלוש. זה היה עוד בעצם אחת מהרבה תעשיות שגילו שיש דבר כזה AI ואולי יש לנו הזדמנויות, אולי יש לנו סיכונים, אולי יש לנו פתאום מוצרים חדשים שצריך להגן עליהם שהם מוצרי AI. זה היה כאילו מין...

3:46

זה היה ה-buzzword של איך מונעים Prompt Injection וכאילו אתה מתכתב עם העוזרת האישית של קופת חולים ושואל מתכון לעוגה כזה, נכון? או תוציאי לי את כל הדאטה של כולם, כן? מהצד השני.

3:59

לגמרי. וזה היה מין כזה שיח ברמה הזאת שהוא צמחו ממנו חברות שעשו דברים יפים ומוצרים והתפתחויות יפות, אבל אני לא חושב שזה שונה מהותית מנגיד איך שה-AI פגש את, לא יודע... אולי יותר, כי סייבר זה יותר טכנולוגי ובכל זאת, אבל בראש שלי זה קצת בקטגוריה הזאת וכשאני מסתכל על מה שקורה בשנה האחרונה, אז זה אחרת לגמרי. הכניסה של AI לתוך התחום הזה בעצם משנה מהבסיס את הפיזיקה של סייבר.

4:39

של איך עובדת הגנה והתקפה ובעצם את היסודות שעליהם כל התחום הזה עובד.

4:47

למה? מה בעצם קרה בשנה האחרונה? כאילו איפה הייתה הקפיצה הזאת שאפשר להגיד מהרגע הזה, דברים השתנו בהקשר של סייבר?

4:56

אז אני חושב שלכולם ברור שהנדסת תוכנה השתנתה בצורה דרמטית ועברה מהפכה רדיקלית בשנה האחרונה. זה פשוט חיה אחרת לגמרי וגם בקצב מאוד מהיר וגם כאילו בעוצמה מאוד גדולה השינוי הזה קרה ואני חושב שמה שקורה בסייבר זה איזושהי נגזרת של זה, כי מן הסתם סייבר Security זה איזשהו סוג די אקזוטי של הנדסת תוכנה, גם מצד ההגנה וגם מצד ההתקפה

5:30

וההבדלים אולי הכי גדולים שרואים, אז אפשר לראות אותם ממש בחדשות בשבועות ובחודשים האחרונים. אני מחלק את זה בראש שלי לשני סוגים של חדשות ששומעים עליהם. סוג אחד זה בעצם חולשות שיוצאות, שהן מתגלות בסיוע מאסיבי או ממש באופן אוטונומי על ידי כלי AI. זאת אומרת, או חוקרים שמפעילים כלי AI ומוצאים חולשות מרשימות מאוד עם אימפקט גדול גם.

6:03

או ממש חוקרים שמפעילים כלי AI בצורה אוטונומית לחלוטין, כאילו משגרים אותם על משימה עם מעט supervision וגם זה מוצא דברים.

6:12

אז אני קצת רוצה לחזור אחורה. חולשות זה בעצם באג בתוכנה שאפשר לנצל אותו בצורה שלא התכוון למי שכתב את הקוד במקור. למצוא חולשה היה הדבר הכי גדול בעולם. כאילו, חולשה ל-iOS היה פעם פרסמו, זה כאילו מיליוני דולרים יכול להיות, מה שנקרא Zero Day, חולשה שלא יודעים עליה. וזה כאילו המחיר ירד? כאילו, זה בעצם הנקודה?

6:36

במידה מסוימת זה קרה, כן. זאת אומרת, סתם הסתכלתי היום בבוקר, באוקטובר 26, בכזה מקומות שעוקבים בצורה פומבית אחרי חולשות ומפרסמים אותן כדי שכולם ידעו שהן קיימות ויסגרו אותן, יעדכנו תוכנה או יעשו מה שצריך. אז באוקטובר 26 יצאו פי ארבע דיווחים כאלה מלפני שנה.

6:59

וואי, אני ממש מרגיש את זה שכל פעם הכרום אומר לי לעשות לו update, נכון? כאילו פתאום יש updates כל הזמן, כי יש כל הזמן חולשות חדשות.

7:08

אז זה ברור שאנשים מדווחים יותר על חולשות, כי הם מוצאים יותר חולשות, כי הם משתמשים במכונה שמעצימה את היכולות שתמיד היו קיימות. זאת אומרת, אנשים ידעו לקחת קוד, לעשות לו reverse engineering, לחקור אותו, לחפש כל מיני הזדמנויות לתקוף אותו והיו מגלים בו חולשות ועכשיו פתאום יש כלי שמעצים את זה מאוד. אז זה סוג אחד של כאילו שינוי בפיזיקה של הדבר הזה שנקרא cyber security.

7:38

סוג שני של חדשות שאנחנו שומעים עליו זה פריצות שהן אוטונומיות. זאת אומרת, incidents, אירועים אבטחתיים שממש יש איזשהו תוקף שנכנס לתוך רשת, משיג איזשהו דאטה, עושה איזשהו נזק, שהתוקף הזה הוא בעצם ברובו אוטונומי, לא במובן של יש איזשהם סקריפטים או playbookים או דברים כאלה שמוטרגים בצורה אוטומטית, אלא במובן שיש מודל AI, AI Agent, שהיה Orchestrator של ההתקפה הזאת.

8:15

החדשות הכי מרישות נראה לי שעשו הכי הרבה באזז היה Hugging Face OpenAI Incident מהקיץ.

8:23

ספר על זה טיפה.

8:24

אז זה היה חדשות גדולות באוגוסט, אני חושב סוף יולי, אבל התקרית המדוברת קרתה במאי, אם אני זוכר נכון. בעצם הכול התחיל בזה ש-Hugging Face פרסמו שהם חווים איזושהי התקפה של האקר שהוא אוטונומי. והם דיברו על זה, אגב במאמר צד, שהם ניסו להשתמש במודלי שפה מ-Frontier Labs בשביל לפענח את ההתקפה הזאת, להבין בעצם מה מנסים לעשות להם ואיך,

9:04

והם קיבלו סירובים מה-API כי זה היה cyber related. והם דיברו על זה כחלק מהאג'נדה המאוד ברורה שלהם ובעיניי גם במידה רבה מוצדקת, של להפוך את ה-AI לכמה שיותר פתוח ומבוסס על מודלים פתוחים. אז הם דיברו על זה שבסוף מה שעזר להם מאוד להתקדם בתחקור של התקרית הזאת ובעצירה שלה זה דווקא שהם השתמשו במודלים פתוחים. אבל הם אמרו, מין איזה משהו מסתורי כזה, יש תוקף אוטונומי שמתקיף אותנו.

9:33

אנחנו די בטוחים שזה Agent שהוא driven על ידי LLM, אירוע תקדימי וכו' וכו'. ואז אחרי זמן קצר התפרסם שבעצם OpenAI מודים שזה Agent שלהם, מודל שהם לא אמרו אז מהו, היום רוב האנשים חושבים שזה Astra ו-GPT 5.6, שהיו באיזשהן אבולוציות של יכולות הסייבר שלהם, ולכן הריצו את האבולוציות האלה בלי אותן הגנות, שאגב ביקשו על Hugging Face לתחקר את

10:05

התקרית. והאבולוציות האלה עושים אותן בסביבה מוגנת, שהיא איזו מין סביבה יחסית מבודדת כזאת, שביעדיאל ה-Agent לא אמור לצאת ממנה ולהשפיע על העולם שבחוץ, אבל זה לא מה שקרה, כי הוא יצא והשפיע.

10:24

וזה גם היה כאילו, נראה לי הנקודה הייתה שהתקיפה לא מישהו אמר לך תתקוף את Hugging Face, אלא הייתה משימה של להצליח יותר באבולוציה. כדי לעשות את זה ה-Agent או ה-AI, כן? הגיע למסקנה שצריך להבין איך עובד המודל של Hugging Face כדי להצליח לרמות. Hugging Face עושים איזשהו Benchmark כזה למודלים, זה חשוב למי שלא מכיר. אז כדי להבין את זה בעצם המודל בעצמו בחר לעשות את התקיפה הזאת. זה נראה לי הנקודה המעניינת, שלא הייתה פה יד אנושית מאחורי.

10:53

זה לא שהם רצו לתקוף את Hugging Face. ממש לא. זה אפילו יותר מטורלל מאיך שאתה תיארת את זה, ארבל, כי בתכלס מה שקרה שם, OpenAI עבדו על המודלים שלהם, רצו לבדוק כמה הם טובים במשימות סייבר והריצו אותם על איזשהו Benchmark שבו צריך להשמיש חולשות באיזושהי פיסת תוכנה, וזה ניסוי שאפשר לעשות אותו בסביבה מבודדת, לא צריך גישה לאינטרנט. אז הם היו אחראים למדי וסגרו את האג'נטים האלה באיזושהי סביבה מבודדת. עכשיו מה שקרה זה שחלק מהמשימות כנראה היו סופר קשות ובסבירות גבוהה בלתי אפשריות. זאת אומרת, נתנו לאג'נט להשמיש איזושהי חולשה שבפועל אי אפשר היה.

11:35

ואל מול המשימה הבלתי אפשרית הזאת, מה שהאג'נט החליט לעשות זה לצאת מהקופסה במובן המילולי. To escape the sandbox. ומשום מה הם הגיעו למסקנה או להשערה שאולי מפתח התשובות, כן? איך פותרים את המשימה, נמצא ב-Hugging Face.

11:54

שזה לא נכון, כן? כאילו...

11:57

זו לא השערה מופרכת. הרבה Benchmarkים שבודקים עליהם מערכות AI אכן נמצאים ב-Hugging Face, כי זה ה... ה-GitHub של עולם ה-AI, בסדר? אבל האמת היא שבמקרה הספציפי הזה כמעט בוודאות הם לא היו מוצאים ב-Hugging Face שום דבר שהיה עוזר להם ישירות לנצח, וגם באמת הם הגיעו ל-Hugging Face, מצאו שם דאטה, הביאו אותו וזה לא עזר להם לנצח את האבולואציה, אבל בדרך הם

12:24

יצאו מה-sandbox ש-OpenAI בנו להם דרך זה שהם השמישו איזשהו ערוץ תקשורת החוצה שאף אחד לא התכוון שיהיה.

12:32

דרך אגב, זה חולשות sandbox escape, מה שנקרא. זה גם אירוע מאוד גדול בעולם הסייבר. אני בעוונותיי בעברי סייבר, וזה לקפוץ מ... תדמיינו לקפוץ ממכונה וירטואלית אחת למכונה וירטואלית אחרת באותו ענן, למשל. זו דוגמה ל-sandbox, או לצאת מכרום, מהבראוזר, למערכת הפעלה. זה בדיוק הקפיצה הזאת מ-sandbox, שפה היא קצת אחרת, כי היא קפיצה בעצם ממודל שסגור לאינטרנט לאינטרנט.

13:01

אז זה כאילו הופ אחד. משם הם הצליחו להשתלט על משאבי מחשוב שאף אחד לא התכוון שהם ישתלטו באיזשהו אתר שמציע, איזושהי פלטפורמה שמציעה, כאילו, קונטיינרים, sandboxes כאלה לרוצה.

13:14

למה הם אמרו, הנה, יש עוד משהו בחישוב בחינם.

13:17

אני חושב שהם היו צריכים מכונה עם נגישויות מסוימות שהיא לא המקום שממנו הם יצאו לאינטרנט באופן AI.

13:25

אוקיי, סוג של למצוא פרוקסי כאילו.

13:27

סוג של. אני לא בטוח מה בדיוק הייתה המוטיבציה. גם יכול מאוד להיות שהם עשו דברים מיותרים בתוך הסיפור. בפעילות שלהם שם הם הצליחו איכשהו להשיג credentials ל-Hugging Face. השתמשו ב-credentials האלה כדי להעלות קובץ ל-Hugging Face, שהשמיש איזושהי חולשה שהריצה קוד על Hugging Face. זאת אומרת, הייתה פה שרשרת של איזה ארבעה, חמישה הופים שכל אחד מהם לא טריוויאלי ודורש מחקר,

13:55

וזה הסוג השני של החדשות שאנחנו שומעים, כי היו עוד incidents כאלה של מערכת AI שיושב Agent ובעצם מתכנן, מוציא לפועל, פועל בשטח בתקיפה שהיא ברמת ביצוע ומורכבות מאוד מאוד גבוהה, מוצא חולשות שלא טריוויאלי למצוא בזמן יחסית קצר, ואז משמיש אותן ומשרשר אותן למשהו עם אימפקט.

14:19

אז רגע, משהו קטן לסיום הסיפור של Hugging Face. אז בהינתן הכלל של המטרה מקדשת את כל האמצעים, בסוף הם הצליחו במה שאמרו להם לעשות? זה עזר להם? אוקיי.

14:33

סבבה.

14:33

אבל נראה לי שכאילו אפשר לקחת את הסיפור הזה לשני מקומות.

14:36

אולי זה עזר אבל ל-PR של OpenAI.

14:38

זה בטוח.

14:39

אפשר לקחת את זה לעולם של הנה AI תוקף לבד בלי שאומרים לו, שזה סיפור אחד, אפשר לדבר על זה וסקיינט ואפוקליפסה וכל הדברים הנחמדים שדיברנו ודיברו וידברו. אפשר לקחת את זה למקום השני והיותר סביר וכנראה מה שקורה היום של האקר במרתף שפתאום יש לו את הכלים האלה שהוא לא צריך לדעת להשמיש חולשה, שזה מאוד מאוד מורכב, הוא פשוט יכול להגיד, אני רוצה להיכנס לכאן, figure it out.

15:04

ונראה לי שלפחות כרגע זה האיום הגדול. זה המקום שבו כל אחד עם... כמו שכולנו יודעים פתאום לבנות אפליקציות ואתרים וזה הפך טריוויאלי, אז עכשיו גם היכולת להיכנס למערכת שלא אמורים להיכנס אליה הופכת להיות יותר קלה.

15:20

לתוקף יש היום כלים הרבה יותר חזקים. הוא יכול למצוא בזמן אמת הזדמנויות שהיה לו יותר קשה למצוא בעבר ודורשות יותר מחקר, ויכול להרים התקפות יותר מורכבות במשאבים יותר צנועים.

15:36

משמעותית. כאילו, דברים שהיו nation state כאילו, שצריך מדינה לעשות, אז פתאום כזה מישהו במרתף עם קלוד.

15:44

אבל אם אני שואל את זה ממש כיחסית ידיעות בתחום, יצא מיתוס, בחנו אותו, אמרו, הנה, הוא מאוד מסוכן ולכן אנחנו נגביל אותו ולא ניתן אותו לכולם, אז זה באמת קורה? מגבילים אותו? יש אפשרות... כאילו, הוא מגיע לידיים הלא נכונות?

15:59

אתה צריך להיות trusted כדי לקבל גישה למודלים, גישה שמאפשרת לך להריץ משימות שנראות כמו סייבר על המודלים הכי מתקדמים.

16:09

המודלים של המפוקחים.

16:10

למה בעיות.

16:11

הם ישימו לב כאילו? הם...

16:14

כאילו, אם אתה מהחשבון קלוד הפרטי שלך תנסה עכשיו לעשות דברים לא יפים, אתה תחסם מהר מאוד. זה לא... אבל המודלים הפתוחים הם די חזקים ואני לפחות, דעתי האישית היא שאי אפשר יהיה לכלוא את הטכנולוגיה הזאת בכלוב. זאת אומרת, זה מאוד שונה מנניח האנלוגיה שתמיד נותנים, זה נשק גרעיני. המזל בנשק גרעיני זה שאתה לא הולך ברחוב ומוצא קילוגרמים של אורניום מוכן לייצור פצצה,

16:43

אלא אתה צריך להקים אופרציה תעשייתית מטורפת כדי לעשות את זה. מודלי AI זה לא בדיוק ככה. אנחנו רואים שהמודלים הקטנים של היום הם הרבה יותר מרשימים ממה שחשבנו שרץ רק על דאטה סנטר ענתיני לפני שנתיים.

16:56

גדול.

16:57

לא, זה ממש העניין הזה של גם the bad guys are bad guys, כן? הם כאילו, הם לא מחפשים את הדברים הטובים.

17:05

הם יגנבו, הם ירמו, הם ישלחו מפתות, זה עכשיו בחדשות.

17:09

וזה בדיוק העניין של כאילו סייבר זה תמיד אסימטרי, בסדר? כי תוקף צריך one time כדי להיכנס לתקיפה משמעותית והגנה, אתה צריך להגן כל הזמן. אז זה תמיד אסימטרי. מספיק ה-one time הזה וזה בעצם העניין המלחיץ בסיפור הזה, נכון? זה תמיד היה, אבל זה תמיד היה מאוד יקר ואז אם אתה רוצה לעשות תקיפה משמעותית על ארגון גדול, אז בסדר, זה מאוד יקר ורק חלק מהגופים בעולם יכולים. ופתאום זה נהיה זול.

17:36

דמוקרטיזציה של האקרים, כן.

17:39

אוקיי, נראה לי שנתנו אחלה קונטקסט ללמה AI רלוונטי לסייבר. אז מה אתם עושים בעצם?

17:45

אז אנחנו במילים הכי פשוטות, בונים Agentים שתוקפים את הלקוחות שלנו, שלא במטרה לעשות ללקוחות שלנו נזק כמובן, אלא במטרה למצוא את החולשות שקיימות אצל הלקוחות שלנו. זה נקרא penetration testing. או החלק היותר כללי הוא red teaming או offensive security ב-security.

18:10

אתה צריך לתקוף את עצמך כדי לשפר. או את עצמך או את הלקוח שלך, כן?

18:15

נכון. כל ארגון Security רציני שם חלק ממשאבי ה-Security שלו על לא רק לשים מערכות הגנה שמגלות תקיפות, שמנטרות תעבורה ופעילות, שמעדכנות את כל עדכוני התוכנה שצריך כדי לסגור חולשות שמישהו אחר גילה וכו' וכו' וכו'. לא רק בגדרות ובמצלמות אבטחה וכאלה, אלא גם חלק מהמשאבים והפעילות הולכת לחבוש את הכובע של התוקף ולשאול אם מישהו היה רוצה לעשות לירה עכשיו,

18:44

מה הוא היה עושה? ולבדוק מה באמת אפשרי בפועל. אז זה בעצם המהות של Penetration Testing או של Red Teaming לעולמות ה-Security. ואני חושב שבגלל שחלק ממה שבעצם התערער פה בהתנגשות הזאת של AI ו-Security זה ההזדמנויות שיש לתוקפים, אז זה גם המקום שממנו מעניין לבוא ולהציע את התיקונים ואת הפתרונות. כי בעצם מה אנחנו אומרים? תן למי שמגן

19:16

כלי שהוא לפחות חזק, מהיר, עם Capabilities כמו של התוקפים.

19:23

אז בעצם כל חברת Pen Testing עוד לפני AI, כן? היא בעצם חבורה של תוקפים. שבאותה מידה יכלו גם, לא נגיד להיות רעים, אבל למכור את זה ככלי תקיפה ממש, סייבר התקפי, מה שאוהבים להגיד.

19:39

כן, היו יכולים לחפש סיסמאות בבנק, לא ברשות, אלא מטעם עצמם, ולמכור לארגון פשע חולשה בבנק.

19:47

או למכור ל... עזוב, בוא נהיה בצד של הטובים, למכור לארגוני מודיעין במדינות זרות. לא יודע אם זה הטובים, זה מורכב. ומצד שני, Pen Test זה בעצם אומר אנחנו באים לחזק אתכם ולבדוק את החברה שלכם. אז בואו נסתכל רגע על השוק. יש לא מעט חברות שעושות היום Agentic Security. איך אנחנו מבדילים ביניהן? מה השווקים השונים? מה מייחד אתכם?

20:13

אז הייתי אומר שבגדול יש שני קלסתרים שאני לפחות מזהה. אני חדש בעולם ה-Security, אז אולי הלכתי לאיבוד בכל ראשי התיבות של השלוש אותיות וארבע אותיות באנגלית.

20:26

אתה מכיר טוב את כל Gartner, את כל השווקים ואת כל הזה. זה א' א' של סייבר.

20:30

בפישוט שאני עושה לעצמי, זה כן מתחלק לצד ההגנה. זאת אומרת, ניטור, תיקון של פערים, תגובה לתקרית שמתהווה ומגלים אותה, כל הצד הזה, שגם בו יש בסוף המון אנשים שעשו משימות בעולמות תוכנה או סמוכי תוכנה. קורה משהו, צריך להסתכל על התעבורה, להבין אם זה אמיתי או לא אמיתי, לתקן את מה שצריך, להגיב למה שצריך וכו' וכו', שעכשיו עושים להם העצמה ו-Scale Up על ידי AI.

21:07

שזה ממש הסייבר הקלאסי. זה Detection, Investigation, Remediation, כל המילים האלה של SOC.

21:15

כן, מאוד בעולמות האופרציה של הגנה. אז זה קלסתר אחד, וקלסתר שני זה באמת הקלסתר שאנחנו נמצאים בו, של ה-Offensive Security, של לקחת כלים מעולם ההתקפה, לבנות אותם ממש ממש טוב כמוצר שהוא Agentic ולתת את זה לשימוש למי שמגן.

21:38

ואתם מוכרים מוצר בעצם, לא שירות של Pen Testing, כי יש גם כאלה.

21:41

ממש פלטפורמה. זאת אומרת, הרבה מהיופי פה זה שפעם זה היה מין איזה טקס כזה שעושים אותו במקרה האופייני פעם בשנה, מי שממש ממש רציני.

21:52

משחקי מלחמה כזה.

21:53

כן. מביאים אנשים, עושים את הטקס. זה כבד אופרציונית להביא אנשים, לעשות איתם את כל ה-Engagement הזה, ואז הם עובדים, עובדים, עובדים ומביאים לך PDF. זה לא יכול לתת מענה לקצבים של היום, כן? כאילו, מה זה שנה? המודלים של לפני שנה, סוגי החולשות שהם יודעים למצוא על המערכת שאתה רוצה להגן עליה היום, זה כלום ושום דבר לעומת מה שזמין לתוקף היום, גם אם הוא רק עובד עם ה-Open Source של לפני שמונה חודשים ולא עם הפרונטיר של הפרונטיר.

22:26

אז ברור שצריך לעבור פה לאיזשהו קצב הרבה יותר גבוה, ויש גם הזדמנות באמת לכסות הרבה יותר משטחים. אז אנחנו באמת נותנים פלטפורמה שבה כל הטקס והמורכבות האופרציונית הזאת מוחלפת בכפתור Test Me. שהכפתור הזה יכול להיות באמת כפתור שאתה מתריג אותו ברצונך, והוא יכול להיות משהו שקורה Nightly, Weekly, כתלות אם אתה עכשיו עושה Release משמעותי בקוד או אפילו איזשהו שינוי קטן במקום רגיש.

22:56

וזה בעצם צבא של Agentים שרץ כל פעם שאתה לוחץ על Test Me ומנסה לפרוץ לך לארגון? אוקיי. ואתם משתמשים במודלים מסוימים? כאילו, איך זה עובד?

23:09

אז מה שמעניין ומה שבכנות במידה רבה הביא אותי נגיד לחברה, זה ש-Novee בעצם מחזיקה את כל הסטק שמתחת ל-Agent. אז אנחנו בונים Harness משלנו.

23:23

מה זה Harness? כי משתמשים במילה הזאת המון.

23:26

כן. אז אנחנו שומעים על מודלים, אנחנו שומעים על Harness, ומבחינתי Agent זה מודל פלוס Harness. מודל בסוף, דיברנו על זה לפני ארבע שנים, מה זה מודל שפה? לא הרבה השתנה מהבחינה הזאת. זה מכונה סטטיסטית שנכנס אליה טקסט ויוצא ממנה טקסט, והמכונה הזאת יודעת לעשות דברים חכמים עם הטקסט הזה. נגיד אומרים לה, יש לך גישה למחשב עם Terminal,

24:01

תפרצי לפנטגון, הנה ה-URL של הפנטגון, ואז היא מוציאה פקודות לכלים שיש לה, שהם בסוף טקסט, ומצליחה לעשות את המשימה. ה-Harness זה כל מה שעוטף את הדבר הזה. זאת אומרת, יוצא טקסט, עכשיו אני צריך לתרגם את הטקסט הזה להרצה של פקודה. הכלים שאמרנו קודם שהם זמינים, הם צריכים להיות באמת זמינים. איזה כלים? איך הם מונגשים? איפה אני שם נקודות ניטור על הפעולות שהמודל הזה מחליט לעשות לפני הקריאה לכלי, אחרי הקריאה לכלי, בכל מיני מקומות כאלה.

24:36

זה כאילו באיזשהו מקום fine tuning תוכנתי, כאילו כדי להפוך את המודל שהוא יש בו איזושהי שונות בין תוצאה לתוצאה למשהו טיפה יותר קרי, דטרמיניסטי, ברור. אני מנסה קצת לתרגם את זה, להפשיט את זה.

24:51

זה יכול להיות חלק ממה שה-harness עושה, כאילו מטייב את התוצאות ומחדד אותן. אני חושב על זה בתור פשוט אנלוגיה של כאילו המודל הוא המוח, הוא איכשהו נכנסים אליו סיגנלים והוא מוציא פקודות. מוח לבד הוא לא פועל בעולם. ה-harness זה החלק שעוזר לנו לפעול בעולם. אז זה העיניים שמספקות את החישה וזה הידיים והרגליים. זה איך שאני מחלק את זה בראש.

25:20

אוקיי, אז אמרת שיש לכם בעצם את כל ההסתה הטכנולוגית.

25:24

נכון. אז בדרך כלל ה-harness זה החלק שהוא יותר כזה תוכנה במירכאות רגילה. בסוף קוד סטנדרטי, אין פה מודל שמאמנים אותו וכמובן שאנחנו מתערבים בצורה מאוד כבדה ב-harness ובונים harnesses custom משלנו שעוזרים למודלים האלה לעשות את המשימות בצורה הכי אפקטיבית ונותנים להם את הכלים ואת המידע שעוזר להם באמת להצליח במשימות מורכבות כאלה.

25:51

אבל מה שאנחנו עושים מעבר לזה, זה אנחנו גם מאמנים מודלים משלנו. אז אנחנו לוקחים מודלים שהם open weights ועושים להם מה שנקרא post training, שזה השם הכי מעצבן בעולם, כי זה פשוט training.

26:05

כן. אין דבר כזה post training, נכון? זה כמו שאתה הולך לחדר כושר. כאילו אתה תמיד ב-training. לא, post training זה שאתה בספה, כאילו זה שאתה לא עובד.

26:13

כן, בדיוק. אז השם כאילו משונה, אבל המשמעות היא שאנחנו לוקחים מודל שהוא כבר מודל general purpose capable להרבה דברים ומאמנים אותו בתוך, עם ממש להחËות באנלוגיה של החדר כושר, בתוך הגיים שלנו, ככה אנחנו קוראים לזה.

26:31

יש משקולות בגיים.

26:33

יש משקולות בגיים. אפשר ממש, כאילו יש training run. זה ממש כיף. אז זה בעצם התשתית שמאפשרת לנו לאמן אותו למשימות ספציפיות של לתקוף מטרות.

26:47

תסביר לי גם מה ההבדל, ואולי אין הבדל, בין post training ל-fine tuning של מודל, כי זה שני מושגים שמשתמשים והם קצת מרגישים לי דומה, אבל בטח בעולם שלך זה לגמרי שונה.

26:58

לא, זה פשוט, כאילו האמת היא שהרבה לפני AI, מדעי המחשב היה תחום שבו לכל השמות אין משמעות וזה הכול סלט מילים.

27:05

כן, הבעיה הכי קשה במדעי המחשב זה למצוא שם למשתנה, נכון? זה ה...

27:09

כן, אז למצוא שם למשתנה או לפרקטיקה או לתחום מחקרי. לא יודע, אני מתחיל לחשוב שהבעיה היא במדעי המחשב ולא בזה עצמו, אבל בגדול כן, זה אותו דבר. זאת אומרת, כשאומרים fine tuning מתכוונים ספציפית לאימון של מודל שהוא lightweight במובן מסוים. הוא על מעט דאטה או שהוא רק על חלק מהמשקולות של המודל או משהו כזה, אבל בגדול כל טכניקות ה-post training המשמעותיות הן סוגים שונים של fine tuning.

27:39

והאימון הזה, אז מה אתם יוצרים? איזושהי סביבת דמה, גם sandbox כזה פנימי שלכם עם אפליקציות דומות לאפליקציות של הלקוחות ומנסים לתקוף אותן? איך זה עובד?

27:49

כן, אז כמובן שזה צריך לקרות בתוך חדר מרופד היטב. כדי לשמור גם על ה-security שלנו כשאנחנו עושים את העבודה הזאת. אבל כן, זאת בעצם סביבת RL, סביבת Reinforcement Learning, שזה גם תחום מאוד חם ומעניין עכשיו. בעצם זה כל מנוע הדאטה שמזין את המודלים האלה. ברגע שהמודל שאתה מנסה לאמן הוא בעצם פועל באיזשהו עולם, הוא לא סתם פולט טקסט, אלא הטקסט שהוא פולט מניע פעולות,

28:20

אז כדי לאמן אותו אתה צריך לספק לו סביבה כזאת שהיא אינטראקטיבית. והדרך לעשות את זה, בגלל שאנחנו בתוכנה, היא למזלנו יחסית קלה במירכאות. אנחנו לא צריכים להוציא רובוטים לעולם האמיתי ולתת להם ללכת ברגל או משהו כזה, או לבנות סימולציה שמדמה פיזיקה של עולם אמיתי בצורה מאוד מאוד מדויקת. תוכנה זה תוכנה, אז אנחנו מקימים בעצם סביבת תוכנה שהיא

28:46

כמו מה שקורה ב-penetration test אמיתי. זאת אומרת, ה-agent מתעורר במשהו שהוא כאילו צד הבית שבו הוא יושב וממנו הוא תוקף, וניצבת מולו איזושהי מטרה שהיא סביבת הסימולציה הזאת שאנחנו בנינו. ועכשיו הוא מנסה מולה כל מיני דברים, משקשק את הדלת, מטפס מעל הגדר, זורק אבן על השומר ובודק אם הוא ישן ומגלה כל מיני דברים שאולי הם פרצות ואולי לא, ואנחנו צריכים להיות מסוגלים להסתכל על מה שהמודל פלט

29:21

ולהגיד אם זה היה טוב או לא טוב, אם הדברים שהוא דיבר עליהם הם חולשות אמת או לא, ובעצם דרך התהליך הזה לסגור את הלופ של הפידבק ולאמן מודל שיותר טוב במשימה הזאת.

29:32

אבל זה לא כאילו אם תהיו ממש ממש טובים, אז המודל שלכם בהגדרה יצליח לצאת מה-sandbox? זה לא כאילו יש פה איזו פונקציית מטרה מתנגשת?

29:41

זו שאלה מעניינת. אפשר בעצם לחשוב על זה בכמה רמות. רמה אחת זה, קודם כול, מה קורה לפני מה? כאילו המודל נהיה טוב כי אתה מאמן אותו על משימות מסוימות, ואם אתה לא גורם לזה שהדרך הכי קלה לנצח את המשימה תהיה לצאת מה-sandbox, אז אתה אמור לגלות שהוא נהיה ממש טוב במשימות לפני שהוא יוצא מה-sandbox.

30:07

אני אוהב את המילה "אמור".

30:08

כן. תראה, זה מדע אמפירי, כן? אתה כאילו בסוף גם אוסף של ביטים שאתה משקשק ב-GPU לא אמור לפלוט לך שירה נהדרת וסרטונים וקוד מדהים, אבל הנה. כאילו Deep Learning זה מדע מאוד אמפירי. אז זו דרך אחת להסתכל על הסיכון הזה, ודרך אחרת להסתכל על הסיכון הזה זה שהוא לא מאוד שונה מהסיכון שקורה לנו כשאנחנו רוצים לפעול ב-production. אחד הדברים שהכי אכפת לנו כשלקוח בא ואומר, "תתקפו אותי, יש לכם רשות",

30:41

זה שלא נחרוג מהרשות הזאת, נכון? אז שלא נתקוף פתאום, לא יודע, אם הוא בנק, שלא נתקוף בנק אחר.

30:47

או שאם זיהיתם אצלו חולשה וה-agent שלכם אוטומטית פועל על החולשה הזאת ומוחק לו את הדאטה בטעות.

30:53

שלא ליצור נזק.

30:54

נכון.

30:54

איך מוודאים את זה?

30:55

אז זה מדע שלם של לשים guardrails והגבלות ו...

31:02

איך ישנים בלילה כשזה, כשיודעים שרצים על, לא יודע, עשרות לקוחות או מאות לקוחות כאלה דברים?

31:07

אחת הדרכים היא למדוד גם את זה. אז בעצם יש לנו בסביבת ה-gym שלנו, אחד מהדברים שיש בה זה benchmarkים מאוד ריאליסטיים. זאת אומרת, ניסויים שאתה יכול להריץ על כל גרסה של המודל, כל גרסה של ה-agent, ולתת ציון למה קרה בהם. ויש לנו את PWN Bench, Penetration Testing of Web Apps with Novee Benchmark, שהוא נותן ציון על כמה טוב הצלחת

31:37

לתפוס חולשות, ויש את החבר שלו, Danger Bench, שבודק כמה טוב נשארת בתוך הגבולות של מה שבטוח. ובעצם הציון שלך ב-Danger Bench יורד אם אתה עושה איזושהי פעולה אסורה. ועל ידי זה שאנחנו עושים את הטסטינג המאוד מאוד מקיף ומעמיק הזה, אנחנו יכולים להגיע לרמת ביטחון שמאפשרת לנו לרוץ גם על סביבות production של לקוחות, זאת אומרת, לא רק על סביבות test.

32:03

אתם כאילו תשאירו flag, אתם לא תעתיקו את הדאטה בייס, כזה.

32:07

כן, הטכניקה צריכה להיות, כאילו, תוכיח את החולשה בצורה שברור להבין שהיא קיימת והיא אמיתית וניתן לנצל אותה, אבל אל תעשה נזק.

32:16

כן. אל תדליף את המידע לאינטרנט ואל תדליף את המידע לאינטרנט.

32:20

אל תעשה גם side effects שפתאום לקוח יכול, הלקוחות שלו יכולים לחוות אותם. כאילו, שלא ייצא מייל ללקוח של הלקוח שלי בגלל פעולה שעשיתי. או אפילו סתם מייל תמים, "אתה צריך לעדכן את הכתובת שלך", לא יודע, כי זה איכשהו קשור לפעולה שעשינו. אסור שדבר כזה יקרה, וזה דברים שאנחנו מודדים אותם במעבדה, באיזו סביבת סימולציה מאוד מאוד מקיפה כזאת,

32:50

ועל ידי זה אנחנו גם משפרים דברים, מתקנים, וככה מגיעים לביטחון שמאפשר לנו לרוץ ב-production.

32:57

איך זה לעבוד בחברה עם מלא אנשי סייבר? כאילו, אתה, אם אני לא טועה, לא היה לך רקע בסייבר. כזה, היית חוקר AI. מה שהיה לפני AI גם, כן?

33:08

נכון. הרקע שלי במקור הוא במחקר, במחקר בפיזיקה חישובית בהתחלה ואחר כך ב-deep learning, לא בעולמות הסייבר בכלל. תמיד היו לי מלא חברים בעולמות האלה, כי אני בוגר תלפיות וחצי מהמחזור שלי הלך להתעסק בסייבר.

33:24

אנשים שאוהבים כסף. סתם. סליחה.

33:27

קודם כל, הם אהבו את המדינה. אחר כך חלקם גילו שאפשר לעשות גם כסף.

33:32

It's a joke.

33:34

אז לא, זה לא היה העולם שלי, ואז פתאום מצאתי את עצמי בחברה עם מלא אנשי סייבר, גם אנשי AI מאוד מאוד טובים. יש לנו פרסונות מאוד חזקות משני המודלים האלה, משתי ההתפצלויות האלה, ואנשי סייבר, אני מאוד נהנה מהם. יש להם מומחיות מאוד עמוקה במה שהם עושים. כמו בכל תחום, יש אנשים שאצלם זה גם ביחד עם צניעות וגישה מאוד מגניבה, שזה, יש לנו הרבה כאלה בחברה,

34:05

ואז זה ממש כיף, כי אתה פתאום פוגש מישהו שהוא נורא מומחה במה שהוא עושה, והוא גם מלמד אותך ומסביר, וזו אינטראקציה שהיא מאוד מאוד כיפית, כי גם יש לשני הצדדים באינטראקציה הזאת מוטיבציה מאוד גדולה להצליח, וצריך להצליח ביחד, אז זה די קול.

34:28

יש בעצם, כאילו, יש סיבה לחברות סייבר, לפחות בעתיד הקרוב, לא לאמץ AI? כאילו, זה נראה כזה ש-AI הוא סוג של הכרחי לסייבר, או שאני מגזים?

34:40

אני חושב שזה... לא צריך שאני אתבטא בנושא הזה. המנכ"לים של כל חברות הסייבר הגדולות מדברים על כמה ש-AI זה חלק קריטי באסטרטגיה שלהם, כי אני חושב שהם רואים כנראה גם תמונה אפילו יותר רחבה ממה שפרסתי מקודם, כי הם מבינים מה זה אומר מבחינת הלקוחות שלהם ומבחינת לאן שהשוק הזה הולך.

35:09

יש לי שאלה קצת אפוקליפטית, בסדר? אנחנו מגיעים לאט לאט לסיפור. כן, אני חשבתי על זה. יש לנו, עוד מעט נגיע לאיזו נקודה סינגולרית כזאת, שיהיה המון המון Agentים שמנסים לתקוף כל הזמן מלא דברים. בסדר? זה אנחנו כבר שם, אבל עוד לא במסה הקריטית, לדעתי. בנקים, PayPal, כרטיסי אשראי, כל הדברים שאתה יכול לדמיין. מה אנשים יכולים לעשות, כאילו, בסופו של דבר, מעבר לחזור לתיעוד

35:39

ידני? עכשיו, לצורך העניין, בנקים, עכשיו מישהו שמבין בזה יותר ממני יגיד שאני טועה, אבל כשעושים העברה בנקאית בארצות הברית, יש בסוף קובץ רשום על כל ההעברות שהיו, לא ידני, ממוחשב. מה מונע ממישהו לשנות את זה? כן? כאילו, זה מאוד... מה קורה בעולם פוסט-תקיפה הזה?

36:01

הבעיה שלי עם כל השאלות האלה זה שאני בן אדם אופטימי מטבעי, אז תמיד התשובות שלי על זה יהיו אופטימיות, אבל הנה התשובה האופטימית שאני יודע לתת.

36:09

אופטימיות לא מביאה Rating או Engagement, אז תהיה פסים.

36:13

אז הכול הולך להישרף.

36:15

יש לנו Hook עכשיו.

36:16

יש Reel.

36:18

הכול לא הולך להישרף. ככה אני לפחות חושב. לא יודע. אני הייתי ילד בן שבע, שמונה כשהאינטרנט היה בחיתוליו והתחושה שלי זה שמה שהיה אז היה הרבה יותר גרוע, כי פשוט התחלנו מנקודה של בורות מאוד גדולה לגבי תשתיות IT, בסדר? מה הן עושות ומה זה בכלל Security. האוכלוסייה הכללית גם מעבר לכאילו, תמיד היו מומחי Security, נכון? שזה היה המקצוע שלהם, אבל הקהל שמשתמש בדברים האלה היה בבורות מוחלטת שהיא הרבה יותר גדולה, אני חושב, מפעריי הידע שיש היום. כאילו, תראו כמה בחדשות אנחנו מדברים על AI וסייבר וסייבר ו-AI והם תקפו פה ומצאו חולשה שם.

37:02

אז מה שעושה אותי אופטימי זה שכן, מגיע גל מאוד גדול של, להערכתי, לא ראינו את החולשות הכי גרועות עדיין ואת התקיפות הכי גרועות יהיה עוד, כי העולם השתנה והכלים שיש לאנשים רעים הם הרבה יותר חזקים פתאום, אבל כולם כאילו על זה. כן?

37:26

העולם על זה. אנחנו מתכוננים.

37:27

אנחנו מתכוננים ואולי אנחנו לא מתכוננים מספיק וצריך לעשות יותר, אבל זה ממש לא כאילו שכולם בשאננות ושנטי בנטי והולכים להידרס על ידי המכבש בטון.

37:40

אני לא קונה מכוניות עם נהיגה אוטונומית. סתם, לא. לא צריך להפחיד.

37:44

אני נהנה לנהוג, אז...

37:45

אפשר להפחיד את כולם. מה יותר קשה לגייס? אנשי AI מומחים או אנשי סייבר מומחים? כמי שעכשיו נמצא בתפר.

37:56

אני חושב שלגייס אנשים שהם גם נורא נורא מוכשרים וגם במיינדסט הנכון זה קשה, נקודה. ואני משער שזה לא משנה אם... כאילו, ברור, בעיניי זה לא משנה אם אנחנו מדברים על AI או על סייבר. כל אחד מאלה יש אולי קצת תכונות אחרות, אבל אני מנחש שזה לא משנה גם אם אתה מדבר על אנשי מרקטינג שאני לא גייסתי אף פעם, אולי ערן יכול להגיד, וגם על,

38:20

לא יודע, טבחים. אנשים מוכשרים עם המיינדסט הנכון שמתאימים לצוות וגם יש להם תשוקה לעבודה, זה קשה, קשה מאוד למצוא. האנשים האלה גם מחוזרים ומבוקשים ויש להם אפשרויות. מה ששונה אולי באנשי AI ואנשי סייבר זה שלסייבר יש פייפליין מאוד ברור שמוציאים מהצבא אנשים. יש גם אצלנו בחברה אנשי חוקרי סייבר מאוד מוכשרים ושעושים דברים מדהימים שדווקא לא גדלו בצבא, גם זה קיים, אבל יש איזשהו מין

38:53

פייפליין שמתספק את השוק הזה בצורה ברורה.

38:55

שזה החוקרי חולשות שהיו בצבא שישר יוצאים ולפחות שמועות אומרות שהם מרוויחים המון ומאוד מאוד מבוקשים.

39:05

לא רק בשמועות. וב-AI פחות יש את הפייפליין הברור הזה. האקדמיה היא יותר הפייפליין הזה ויש פה אקדמיה חזקה.

39:13

מה סוג ההכשרה או השכלה של אדם רלוונטי לצוות שלך?

39:18

אז אנחנו מחפשים אנשים שיש להם, ספציפית לצוות של המודלים, שיש להם רקע במחקר עם מחשב כלשהו. אולי הם עשו, כמו שאני עשיתי, סימולציות של תהליכים פיזיקליים. אולי הם עשו מחקר סטטיסטי בכל מיני שיטות מתקדמות. אולי הם עשו סימולציה של וריפיקציה של צ'יפים. אולי הם עשו אלגוריתמיקה של אלגו טריידינג. אולי הם עשו מחקר AI ב-Deep Learning במעבדה או באוניברסיטה. כמובן שזה יתרון אם הם כבר מכירים מודלי שפה, מבינים איך הדברים האלה עובדים וכו' וכו' וכו', אבל אני אומר, הדרישה שלי היא באיזשהו מקום יותר רחבה.

40:05

אני צריך אנשים שעשו מחקר מאתגר עם מחשב.

40:10

ויכולים לחקור, בעצם, שזה הסקיל פה. ושאלת המשך ל-Cyber versus AI, באיזה כנסים יותר כיף? אנחנו נכנסים לעונת הכנסים עכשיו של Black Hat DEF CON.

40:21

איזו שאלה מצוינת.

40:23

ואני לא איש של וגאס, אבל אתה יודע, זה כנסים די כיפיים.

40:28

תשמע, הכנסים של AI נהיו נורא מוזרים בזמן האחרון, כי פשוט מתחום אקדמי כזה יחסית שעסוק בביטים, זה הפך למשהו נורא מסחרי. הכנסים של הסייבר מאז ומעולם, או לא יודע, הרבה זמן הם כבר היו מסחריים מטורף. ובאיזשהו מובן הרבה יותר כיף בהם כי הם סופר מסחריים והם כבר יודעים לשחק את המשחק הזה.

40:50

יש מלא מסיבות בספיר ודרינקים על חשבון חברות וזה. אבל זה בטח מעניין עכשיו בכנסים של AI שיש כאילו את ה-Core AI Researcher של פעם מהאקדמיה שבטח עוד באים כזה עם ז'קט ועם התג, ואז פתאום יש את כל האנשים כזה Anthropic בסנדלים ו...

41:08

אבל זה אותם אנשים.

41:09

אני מניח שזה נכון.

41:10

הם פשוט עברו מצד אחד לצד אחר.

41:14

אז למה לא לקרוא לסייבר בעצם Vertical AI כאילו?

41:19

שאלה מצוינת, ואני חושב שיש חברות סייבר שהן חברות Vertical AI בעולם הסייבר. אני רואה את Novee ככזאת. זה קורה בהרבה תחומים.

41:29

פתאום זה כזה, זה עלה לי כי זו הסתכלות שונה על אותו דבר בעצם. אני לא חברת סייבר עם AI, אני חברת AI ורטיקלית. זה כאילו מעניין, כי תמיד סייבר היה מין מעטפת לדברים, נכון? יש Cyber for Cloud, Cyber for AI, Cyber for זה, ועכשיו זה AI for Cyber for AI. כאילו, זה מוסיף עוד איזה משהו בשרשרת, אבל נראה לי שזה פשוט יהיה עוד משהו שעוטף הכול.

41:55

אני חושב אבל שזה קרה בהרבה תחומים. זאת אומרת, תסתכלו נגיד על Harvey או על Ramp או על כל מיני חברות כאלה שבעולם של לפני עשר שנים היו קמות פשוט כחברת SaaS לעורכי דין או לפיננס או לכל מיני דברים כאלה, והיום זה נראה אחרת לגמרי. זאת אומרת, הן חברות AI שבונות AI לפיננס, AI למשפטים, וזה בגלל שאנחנו, כאילו, כלי ה-SaaS הם כבר פחות מעניינים, נכון? מה שמעניין עכשיו זה...

42:29

תן לי Agent שיאפשר לי לעשות scale up גדול של העבודה שלי.

42:32

אני תוהה כמה זה עניין של, אתה יודע, repositioning או עניינים של אילוצים של משקיעים או השוק של כזה להיקרא AI first ולא SaaS שהוא בתחום מסוים.

42:44

אז זה גם וגם, נכון? זה כאילו... אני לא בעד עם ה-SaaS מת עדיין, כן? כאילו עדיין יהיה SaaS, הוא based on AI הרבה פעמים, אבל כאילו רוב האנשים לא רוצים לעשות דברים שהם לא חייבים לעשות, כולל לדבר עם AI לפעמים. אבל זה נשמע שדווקא, כאילו בסייבר, בגלל שזה כזה עניין אסימטרי, כאילו אין ברירה. כאילו החימוש המודרני הוא AI, אז צריך להתמודד איתו.

43:11

בגלל שאני באמת, כאילו, חושב על דברים, גם אופטימי וגם חושב על דברים בתור קצת כמו פיזיקאי, אז מה שאמרת עכשיו הוא מבחינתי הוא מאוד הגיוני. כאילו, מה קורה עם ה-offensive security using AI? בעצם מצמדים שני תהליכים שפעם לא השתמשו כל כך באותם כלים. ההתקפה נראתה כמו חוקרי חולשות ותוקפים שעושים את הדברים שהם עושים, וההגנה נראתה כמו המון כלי הגנה שהשתמשו בשיטות אחרות לגמרי,

43:45

ופה יש כאילו איזה מין משהו שעושה מהפכה בצד של התוקפים, אבל הנה, יש דרך מאוד מאוד ישירה ואפליקבילית לתת לה, לצמד את המגינים לאותו קטר. וכאילו לייצר איזשהו matching ו-outpacing של היכולות האלה בצד של המגינים. עכשיו, באופן כללי אני לא, אני לא יודע אם SaaS מת, אבל דווקא לשאלה ששאלת מקודם, אני לא חושב שזה שטחי בחברה כמו Harvey או Ramp רק בשביל המצגת למשקיעים. כאילו הם באמת בונים מוצר שהוא AI first וזה המוצר באמת.

44:21

אז בעיניי זה כאילו זה אותנטי כל החברות Vertical AI האלה, וזה קצת איך שהתעשיית הטק, זה הגל שאנחנו נמצאים בו עכשיו.

44:32

טוב, הגענו לסוף. יש לך עוד משהו להגיד שלא דיברנו עליו?

44:37

דיברנו קצת על איזה סוגי אנשים אנחנו מחפשים והתמקדתי טיפה בצוות של המודלים, אבל אנחנו מגייסים להרבה מאוד תפקידים: פיתוח, מחקר, Agentים, אבולוציות, פלטפורמה. מגייסים בכל החזיתות. מחפשים אנשים מוכשרים שכיף לעבוד איתם, שניסיון בעולמות הסייבר, בעולמות ה-Agentים, בעולמות ה-AI זה כמובן פלוס חזק, אבל הכי הכי חשוב זה הברק בעיניים והיכולת להעמיק בבעיה

45:12

ולעשות את זה תוך כדי שכיף איתכם בהפסקת קפה.

45:17

תודה רבה. עד הפעם הבאה.

45:18

תודה לכם.

הפרק בשיתוף Wolt Benefits והוקלט באולפני F2 Venture Capital.

  • AI
  • סייבר
שתפו את הפרק: ווטסאפ

עוד פרקים

לכל הפרקים