פתח תפריט נגישות
מהפכת ה-AI לא פוסחת על עולם סייבר | ד"ר יניב הראל

המגמות המעסיקות היום את עולם הסייבר עוסקות באזורים טכנולוגיים עמוקים וכן בתחומים של מדיניות, התנהגות וכלכלה. בשעה שהדברים המדוברים ביותר באקטואליה הם תקיפות מיוחדות על ארגונים מוכרים או חברות שמצליחות או נסגרות בתחום, דיוני עומק שמתחת לפני השטח מכוונים דווקא בתחומים נוספים.


תעשיית הסייבר לא הייתה יכולה להיערך ל'סופה' כזו, אבל תיאלץ להסתגל במהירות

בינה מלאכותית – אין מושב או מפגש שבו לא מוזכר נושא הבינה המלאכותית באופן עמוק, או לפחות Chat GPT כנושא או קוריוז. העולם מגיב ומתרגש מתחום ה-AI ומבין שאנחנו לא נוגעים בטכנולוגיה, אלא בדור של טכנולוגיות, פלטפורמות ויישומים שלא ייראו כמו זו שמוכרת לנו. בעוד מספר שנים לא נבין איך כדי לתקשר עם פלטפורמה מסוימת הקלדנו מילה-מילה על ידי הקשה על אותיות. הרעיון ייראה מיושן כמו ידית להורדת חלון ברכב. לשם תמיכה בכל המהפכה העצומה הזו נדרשת התייחסות סייברית שלא הספיקה להיערך טרם פריצת המהפכה.

כשמערכת AI פועלת היא מתבססת על מנוע שלמד התנהגות כלשהי, ולמעשה פועל על בסיס האימון שעבר. תלות קריטית יש באותם נתונים שמלמדים את המנוע לעבוד. עוצמת הנתונים הללו מקבילה לאלגוריתם המרכזי שהיה המח של דור המערכות הנוכחי. הצורך להגן על הנתונים האלה ולמנוע מצב בו מישהו משנה את הנתונים הללו כדי לקבל תוצאה רצויה ולהטעות את המנוע היא משימה מורכבת שאיננה חד פעמית ודורשת חשיבה סייברית הגנתית.

יותר מכך, מערכות ה-Generative AI שה-Chat GPT הוא הפופולרי ביניהן לומדות בכל יום כמויות עצומות של נתונים. כל עובד בארגון שרק מבקש מה-Chat לנסח לו טוב יותר קטע שכתב מניח שהוא מבקש זאת מיישות חיצונית אנונימית אולם כמות המידע שיוצאת מארגונים ומתרכזת באותן פלטפורמות היא עצומה וגם עליה יהיה צריך להגן או לבקר בצורות כאלה ואחרות.

בינה מלאכותית תמלא תפקיד מרכזי בהגנת הסייבר

למערכות ה-AI יהיה תפקיד מרכזי בסיוע להגנת הסייבר וכבר היום יותר ויותר פעולות נעשות על ידי מערכות כדי לאפשר לצוות האבטחה לטפל בחלקים שאינם צפויים או דורשים ניתוח מעמיק יותר. הטכנולוגיות האלו הן בשורה גדולה שמאפשרת למערכת ה-AI ללמוד את שיגרת הארגון וצפויה לאפשר לו לזהות חריגה ממנה בצורה קלה יותר. המורכבות מגיעה כאשר בוחנים את האפשרות של AI לסייע גם לתוקפים באותה המידה. נראה שמערכות כאלו יכולות לסייע בצורה מסיבית גם לתוקפים. קיימות פעולות שהתוקף מבצע בימינו כחלק מארגון קטן, עם כמות משאבים מוגבלת, עם התייחסות לכמות ההשקעה ביחס לתפוקה הצפויה. ה-AI עשוי להפוך את התוקף לאפקטיבי הרבה יותר ולמסוגל לעשות הרבה יותר פעולות ממוקדות בזמן נתון. בדומה להבדל בין ניסיונות מקריים לניחוש קוד לבין מנגנון משוכלל שמתקדם לעבר הפיצוח, או כמו ההבדל בין ירי מדויק לירי כללי. נראה כי ה-AI יעזור במידה דומה למגנים ולתוקפים ולא ניתן לזהות צד מסוים שינצח באופן מוחלט מההתקדמות הזו.

בעוד שברמת הארגונים ופשיעת הסייבר ניתן לתאר את ה-AI כמרכיב משמעותי במרוץ חימוש מתמשך, קיים סיכון אמיתי בהצטרפות האיום לתקיפות הסייבר על מדינות. היכולת של מדינה אחת להשתמש בטכנולוגיות ה-AI על מנת לפגוע באחרת עשויה לייצר מרכיב חדש של איום והוא דורש מענה מאותו הסוג. הממשלות לא יכולות לקחת סיכון שסוג איומים כאלה יתממשו ועל כן נדרש מהן להתחיל ולהשקיע בפתרונות שיתייחסו לסוג האיום הזה ברמה לאומית וילמדו להגן בפניו. מובן שזהו אתגר משותף של הממשלות והתעשיה אל מול סוג תרחיש כזה.

המאמר פורסם לראשונה באתר N12

לקריאה על קורס בינה מלאכותית של להב – פיתוח מנהלים

המאמר נכתב על ידי ד"ר יניב הראל

מומחה סייבר בכיר, ויועץ לגופים מדינתיים ועסקיים, לדירקטוריונים ולCISOים.


מאמרים מאת ד"ר יניב הראל


ד"ר יניב הראל מרצה בתכניות

  • ההרשמה בעיצומה

    דירקטורים ונושאי משרה בכירה

    דירקטור הוא מקצוע מובחן – הוא לא המשך של תפקידי ניהול, אלא תפקיד ייחודי ונפרד אשר מהותו ניהול סיכונים מחושב...

    ימי ד׳ 09:00-17:00
    6 מפגשים
  • חדש

    בינה מלאכותית למנהלים.ות

    הבינה המלאכותית משנה את פני העולם. טכנולוגיות ה – AI  בשילוב כלי Big Data ומערכות סייבר מאפשרות למכונות ולמערכות ללמוד,...

    ימי א׳ 16:00-20:15
    8 מפגשים