פתח תפריט נגישות

אין כמעט שיחה בתקופה האחרונה שלא הוזכר בה ChatGPT בצורה כלשהי. אנשים מנסים את היכולות החדשות, מרגישים את הממשק, ומתרגלים את הפלטפורמה האחרת. עיקרה של המהפכה היא התפיסה החדשה של פנייה למכונה על מנת לקבל סיוע בקבלת מידע או מיומנות מסוימת, וכן הנגישות הרחבה לכל המידע העולמי שפרוס לפני המכונה שיודעת לעבד ולהנגיש בצורה קלה לשימוש של משתמשים שאינם מומחי AI או מדעני נתונים.


האם ניתן לברוח מהשתלטות הבינה מלאכותית על העולם?

מהפיכת הבינה כבר כאן

חוקרים ישראלים מזהירים: אלו הסכנות במערכת שמשגעת את העולם כשם שבפעם הראשונה שהחזקנו טלפון חכם, או גלשנו באינטרנט, ידענו שזה כאן כדי להישאר, כך האינטראקציה עם המערכת הזו מרגישה אותו הדבר. מכאן אנחנו יותר ויותר נדבר עם מכונות, נפנה אליהן, והן תהיינה יותר ויותר טובות בלהבין את השאלה ובלעבד את הידע העולמי לכדי תשובה שתוכל לסייע לנו. מהפכה זו תמשיך גם הלאה ועם הזמן המכונות לא רק יענו, ולא רק יתבססו על ידע עולמי קודם. המציאות העולמית והטכנולוגית לא תהיה דומה לזו שהייתה בעבר.

בינה מלאכותית – המחסומים והאתגרים

כשבוחנים את היבטי הבטיחות או האבטחה של הפלטפורמות החדשות הללו עולים מספר כיוונים עיקריים של אתגרים. ראשית כלי הבינה המלאכותית מבוססים על אותם קבצי מידע שעליהם אימנו את המערכת. קיימים היום מחקרים (Adversarial AI) המצביעים על מקרי קצה שבהם ניתן להטעות את המערכת בהתבסס על מגבלת האימונים שעברה. באופן כזה אדם לא מורשה יוכל להיכנס בשער שמערכת AI תשמור בו או לקבל מידע שאינו אמור לקבל. לכאורה ניתן יהיה לאמן מערכות חכמות באופן זדוני כך שיאפשרו ביצוע פעולות מסוימות שלא היו אמורות להתבצע.

סיכונים אלו יצטרפו למגבלות הבסיסיות הקיימות במערכות כאלה הקשורות לסוג הנתונים בהם אומנו. אם בהקשרי הכניסה המערכת קיבלה קבצי מידע רבים של אנשים עד גובה 1.80, לא תמיד ברור מה המערכת תעשה כשיגיע אדם בגובה 2 מטר. עם מגבלות אלו עוסק ענף ה-AI באופן קבוע ומנסה לשכלל ולחסן את המערכות.

הסייבר מכניס מוטיבציה וכמות מאמץ שונה לניסיונות למצוא את פרצות המערכת.כמובן שיכולות ה-AI מסייעות ויסייעו יותר בעתיד גם למערכות הגנת סייבר במשימותיהן. פעולות אוטומציה ופעולות חכמות אחרות שיצליחו ללמוד טוב יותר את שיגרת הארגון ולזהות חריגות ממנה, לנתח מקורות מידע ומאפייני פעולה, ולזהות תופעות חשודות כתקיפה, ואף להעלות את האפקטיביות של התגובה המהירה לחלק מהתופעות שזוהו. כבר היום חברות הגנת המידע וסטארטאפים בתחום הסייבר טוענים שמשלבים AI בפתרונותיהם.גם אם מדובר בדורות ראשונים של שימוש ביכולות אלו זוהי תרומה משמעותית לאפקטיביות ההגנה. כבר היום יכולים להגיע למרכז הסייבר של הארגון הרבה יותר מקורות מידע ונתונים שוטפים ממה שצוות ההגנה על מערכותיו השונות יכול להכיל.

אין סיכוי להגדיל את צוותי הסייבר באופן משמעותי ולכן הדרך היחידה היא שמערכות חכמות יעבדו את רב המידע, יצליחו לסנן את הרעשים, לנקות את ההתרעות שאפשר לברר שאינן חשודות, ולהשאיר לצוות הסייבר את חקירת האירועים החריגים ממש. בה בשעה, יש לזכור כי השימוש ב-AI איננו שמור רק למגנים ולכן לצד השיפור בהגנה עלול להיוולד דור חדש של מתקפות שנעזרות ב-AI כדי להיות יותר ממוקדות, אגרסיביות, ובעלות אפקט רחב. שימוש ביכולות כאלו עלול להקנות לתוקפים יכולות מורחבות ולפגום ביתרון הגודל והעוצמה של גופי ההגנה.

סוגיות אלו מחייבות התייחסות מוקדמות של התעשיה, האקדמיה והממשלות והתנעת פעילויות מבעוד מועד. חלק מהמענים יהיו טכנולוגיים, מערכתיים, ואחרים בעולם האחריות המשפטית והאתיקה.יש לקוות שבלימוד נחוש של הטכנולוגיות והקונספטים החדשים, בליווי מחקר, פיתוח וקיום כנסים להעשרה ושיתוף מידע כדוגמת שבוע הAI, האנושות תצליח לחזק את התועלת והאפקטים החיוביים של הAI אל מול הסיכונים וחסרונות של היכולות הללו.

לקריאה על קורס בינה מלאכותית

המאמר פורסם לראשונה באתר מעריב

המאמר נכתב על ידי ד"ר יניב הראל

מומחה סייבר בכיר, ויועץ לגופים מדינתיים ועסקיים, לדירקטוריונים ולCISOים.


מאמרים מאת ד"ר יניב הראל


ד"ר יניב הראל מרצה בתכניות

  • ההרשמה בעיצומה

    דירקטורים ונושאי משרה בכירה

    דירקטור הוא מקצוע מובחן – הוא לא המשך של תפקידי ניהול, אלא תפקיד ייחודי ונפרד אשר מהותו ניהול סיכונים מחושב...

    ימי ד׳ 09:00-17:00
    6 מפגשים
  • חדש

    בינה מלאכותית למנהלים.ות

    הבינה המלאכותית משנה את פני העולם. טכנולוגיות ה – AI  בשילוב כלי Big Data ומערכות סייבר מאפשרות למכונות ולמערכות ללמוד,...

    ימי א׳ 16:00-20:15
    8 מפגשים