מהפכת ה-AI (בינה מלאכותית) משנה את כללי המשחק כיום כמעט בכל תחום ונראה שגם תחום אבטחת המידע והסייבר לא נשאר מאחור. בעוד היינו שמחים לראות רק השפעות חיוביות של ה-AI על תחום זה בדומה לתחומים אחרים, לצערנו המצב בשטח שונה בהרבה
מאת: זהבית חזות, מנהלת מחלקת אוטומציה, 2Bsecure
לא מעט מחקרים שפורסמו באחרונה ממחישים את הפוטנציאל הרב של שימוש ב-AI למתקפות סייבר שטרם נראו ובפועל גם רואים גידול ממשי במתקפות בהן נעשה שימוש ב-AI. כך לדוגמה נמצא באחד המחקרים כי בחודשיים הראשונים של שנת 2023 כמות מתקפות הפישינג (דיוג – גניבת מידע באמצעות התחזות) זינקה ב 135% יחד עם העלייה של WARM ChatGPT (המנגנון האפל והזדוני של ה- ChatGPT).
אם בעבר פושעי הסייבר נדרשו לידע, ניסיון ומשאבים רבים כדי לייצר מתקפות סייבר יעילות, כיום כמעט כל אחד שחפץ במתקפה זדונית יכול לכתוב את הפרומפט המתאים ולשאול את השאלה הנכונה באחד מכלי ה-GenAI הבולטים כגון ה-ChatGPT, כדי לייצר מתקפה יעילה כמעט בלי ידע וללא משאבים מיוחדים. בתוך כך ניכר כי גם מדינות גדולות עושות שימוש מתקדם בפלטפורמות GenAI שונות כדי ליצור מתקפות סייבר יעילות ומתוחכמות יותר, ביניהן ניתן למנות לא מעט מדינות העויינות לישראל.
כלי ה-AI מאפשרים כיום לפושעי הסייבר לזהות בקלות פרצות אבטחה, לאסוף מידע על הקורבן, לכתוב ביעילות קוד זדוני ליצירת מתקפה, לתכנן אותה לפרטי פרטים ביעילות ועם סט כלים מקצועי. למשל להריץ קמפיינים מתחזים, מפתים ומטורגטים באופן מקצועי, כדי לאסוף מידע ונתונים רגישים ממשתמשים (מתקפות פישינג). בתוך כך היקף השימוש הנרחב של משתמשים רבים בכל העולם בכלי ה-AI הופך גם הוא למרחב תקיפה פופולרי עבור פושעי הסייבר, שפורצים לחשבונות אישיים של משתמשים באותם הכלים כדי לאסוף מידע רב ערך על חברות , ארגונים והמשתמש עצמו.
דמיינו לרגע שאחד המתכנתים אצלכם בארגון יצר קוד מסוים לאפליקציה הארגונית שלכם באמצעות כלי AI והקוד הזה דלף לפושעי הסייבר בגלל פריצה לחשבון שלו באותו כלי AI יחד עם עוד מידע אישי שנאסף על המתכנת. מכאן כבר הדרך סלולה יותר לאותם פושעי סייבר בדרך למתקפה יעילה וזו כמובן רק דוגמה אחת מיני רבות.
“הבא להורגך – השכם להורגו”
לצד איומי ה-AI שסקרנו לעיל חשוב גם לסקור את היתרונות והפתרונות הזמינים לארגונים כחלק ממהפכת ה-AI כנגד מתקפות AI ובכלל, כדי שתוכלו לאמץ אותם עבורכם ולהיות צעד אחד קדימה במירוץ החימוש מול פושעי הסייבר. כך תעשו זאת:
שימוש נכון והטמעה מוצלחת של כלי-AI ואוטומציה בארגון:
שילוב מיטבי של הגורם האנושי עם מנגנוני AI מתאימים יכולים לסייע לכם להגן על הארגון באופן יעיל, מהיר ומדויק יותר. לזהות פרצות אבטחה ולתקנן מהר, לזהות חריגות שעין אדם כנראה לא תצליח לראות ולהגיב באופן המהיר והמקצועי לכל איום. באמצעות ה-AI תוכלו להפוך משימות אבטחת מידע וסייבר ידניות לאוטומטיות ולזהות איומים בהיקף גדול יותר.
הגברת המודעות בארגון לאיומי ה-AI ושימוש מושכל בכלים:
בעקרון אפשר לנסות להגביל שימוש בכלי AI במחשבי ורשת הארגון אבל אז סביר בהחלט שהעובדים ינסו להשתמש בכלים אלו באמצעות הטלפונים הניידים שלהם או המחשב האישי שלהם ואז החטאתם את המטרה והשארתם את הסכנה, ואף העצמתם אותה. לכן חשוב להגביר את המודעות בקרב עובדי הארגון על האיומים והסכנות בשיתוף מידע בפלטפורמת ה-AI מחשש לזליגה. אחת הדוגמאות שמספרים בנושא זה היא שמפתחים בחברת סמסונג זרקו קוד מקור ל- ChatGPT שהגיעו בלי לשים לב בין היתר לידי מפתח של חברת אפל. דבר חשוב נוסף הוא להטמיע מנגוני בקרה ושימוש בכלי ה-AI על ידי יצירת פלטפורמה לשימוש מאובטח מול מנועי ה-AI למניעת דלף ארגוני. אחת הדרכים לכך היא יצירת “מתווך” שמסנן מידע רגיש לפני שמעלים ל-ChatGPT ודומיו, וגם בכיוון ההפוך.
הטמעת פלטפורמות AI ארגוניות מוגנות:
כיום יש כבר פתרונות GEN AI (בינה מלאכותית יוצרת) המותאמים לחברות וארגונים שבמידת הצורך ניתן לבודד אותם מהאינטרנט. כך ניתן יהיה עדיין לעשות שימוש במידע ומודלים שנאספו עד להטמעת הכלי בארגון ולהנות מיתרונות השימוש ב-AI ובמקביל לספק הגנה מיטבית מפני דלף מידע ארגוני.
אימון מודלים:
אחת השיטות המתוחכמות כיום להגנת המידע והסייבר בעידן ה-AI היא באמצעות אימון מודלים. בשיטה זו מייצרים ראשית מודל AI שיבצע תקיפה על ידי מדגמים ותרחישים התקפיים שונים ובמקביל עושים אימון מודלים עם מדגמים הגנתיים. בשיטה זו למעשה מנהלים סיכונים, מזהים תרחישים ומקיימים חשיבה מוכוונת יריב. תחכום, יצירתיות, ידע והבנה מעמיקה וניסיון הם שם המשחק בשיטה זו.
לסיכום ניתן לומר כי ה-AI כבר כאן כדי להישאר, לטוב ולרע. הדרך להתמודד עימו וליהנות מיתרונותיו היא להכיר את הסכנות והאיומים ולאמץ ולהטמיע באופן מיטבי את אותם כלי AI כדי לייעל ולחזק את מערך הגנת הסייבר על הארגון. אם אתם לא בטוחים או לא יודעים איך לעשות זאת תמיד ניתן ומומלץ להיעזר באנשי מקצוע המתמחים בכך ומיישמים פתרונות בהתאם למגוון חברות וארגונים. כך תוכלו להיות צעד אחד קדימה מפושעי הסייבר.