מלחמת קנה מידה חדשה: האם עלינו להיערך למתקפות סייבר מבוססות בינה מלאכותית?

על פי סקירה חדשה של ארגון מחקר הבטיחות בינה מלאכותית (AI safety research) Lyptus Research, ישנו מתאם ישיר והולך בין קנה המידה (scale) של מודלי שפה גדולים (LLMs) לבין יכולת ביצוע מתקפות סייבר מורכבות. המחקר מצביע על כך שככל שהמערכת חכמה יותר – היא מסוגלת לזהות פרצות אבטחה משוכללות יותר, לייצר קוד זדוני (malware) אדפטיבי, ולחבל בתשתיות קריטיות בדרכים שעד כה היו שמורות למומחי אבטחת מידע מיומנים בלבד. זו אינה הפתעה; עד עכשיו דיברנו על "חוקי הקנה מידה" (scaling laws) של AI בלמידה, תרגום ויצירת תמונות – אבל כעת אנו עדים להתרחבות של חוקים אלה לתחום ההתקפה בסייבר.

המשמעות היא שאנחנו נכנסים לעידן חדש של "מלחמת קנה מידה" (scaling war) בזירת הסייבר. לא עוד סתם שחקנים בנאליים שמפיצים תוכנות כופר מוכרות; מדובר באיום אסטרטגי שעלול לשנות את מאזן הכוחות בין מגינים לתוקפים. בעוד שבעבר חולשתה של מערכת נמדדה בחולשת הקוד האנושי שכתב אותה, כעת כל מערכת ענן או IoT יכולה להפוך למטרה מותאמת אישית, בשניות, ובאופן אוטונומי. מגמה זו מהווה זרז משמעותי לעליית ביקוש לשירותי אבטחת סייבר מבוססי AI (AI-driven cybersecurity), אך גם מדגישה את הדחיפות בהשקעה במחקר בטיחות (AI safety) ובפיתוח אמצעי נגד מתקדמים.

מבחינה כלכלית, ההשלכות מורכבות: מצד אחד, תקציבי הגנת סייבר בארגונים וממשלות ייאלצו לגדול במהירות כדי להתמודד עם האיום האוטונומי; מצד שני, התעשייה עשויה לראות עלייה תלולה בפריון (productivity) של צוותי האבטחה שיוכלו להסתייע בכלי AI. עם זאת, יש חשש כבד שבניגוד למגמות אוטומציה קודמות, כאן דווקא ההתקפה מרוויחה יותר מההאצה הטכנולוגית מההגנה – מה שעלול להוביל לחוסר יציבות זמני בשוק. במקרים קיצוניים, תרחישים של מתקפה מוחלטת על תשתיות קריטיות עלולים לגרום להאטה כלכלית ניכרת, גם אם זמנית.

לסיכום, הממצאים של Lyptus Research מציבים מראה חדה בפני מקבלי ההחלטות: עלינו להפסיק להתייחס ל-AI ככלי תמים לצמיחה כלכלית, ולהכיר בו גם כנשק מאיץ סיכונים. התחזית שלנו ב-BDNHOST היא שבשנתיים הקרובות נראה גידול משמעותי בהשקעות בתחום ה-AI defense, לצד חקיקה רגולטורית נוקשה יותר בנוגע ליכולות תקיפה אוטונומיות.