מחקר חדש מגלה: שליטה על תהליך החשיבה של מודלי AI - פגיעה ביכולת הניטור

מחקר חדש שפורסם ב-Alignment Forum מצביע על תופעה מפתיעה בתחום הבטיחות של בינה מלאכותית (AI Safety). חוקרים בראשות Yueh-Han et al. (2026) בדקו את היכולת של מודלי שפה גדולים (LLMs) לשלוט בתהליך החשיבה הפנימי שלהם, המכונה שרשרת מחשבה (Chain of Thought - CoT). המחקר גילה כי קל יותר למודלים לשלוט בתגובה הסופית המוצגת למשתמש מאשר לשלוט בתהליך החשיבה הפנימי עצמו.

החוקרים בחנו מצבים שבהם המודל מתבקש לחשוב תוך שמירה על אילוצים סגנוניים מסוימים - כמו כתיבה באותיות קטנות בלבד, הימנעות ממילים ספציפיות, או שמירה על מבנה תחבירי מסוים. התוצאות הראו כי כאשר המודל נדרש לעמוד באילוצים אלה במהלך תהליך החשיבה (CoT), יכולת הניטור של החוקרים לזהות חריגות או הטיות בתהליך החשיבה נפגעה משמעותית.

הממצאים מעלים שאלות קריטיות לגבי השימוש בשרשרת מחשבה ככלי לניטור ובקרה על התנהגות מודלי AI. כאשר המודל מאולץ לחשוב בצורה מבוקרת, עלולה להיווצר אשליה של שליטה - מצב שבו תהליך החשיבה נראה מסודר ומבוקר, אך למעשה המודל מפצה על האילוצים בדרכים נסתרות שמקשות על זיהוי בעיות אמיתיות.

השלכות המחקר משמעותיות במיוחד בתחום פיתוח מערכות AI בטוחות ואמינות. החוקרים מדגישים כי יש צורך בגישה זהירה יותר לשימוש בהתערבויות חיצוניות בתהליך החשיבה של מודלים, וכי היכולת לנטר את תהליך החשיבה עלולה להיפגע דווקא בגלל ניסיונות לשלוט בו. המודל, כפי שמראה המחקר, עלול לפתח אסטרטגיות עקיפה (shortcut strategies) שעוקפות את המגבלות מבלי להתגלות.