איך מונעים הכחדה מ-ASI בתקציב של 50 מיליון דולר לשנה?

ארגון ControlAI יוצא בקריאה נועזת: למנוע את הכחדת האנושות מאינטיליגנציה על-אנושית (ASI) בתקציב צנוע יחסית של 50 מיליון דולר בשנה. המטרה המרכזית של הארגון, המוצהרת במאמר ב-Alignment Forum, היא להשיג איסור בינלאומי על פיתוח בינה מלאכותית ברמת-על (Superintelligence), בטענה שזו הדרך היחידה למנוע סיכון קיומי.

המודל של ControlAI נשען על סיוע למקבלי החלטות בממשלות ובציבור להבין את הסיכונים ולפעול. הארגון מאמין שבקנה מידה מספיק – עם תקציב של כ-50 מיליון דולר בשנה – ניתן להגיע להסכמה גלובלית על איסור פיתוח ASI. מדובר בגישה פרגמטית ששואבת השראה ממאבקים קודמים נגד טכנולוגיות מסוכנות, כמו אמנות נשק ביולוגי או גרעיני.

הניתוח הכלכלי מראה שתקציב זה קטן פי עשרות מתקציבי פיתוח AI של חברות טכנולוגיה מובילות, אך מספיק לפעילות הסברה, מחקר מדיניות והשפעה על מקבלי החלטות. ControlAI מדגישה כי העלות נמוכה יחסית לסיכון העצום, וכי עיכוב בפעולה עלול להוביל לתוצאות בלתי הפיכות.

המשמעות לעסקים ולמשקיעים ברורה: ככל שעולה המודעות לסיכוני ASI, צפויה עלייה ברגולציה העולמית בתחום הבינה המלאכותית (AI). חברות המפתחות מודלים מתקדמים עלולות להיתקל בהגבלות מחמירות, בעוד שהשקעות בבטיחות AI (AI Safety) ובמנגנוני בקרה יהפכו קריטיות. ControlAI מזכירה שקיים צורך דחוף באיזון בין חדשנות לבטיחות, וכי התחרות על פיתוח AGI/ASI עלולה להפוך למסוכנת אם לא תוגבל בחוקים בינלאומיים.

מקור: Alignment Forum

צוות BDNHOST