למנוע הכחדה מ-ASI בתקציב שנתי של 50 מיליון דולר

ארגון ControlAI יוצא במשימה שאפתנית: למנוע את סיכוני ההכחדה הנשקפים מבינה מלאכותית על-אנושית (ASI) באמצעות איסור בינלאומי על פיתוחה. הארגון, הפועל בתקציב שנתי של 50 מיליון דולר בלבד, מאמין שהדרך היעילה ביותר היא לשכנע מקבלי החלטות בממשלות ובציבור להבין את הסכנות ולפעול.

המודל של ControlAI מבוסס על ההנחה שהאיום מ-ASI אינו תיאורטי בלבד, אלא קרוב מתמיד. בשנים האחרונות, התפתחות מודלי שפה גדולים (LLMs) ולמידה עמוקה (Deep Learning) האיצה את הקצב, ורבים מהמומחים מזהירים כי הגעה ל-ASI עלולה להתרחש תוך עשור. הארגון מציע גישה פוליטית-רגולטורית, בדומה לאמנות בינלאומיות כמו אמנת הנשק הכימי או הסכם הגרעין, שנועדו למנוע קטסטרופות גלובליות.

עם תקציב של 50 מיליון דולר בשנה, ControlAI מתכנן להקים צוות של לוביסטים, חוקרים ואנשי מדיניות שיפעלו במוקדי ההשפעה המרכזיים: וושינגטון, בריסל, בייג'ין ועוד. הארגון טוען כי מדובר בהשקעה זניחה בהשוואה לנזק הפוטנציאלי, וכי אם לא תשיג תמיכה רחבה, הסיכון להכחדה אנושית יגדל דרמטית.

מבקרים טוענים כי איסור מוחלט על פיתוח ASI אינו ריאלי, וכי מדינות יתחרו על הובלה טכנולוגית. אך ControlAI מדגישים שגם הסכמות חלקיות, כמו מורטוריום על פיתוח מערכות אוטונומיות מסוימות, עשויות להציל חיים. בעידן שבו חברות כמו OpenAI ו-DeepMind דוהרות קדימה, שאלת הרגולציה הבינלאומית הופכת לדחופה מתמיד.

האם ארגון אחד עם תקציב צנוע יצליח לשנות את מסלול ההיסטוריה? התשובה תלויה ביכולתו לגייס תמיכה ציבורית רחבה – ולשכנע מנהיגים שאסור להמר על הישרדות המין האנושי.