איליה סוצקבר הוא הגאווה הישראלית של עולם הבינה המלאכותית 🇮🇱
עלה לישראל מברית המועצות בגיל 5 ועבר לקנדה בגיל 15, שם סיים דוקטורט במדעי המחשב ב-2013.
ב-2015 הצטרף כמדען הראשי ל-OpenAI, חברה מסתורית שהציבה לעצמה יעד רומנטי: "לקדם את הבינה המלאכותית כדי להיטיב עם האנושות, מבלי להיות כבולים לתגמולים פיננסיים".
מייסדי החברה, אנשים בעלי רקורד מרשים כמו אילון מאסק, סאם אלטמן (נשיא האקסלרטור הגדול בעולם, Y-Combinator) ואחרים, מימנו אותה מכיסם הפרטי. הם האמינו שארגון ללא מטרות רווח הוא הדרך לפתח יכולות חזקות מבלי להיכנע לתמריצים כלכליים.
ב-2018 יצא לעולם GPT1, מודל השפה הגדול (LLM) המשמעותי הראשון. כדי להמשיך לממן את פעילותה, שינתה OpenAI את הגדרתה מעמותה (non-profit) לחברה בעלת רווח מוגבל (capped-profit). שינוי זה, שנראה טכני לכאורה, אפשר לחברה לגייס כספים ממשקיעים חיצוניים, תוך הטלת מגבלות על הרווח המקסימלי האפשרי. זה לא הפריע לה לגייס מעל 14 מיליארד דולר (!) ממשקיעים גדולים, ביניהם מייקרוסופט.
ב-2022 החלה נקודת המפנה, ChatGPT יצא לעולם ויצר שלל הזדמנויות כלכליות עבור OpenAI. המנכ״ל סאם אלטמן הפך לכוכב ודחף את החברה למקסום רווחים. מנגד, סוצקבר האמין בכוח ההרסני הטמון ב-AI ובצורך לפתחו בצורה בטוחה. ב-2023 הוא עמד בראש פרויקט Superalignment, שמטרתו להבטיח כי מודלי השפה של OpenAI עומדים בסטנדרטים של מוסר אנושי ואינם מופנים נגד האנושות.
ומכאן העלילה מתחילה להסתבך. בתוך OpenAI נוצרו שני מחנות: האחד, בראשות סוצקבר, דגל בשמירת OpenAI כארגון ללא מטרות רווח כפי שהוקמה. השני, בראשות אלטמן, דהר לעבר הדולרים 💵.
בנובמבר 2023, מועצת המנהלים של OpenAI פיטרה את אלטמן בטענה הזויה של דיווחים כוזבים, ומנהלת הטכנולוגיות (CTO) מונתה כמנכ"לית זמנית. עולם הטכנולוגיה הזדעזע ואפילו מנכ״ל מייקרוסופט הצהיר כי ישמח לאמץ את אלטמן וכל מי שיחליט לעזוב את Open AI לחיקה של מייקרוסופט.
שבוע לאחר מכן, 800 עובדי החברה חתמו על מכתב הדורש את התפטרות מועצת מנהלי החברה והחזרת אלטמן. ואכן, ביום למחרת, הוחלט להחזיר את אלטמן כמנכ״ל וכמעט כל הנהלת החברה הוחלפה.
זה היה רק עניין של זמן - במאי 2024, סוצקבר עזב את OpenAI והקים את חברת Safe Superintelligence (SSI) עם דניאל גרוס ודניאל לוי. חזונם זהה לימי הקמת OpenAI - בניית סופר-אינטליגנציה בטוחה לאנושות. הם מדגישים: “ההתמקדות באינטליגנציה בטוחה אומרת שלא תהיינה הסחות דעת מאילוצי הנהלה ולחצים מסחריים קצרי טווח״.
אי אפשר שלא לכבד את סוצקבר על ערכיותו ומחויבותו לטובת האנושות. הוא מבין את כוח הטכנולוגיה שהוא מפתח ורוצה לקדמה באחריות. אבל מצד שני, דבקותו ב-AI בטוח היא נאיבית ואף הרסנית.
כמו ב-OpenAI בראשית דרכה, גם ב-SSI המבנה העסקי לוקה בחסר - לא ברור אם זו חברה למטרות רווח או מעין עמותה. למשקיעים, קשה להבין את המודל העסקי ולהשקיע בביטחון בחברה כזאת. ומנקודת מבט ציבורית, אם החברה תצליח, האם נוכל לסמוך על טוב ליבם של סוצקבר ושותפיו שידאגו לאינטרסים שלנו ולא יעדיפו את העושר?
אפשר לאהוב את זה או לא, אבל לחברות “קלאסיות” יש מניע ברור - השאת רווח מקסימלי במסגרת החוק. בעוד שחזונו של סוצקבר נעלה, המודל העסקי המעורפל של SSI מעלה שאלות לגבי יציבותה ארוכת הטווח ויכולתה לעמוד בהבטחותיה לציבור ולמשקיעים פוטנציאליים.
במקום לנקוט בגישה פטרונית המתיימרת לדעת מה טוב עבורנו, יש מספיק כוחות בשוק שידאגו ל-AI אחראי ובטוח. AI בטוח הוא אינטרס מסחרי לא פחות מאשר ערכי. לדוגמה, אפל השיקה את Apple Intelligence עם דגש רב על פרטיות המשתמשים, לא רק כי זה ״הדבר הנכון״ לעשות, אלא כדי למשוך לקוחות לאפל על חשבון המתחרים. זאת מבלי להזכיר את תפקידה של הרגולציה. השוק החופשי, בשילוב עם רגולציה מתאימה, יכול לקדם AI בטוח ואחראי, מבלי לסמוך רק על כוונותיהם הטובות של יזמים בודדים.
חשוב לזכור, גם במהפכות טכנולוגיות כמו האינטרנט והטלוויזיה היו חששות לעתיד האנושות. אבל לפעמים, צריך פשוט לתת ליד הנעלמה לעשות את שלה 💫