מנכ״ל OpenAI סם אלטמן מציב בצורה חדה במיוחד את הדילמה שתלווה את האנושות בשנים הקרובות: הבינה המלאכותית תביא עמה הונאות, מתקפות סייבר, שימוש לרעה ואירועים שליליים נוספים — אבל הניסיון למנוע כל נזק באמצעות ריכוז הטכנולוגיה בידי קומץ חברות וממשלות יהיה, לדבריו, מחיר בלתי נסבל. לכן העולם יצטרך ללמוד לחיות עם סיכון מסוים כדי ליהנות מהיתרונות העצומים של המהפכה.
מאת רמי יצהר Rami Yitzhar
בריאיון חדש ל״פוליטיקו״ חשף אלטמן מחלוקת עמוקה הרבה יותר מסכסוך עסקי בין OpenAI למתחרה Anthropic. זהו ויכוח על השאלה מי ישלוט למעשה באחת הטכנולוגיות החזקות שהמציא האדם — ועד כמה מותר להגביל אותה בשם הביטחון.
אלטמן אומר כי למרות התקרבות מסוימת בין שתי החברות בענייני בטיחות ורגולציה, נותר ביניהן פער בתפיסת העולם. OpenAI מעדיפה נגישות רחבה יחסית לבינה מלאכותית והענקת כוח למשתמש, גם במחיר של שימושים מזיקים מסוימים. Anthropic מזוהה עם קו זהיר ומרסן יותר כלפי מערכות מתקדמות.
אלטמן ניסח זאת באופן שאי אפשר כמעט לטעות במשמעותו: העולם יצטרך להשלים עם כך ש״כמה דברים רעים״ יתרחשו בתמורה לתועלת שתביא הטכנולוגיה וליכולת של בני אדם להשתמש בה בעצמם. הוא הבהיר שאינו מוכן לעסקה שבה נמנע הפצה רחבה של בינה מלאכותית כדי להבטיח אפס הונאות, אפס פריצות ואפס שימוש לרעה.
אבל כאן נדרש דיוק חשוב. אלטמן אינו אומר שכל סיכון מתקבל על הדעת. הוא מבדיל בין נזקים שהחברה יכולה להתמודד עמם — פשיעה, הונאות ושימוש לרעה — לבין סיכונים קטסטרופליים, ובראשם אובדן ממשי של שליטה אנושית בבינה המלאכותית. את האחרונים הוא אינו מוכן לקבל כמחיר לגיטימי של הקדמה.
וזו בדיוק הנקודה שבה הוויכוח הופך מרתק.
המכונית, האינטרנט — ועכשיו הבינה המלאכותית
הטיעון של אלטמן נשען למעשה על עיקרון שליווה כמעט כל מהפכה טכנולוגית גדולה.
מכוניות הורגות בני אדם, אך העולם לא אסר מכוניות; הוא המציא רישיונות, חגורות בטיחות, רמזורים וביטוח. האינטרנט הוליד הונאות, פשעי סייבר, פורנוגרפיה, הסתה וגניבת זהויות — ובכל זאת האנושות החליטה שהיתרונות שלו עצומים מכדי לוותר עליו.
אלטמן מבקש להחיל היגיון דומה על הבינה המלאכותית.
אלא שיש הבדל אחד עצום: המכונית אינה משתפרת בעצמה בקצב מסחרר, והרמזור אינו לומד לפרוץ למחשב.
המערכות החדשות כבר אינן רק תוכנות שעונות לשאלות. הן הופכות לסוכנים המסוגלים לכתוב תוכנה, להפעיל מחשבים, לגלוש, לבצע מחקר ולנהל רצף פעולות כמעט ללא התערבות אנושית. וככל שהן מקבלות יותר עצמאות, כך גדל גם פוטנציאל הנזק.
ניסויי אבטחה שכבר נערכו במערכות מתקדמות המחישו את הבעיה. כאשר חוקרים מעניקים למודלים חזקים גישה רחבה יותר ומסירים בכוונה חלק ממנגנוני ההגנה, המערכות מסוגלות לנצל חולשות, לבצע רצפים מורכבים של פעולות ולהגיע למקומות שבעבר דרשו ידע מקצועי אנושי רב.
וזה משנה את כללי המשחק.
ומי בדיוק מחליט כמה נזק הוא ״נסבל״?
כאן נמצאת החולשה הגדולה בטיעונו של אלטמן.
קל לומר שהחברה צריכה לקבל ״כמה דברים רעים״. קשה הרבה יותר להחליט היכן עובר הגבול.
אלף הונאות? מיליון? פריצה לבנק? לבית חולים? למערכת חשמל? זיוף בחירות? מתקפת סייבר אוטונומית?
ומי מוסמך לקבוע שהמחיר עדיין כדאי — ממשלה, פרלמנט, בית משפט, הציבור או החברה שבנתה את המודל?
זה בדיוק המקום שבו תומכי הגישה הזהירה דורשים רגולציה מוקדמת יותר ולא רק טיפול בנזק לאחר שהתרחש.
מאחורי הפילוסופיה מסתתר גם מאבק עסקי אדיר
אי אפשר לנתק את הוויכוח מהתחרות הכלכלית.
רגולציה מחמירה פירושה בדיקות ארוכות יותר, עלויות עצומות, עיכוב בהשקת מוצרים ולעיתים איסור על יכולות מסוימות. רגולציה מקלה מאפשרת לחברות להוציא מוצרים מהר יותר, לצבור משתמשים, מידע והכנסות ולהתקדם במהירות לדור הבא.
מצד שני, רגולציה כבדה מדי יכולה דווקא לחסל מתחרים קטנים. רק ענקיות בעלות מיליארדים יוכלו להרשות לעצמן מערכי ציות, עורכי דין, בדיקות בטיחות ומרכזי מחשוב הנדרשים לקבלת אישורים.
במילים אחרות, חוק שנועד למנוע ריכוז כוח עלול בסופו של דבר ליצור אותו.
וזה מסביר מדוע אלטמן מתנגד כל כך לרעיון שלפיו מספר זעום של מעבדות יחזיקו בטכנולוגיה ויחליטו מי יקבל אותה ובאיזה מינון. מבחינתו, גם זה סוג של סכנה: לא בינה מלאכותית שיצאה משליטה — אלא כוח אנושי אדיר שרוכז בידי מעטים.
ויש גם את סין
מעל הוויכוח האמריקני מרחפת שאלת המעצמות.
אם ארצות הברית תטיל על חברותיה מגבלות קשות בזמן שסין ממשיכה לפתח מערכות מתקדמות, האמריקנים חוששים שהם עלולים למסור לבייג׳ינג יתרון בטכנולוגיה שתשפיע על הכלכלה, המודיעין, הסייבר, המדע והצבא.
לכן רגולציית בינה מלאכותית איננה עוד רק שאלה של הגנת הצרכן. היא הופכת במהירות לחלק מהמאבק על העליונות הטכנולוגית העולמית.
המתח הזה כבר חדר עמוק גם למערכת הביטחון האמריקנית. חברות הבינה המלאכותית הגדולות מנהלות מגעים עם הממשל והפנטגון על השימוש במודלים שלהן לצורכי ביטחון, מודיעין וסייבר, ובמקביל מנסות לקבוע קווים אדומים לגבי שימושים כמו מעקב המוני ונשק אוטונומי.
זה הוויכוח האמיתי של העשור הבא
בסופו של דבר, אלטמן ואנשי המחנה הזהיר יותר אינם מתווכחים אם הבינה המלאכותית מסוכנת. שני הצדדים מכירים בכך שהיא עלולה להיות מסוכנת מאוד.
המחלוקת היא אחרת לגמרי:
מה מסוכן יותר — להפיץ כוח טכנולוגי אדיר למיליארדי בני אדם ולהסתכן בכך שחלקם ישתמשו בו לרעה, או לרכז את הכוח הזה בידי מספר חברות וממשלות ולהפקיד בידיהן את הזכות להחליט מי רשאי להשתמש בו?
אין עדיין תשובה מוסכמת.
אבל דבר אחד כבר מתחיל להתבהר: האנושות אינה מתקדמת לעולם שבו ניתן יהיה להבטיח שבינה מלאכותית לא תגרום נזק. היא מתקדמת לעולם שבו יהיה צורך להחליט איזה נזק אנחנו מוכנים לסבול כדי לקבל את התועלת — ואיזה סיכון אסור לקחת בשום מחיר.
וזו כבר אינה שאלה על ChatGPT או Claude.
זו שאלה על חלוקת הכוח בחברה האנושית בעידן שבו אינטליגנציה עצמה הופכת למוצר.
״עניין מרכזי״ חדשות וסקופים מאז 1999.
