ארצות הברית מתחילה להתייחס ברצינות לאפשרות שהבינה המלאכותית המתקדמת במהירות מסחררת עלולה להפוך מההבטחה הטכנולוגית הגדולה של התקופה גם לאחד האיומים המשמעותיים עליה. הבית הלבן מקים כוח משימה מיוחד לבחינת הסיכונים של מערכות־על, בעוד סקרים חדשים מצביעים על חשש גובר בציבור האמריקני מהקצב שבו הטכנולוגיה מתפתחת ומהעוצמה שנצברת בידי קומץ חברות ענק.
הממשל האמריקני דורש לקבל בתוך חודשים תמונת מצב מקיפה: עד כמה רחוק הגיעה הבינה המלאכותית, אילו יכולות חדשות צפויות להופיע, מהן הסכנות לביטחון הלאומי, לכלכלה ולשוק העבודה — ובעיקר מה צריכה הממשלה לעשות לפני שהטכנולוגיה תתקדם מהר יותר מיכולת המדינה לפקח עליה.
המהלך מגיע במקביל למגעים עם ענקיות הבינה המלאכותית והטכנולוגיה ובהן OpenAI, אנבידיה, גוגל, מטא ואנתרופיק בניסיון לגבש כללי בטיחות. אלא שכאן נמצא לב המחלוקת: הממשל מעדיף בשלב זה התחייבויות וולונטריות של החברות ואינו ממהר להקים משטר קשוח של איסורים, קנסות ופיקוח ממשלתי.
הסיבה ברורה. וושינגטון חוששת מן הבינה המלאכותית — אבל חוששת לא פחות להפסיד במרוץ עליה לסין.
כל רגולציה שתאט את החברות האמריקניות עלולה להעניק יתרון אסטרטגי לבייג׳ינג. מנגד, מתן חופש כמעט מוחלט לתעשייה פירושו שחברות פרטיות הן שמחליטות בפועל כמה מהר להתקדם, אילו סיכונים לקחת ומתי מערכת חדשה חזקה מספיק כדי להשתחרר לעולם.
וזו כבר אינה שאלה תיאורטית.
הבינה המלאכותית חודרת במהירות לתכנות, רפואה, פיננסים, חינוך, תקשורת, מערכות ביטחוניות ומודיעין. היא מסוגלת לייצר טקסט, תמונות, וידאו וקוד בקנה מידה חסר תקדים, ומערכות מתקדמות יותר מקבלות יכולת לבצע רצף משימות באופן עצמאי.
לצד ההזדמנויות העצומות הולכים ומתרבים גם החששות: היעלמות מקצועות, זיופים שכמעט בלתי אפשרי לזהות, הונאות מתוחכמות, מתקפות סייבר, מניפולציה של דעת קהל והעברת כוח כלכלי וחברתי עצום למספר מצומצם של תאגידים.
והציבור מתחיל להפנים את המחיר האפשרי. רוב גדול של אמריקנים סבור כיום שחברות הבינה המלאכותית אינן עושות די כדי למנוע את הנזקים שהטכנולוגיה עלולה לחולל.
זהו שינוי חשוב. במשך שנים השאלה היתה מי יפתח את הבינה המלאכותית החזקה ביותר. עכשיו מצטרפת אליה שאלה הרבה פחות נוחה:
מה יקרה אם נצליח מהר מדי?
אמריקה אינה מתכוונת לעצור את המרוץ. להפך. היא רוצה לנצח בו. אבל עצם העובדה שהבית הלבן מקים מנגנון מיוחד לבחינת הסכנות מלמדת שהדיון השתנה.
הבעיה הגדולה של המאה ה־21 אולי לא תהיה כיצד לבנות מכונה חכמה מאיתנו — אלא כיצד להבטיח שגם אחרי שנבנה אותה, אנחנו עדיין נהיה אלה שמחליטים לאן הולכים.
״עניין מרכזי״ חדשות וסקופים מאז 1999.
