מדינות בפסגה בבריטניה מתחייבות להתמודד עם הסיכונים הפוטנציאליים של בינה מלאכותית "קטסטרופליים"

בנאום שנשא בשגרירות ארה"ב, אמר האריס כי העולם צריך להתחיל לפעול עכשיו כדי לטפל ב"ספקטרום המלא" של סיכוני הבינה המלאכותית, לא רק באיומים קיומיים כמו מתקפות סייבר מסיביות או כלי נשק ביולוגיים שפותחו על ידי בינה מלאכותית.

"ישנם איומים נוספים שדורשים גם את פעולתנו, איומים שכרגע גורמים נזק ולאנשים רבים גם מרגישים קיומיים", אמרה, וציינה אזרח ותיק ביטל את תוכנית ביטוח הבריאות שלו בגלל אלגוריתם בינה מלאכותית פגום או אישה שאויימה על ידי בן זוג מתעלל באמצעות תמונות דיפ פייק.

פסגת הבטיחות של בינה מלאכותית היא פרי יצירתו של סונאק, בנקאי לשעבר חובב טכנולוגיה שרוצה שבריטניה תהיה מרכז לחדשנות במחשוב ומגדיר את הפסגה כתחילתה של שיחה עולמית על פיתוח בטוח של בינה מלאכותית.

האריס צפוי להשתתף בפסגה ביום חמישי, ולהצטרף לפקידי ממשל מיותר משני תריסר מדינות, כולל קנדה, צרפת, גרמניה, הודו, יפן, ערב הסעודית - וסין, שהוזמנו על רקע מחאותיהם של כמה מחברי מפלגת השמרנים השלטת של סונאק.

השגת חתימה של המדינות על ההסכם, שכונה הצהרת בלצ'לי, הייתה הישג, גם אם הוא דלה בפרטים ואינו מציע דרך לווסת את פיתוח הבינה המלאכותית. המדינות התחייבו לפעול לקראת "הסכמה ואחריות משותפת" בנוגע לסיכוני הבינה המלאכותית, ולקיים סדרה של פגישות נוספות. דרום קוריאה תקיים פסגת בינה מלאכותית וירטואלית קטנה בעוד שישה חודשים, ולאחריה פסגה פנים אל פנים בצרפת בעוד שנה.

סגן שר המדע והטכנולוגיה של סין, וו ג'אוהוי, אמר כי טכנולוגיית הבינה המלאכותית "אינה ודאית, בלתי מוסברת וחסרת שקיפות".

"זה מביא סיכונים ואתגרים בתחומי האתיקה, הבטיחות, הפרטיות וההגינות. המורכבות שלו הולכת ומתפתחת", אמר, וציין כי נשיא סין שי ג'ינפינג השיק בחודש שעבר את היוזמה הגלובלית של המדינה לממשל בינה מלאכותית.

"אנו קוראים לשיתוף פעולה עולמי כדי לשתף ידע ולהנגיש טכנולוגיות בינה מלאכותית לציבור בתנאי קוד פתוח", אמר.

מנכ"ל טסלה, אילון מאסק, צפוי גם לדון עם סונאק בנושא בינה מלאכותית בשיחה שתשודר בליל חמישי. מיליארדר הטכנולוגיה היה בין אלה שחתמו על הצהרה מוקדם יותר השנה שהעלתה את האזעקה מפני הסכנות שבינה מלאכותית מהווה לאנושות.

נשיאת הנציבות האירופית אורסולה פון דר ליין, מזכ"ל האו"ם אנטוניו גוטרש ומנהלים מחברות בינה מלאכותית אמריקאיות כמו Anthropic, DeepMind של גוגל ו-OpenAI ומדעני מחשב בעלי השפעה כמו יהושע בנג'יו, אחד מ"הסנדקים" של הבינה המלאכותית, ישתתפו גם הם בפגישה בבלצ'לי פארק, בסיס סודי לשעבר למפענחי צפנים של מלחמת העולם השנייה, הנחשב למקום הולדתו של המחשוב המודרני.

המשתתפים אמרו כי הפורמט של הפגישה הסגורה טיפח דיון בריא. מפגשי נטוורקינג בלתי פורמליים מסייעים לבנות אמון, אמר מוסטפא סולימאן, מנכ"ל Inflection AI.

בינתיים, בדיונים רשמיים "אנשים הצליחו להצהיר הצהרות ברורות מאוד, וכאן רואים חילוקי דעות משמעותיים, הן בין מדינות הצפון והדרום (והן) מדינות שתומכות יותר בקוד פתוח ופחות בקוד פתוח", אמר סולימאן לכתבים.

מערכות בינה מלאכותית בקוד פתוח מאפשרות לחוקרים ולמומחים לגלות במהירות בעיות ולטפל בהן. אבל החיסרון הוא שברגע שמערכת קוד פתוח משוחררת, "כל אחד יכול להשתמש בה ולכוון אותה למטרות זדוניות", אמר בנג'יו בשולי הפגישה.

"יש חוסר תאימות בין קוד פתוח לאבטחה. אז איך אנחנו מתמודדים עם זה?"

סונאק אמר בשבוע שעבר שרק ממשלות, ולא חברות, יכולות להגן על אנשים מפני הסכנות של בינה מלאכותית. עם זאת, הוא גם קרא שלא לחפוץ לרגולציה של טכנולוגיית בינה מלאכותית, ואמר שיש להבין אותה במלואה תחילה.

לעומת זאת, האריס הדגיש את הצורך לטפל בכאן ועכשיו, כולל "נזקים חברתיים שכבר מתרחשים כמו הטיה, אפליה והפצת מידע שגוי".

היא הצביעה על הצו הנשיאותי של הנשיא ג'ו ביידן השבוע, הקובע אמצעי הגנה מפני בינה מלאכותית, כראיה לכך שארה"ב מובילה דוגמה אישית בפיתוח כללים לבינה מלאכותית הפועלים לטובת הציבור.

האריס גם עודד מדינות אחרות לחתום על התחייבות, הנתמכת על ידי ארה"ב, לדבוק בשימוש "אחראי ואתי" בבינה מלאכותית למטרות צבאיות.

"הנשיא ביידן ואני מאמינים שלכל המנהיגים... יש חובה מוסרית, אתית וחברתית לוודא שהבינה המלאכותית מאומצת ומקודמת באופן שמגן על הציבור מפני נזק פוטנציאלי ומבטיח שכולם יוכלו ליהנות מיתרונותיה", אמרה.