מדינות בפסגה בבריטניה מתחייבות להתמודד עם הסיכונים הפוטנציאליים "קטסטרופליים" של בינה מלאכותית

בנאום בשגרירות ארה"ב אמר האריס שהעולם צריך להתחיל לפעול כעת כדי לטפל ב"ספקטרום המלא" של סיכוני בינה מלאכותית, לא רק באיומים קיומיים כגון התקפות סייבר מסיביות או נשק ביולוגי שנוסח בינה מלאכותית.

"יש איומים נוספים שדורשים גם את הפעולה שלנו, איומים שגורמים כרגע נזק ולאנשים רבים מרגישים גם קיומיים", היא אמרה וציטטת אזרח ותיק שהוציא את תוכנית הבריאות שלו בגלל אלגוריתם AI פגום או אישה מאוימת על ידי שותף מתעלל עם תמונות מזויפות עמוקות.

פסגת הבטיחות בינה מלאכותית היא עבודת אהבה עבור Sunak, בנקאי לשעבר חובב טכנולוגיה שרוצה שבריטניה תהיה מרכז לחדשנות מחשוב וסיגרה את הפסגה כתחילתה של שיחה גלובלית על פיתוח בטוח של AI.

האריס אמור להשתתף בפסגה ביום חמישי, להצטרף לפקידי ממשל מיותר משני תריסר מדינות, כולל קנדה, צרפת, גרמניה, הודו, יפן, ערב הסעודית - וסין, שהוזמנו בגלל המחאות של כמה מחברי המפלגה השמרנית השלטת של סונאק.

לגרום לאומות לחתום על ההסכם, שזכה לכינוי הצהרת בלצ'לי, היה הישג, גם אם הוא קליל בפרטים ואינו מציע דרך להסדיר את התפתחות הבינה המלאכותית. המדינות התחייבו לפעול למען "הסכמה ואחריות משותפת" לגבי סיכוני בינה מלאכותית, ולקיים סדרה של פגישות נוספות. דרום קוריאה תקיים בעוד שישה חודשים ועידת בינה מלאכותית וירטואלית קטנה, ולאחריה תקיים פסגה אישית בצרפת בעוד שנה מהיום.

סגן שר המדע והטכנולוגיה של סין, Wu Zhaohui, אמר כי טכנולוגיית AI היא "לא ודאית, בלתי ניתנת להסבר וחסרה שקיפות".

"זה מביא סיכונים ואתגרים באתיקה, בטיחות, פרטיות והגינות. המורכבות שלו מתעוררת", אמר, וציין כי נשיא סין שי ג'ינפינג השיק בחודש שעבר את היוזמה העולמית של המדינה לממשל בינה מלאכותית.

"אנו קוראים לשיתוף פעולה גלובלי כדי לחלוק ידע ולהפוך טכנולוגיות AI לזמינות לציבור בתנאי קוד פתוח", אמר.

גם מנכ"ל טסלה אילון מאסק אמור לדון בבינה מלאכותית עם Sunak בשיחה שתשודר ביום חמישי בלילה. המיליארדר הטכנולוגי היה בין אלה שחתמו על הצהרה בתחילת השנה המעוררת את האזעקה לגבי הסכנות שבינה מלאכותית מציבה לאנושות.

נשיאת הנציבות האירופית אורסולה פון דר ליין, מזכ"ל האו"ם אנטוניו גוטרס ובכירים מחברות בינה מלאכותית אמריקאית כמו Anthropic, DeepMind ו-OpenAI של גוגל ומדעני מחשבים משפיעים כמו יושע בנג'יו, אחד ה"סנדקים" של ה-AI. הפגישה בבלצ'לי פארק, לשעבר בסיס סודי ביותר לפורצי קודים של מלחמת העולם השנייה זה נתפס כמקום הולדתו של המחשוב המודרני.

המשתתפים אמרו שהפורמט של הפגישה בדלתיים סגורות מעודד דיון בריא. מפגשי נטוורקינג לא פורמליים עוזרים לבנות אמון, אמר מוסטפא סולימן, מנכ"ל Inflection AI.

בינתיים, בדיונים רשמיים "אנשים הצליחו להצהיר הצהרות מאוד ברורות, ושם רואים חילוקי דעות משמעותיים, גם בין מדינות הצפון וגם בין מדינות הדרום (וגם) מדינות שיותר בעד קוד פתוח ופחות בעד פתוח מקור", אמר סולימן לכתבים.

מערכות AI בקוד פתוח מאפשרות לחוקרים ולמומחים לגלות במהירות בעיות ולטפל בהן. אבל החיסרון הוא שברגע שמערכת קוד פתוח שוחררה, "כל אחד יכול להשתמש בה ולכוון אותה למטרות זדוניות", אמר בנג'יו בשולי הפגישה.

"יש חוסר התאמה בין קוד פתוח לאבטחה. אז איך נתמודד עם זה?"

רק ממשלות, לא חברות, יכולות לשמור על אנשים מפני הסכנות של AI, אמר Sunak בשבוע שעבר. עם זאת, הוא גם דחק שלא למהר להסדיר את טכנולוגיית הבינה המלאכותית, ואמר שקודם כל צריך להבין אותה במלואה.

לעומת זאת, האריס הדגיש את הצורך לטפל בכאן ועכשיו, כולל "נזקים חברתיים שכבר מתרחשים כמו הטיה, אפליה והתפשטות של מידע מוטעה".

היא הצביעה על הצו הביצועי של הנשיא ג'ו ביידן השבוע, הקובע אמצעי הגנה של בינה מלאכותית, כראיה שארה"ב מובילה בדוגמה בפיתוח כללים לבינה מלאכותית הפועלים למען האינטרס הציבורי.

האריס גם עודד מדינות אחרות לחתום על התחייבות בגיבוי ארה"ב לדבוק בשימוש "אחראי ואתי" בבינה מלאכותית למטרות צבאיות.

"לנשיא ביידן ואני מאמינים שלכל המנהיגים... יש חובה מוסרית, אתית וחברתית לוודא שבינה מלאכותית מאומצת ומתקדמת באופן שמגן על הציבור מפני נזק אפשרי ומבטיח שכולם יוכלו ליהנות מהיתרונות שלו", היא אמר.