מדינות בפסגה בבריטניה מתחייבת להתמודד עם הסיכונים ה"קטסטרופלים "של AI

בנאום בשגרירות ארה"ב, אמר האריס שהעולם צריך להתחיל לפעול כעת כדי להתייחס ל"ספקטרום המלא "של סיכוני AI, ולא רק איומים קיומיים כמו התקפות סייבר מאסיביות או צמצום ביולוגי מנוסח AI.

"ישנם איומים נוספים הדורשים גם את פעולתנו, איומים שגורמים כיום נזק ואנשים רבים גם מרגישים קיומיים", אמרה, כשהיא מציינת אזרח ותיק בעט את תוכנית הבריאות שלו בגלל אלגוריתם AI לקוי או אישה מאוימת על ידי שותף פוגע עם תמונות מזויפות עמוקות.

פסגת הבטיחות של AI היא עבודה של אהבה לסאנאק, בנקאי לשעבר חובב טק שרוצה שבריטניה תהיה מוקד לחידוש מחשוב והסגיר את הפסגה כהתחלה של שיחה עולמית על ההתפתחות הבטוחה של AI.

האריס אמורה להשתתף בפסגה ביום חמישי, והצטרף לפקידי ממשל מיותר משני תריסר מדינות כולל קנדה, צרפת, גרמניה, הודו, יפן, ערב הסעודית - וסין, שהוזמנו על מחאותיהם של כמה מחברי המפלגה השמרנית של סאנאק.

קבלת העמים לחתום על ההסכם, שכונתה את הצהרת בלצ'לי, הייתה הישג, גם אם זה קל על הפרטים ואינו מציע דרך להסדיר את פיתוח ה- AI. המדינות התחייבו לפעול למען "הסכמה ואחריות משותפת" על סיכוני AI, ולקיים סדרה של פגישות נוספות. דרום קוריאה תערוך פסגת AI וירטואלית מיני בעוד שישה חודשים, ואחריו עתה אישי בצרפת בשנה מהיום.

סגן שר המדע והטכנולוגיה של סין, וו ג'והוי, אמר כי טכנולוגיית AI היא "לא בטוחה, בלתי מוסברת וחסרה שקיפות."

"זה מביא סיכונים ואתגרים באתיקה, בטיחות, פרטיות והגינות. המורכבות שלה מתעוררת ", אמר וציין כי נשיא סין שי ג'ינפינג השיק בחודש שעבר את היוזמה הגלובלית של המדינה לממשל AI.

"אנו קוראים לשיתוף פעולה גלובלי לשתף ידע ולהפוך את AI Technologies לרשות הציבור בתנאי קוד פתוח," אמר.

מנכ"ל טסלה, אלון מאסק, אמור גם לדון ב- AI עם סאנאק בשיחה שתוזרם ביום חמישי בערב. המיליארדר הטכנולוגי היה בין אלה שחתמו על הצהרה מוקדם יותר השנה העלו את האזעקה לגבי הסכנות ש- AI מציב לאנושות.

נשיאת הנציבות האירופית אורסולה פון דר ליין, מזכ"ל האו"ם אנטוניו גוטרס ומנהלים מחברות בינה מלאכותית של ארה"ב כמו אנתרופי, Deepmind של גוגל ופתוחי ומדעני מחשבים משפיעים כמו יושוע בנגיו, אחד "האלילים" של AI, גם הפגישה בפארק בלצ'לי, בסיס סודי לשעבר לשוברי קוד מלחמת העולם השנייה שנראית כעיר הולדת של מחשוב מודרני.

המשתתפים אמרו כי פורמט הפגישה הסגורה מטפח דיון בריא. מפגשי רשת לא פורמליים מסייעים בבניית אמון, אמר מוסטפא סולימן, מנכ"ל Infilection AI.

בינתיים, בדיונים פורמליים "אנשים הצליחו להצהיר מאוד בהירות, וכאן אתה רואה חילוקי דעות משמעותיים, הן בין מדינות הצפון והדרום (וגם) מדינות שהן בעד קוד פתוח ופחות בעד פתוח מקור, "אמר סולימן לכתבים.

מערכות AI בקוד פתוח מאפשרות לחוקרים ומומחים לגלות במהירות בעיות ולהתייחס אליהם. אבל החיסרון הוא שברגע שמערכת קוד פתוח שוחררה, "כל אחד יכול להשתמש בו ולכוונן אותה למטרות זדוניות", אמר בנגיו בשולי הפגישה.

"יש אי התאמה זו בין קוד פתוח לאבטחה. אז איך נתמודד עם זה? "

רק ממשלות, לא חברות, יכולות לשמור על אנשים מפני הסכנות של AI, אמר סאנאק בשבוע שעבר. עם זאת, הוא גם הפציר נגד למהר להסדיר את טכנולוגיית AI, ואמר שצריך להבין אותו קודם.

לעומת זאת, האריס הדגיש את הצורך להתייחס לכאן ועכשיו, כולל "פגיעות חברתיות שכבר מתרחשות כמו הטיה, אפליה והפצת מידע שגוי."

היא הצביעה השבוע על צו ההנהלה של הנשיא ג'ו ביידן, והציגה אמצעי הגנה של AI, כראיה שארה"ב מובילה בדוגמה בפיתוח כללים לבינה מלאכותית העובדת לטובת הציבור.

האריס עודד מדינות אחרות להירשם למשכון המגובה בארה"ב לדבוק בשימוש "אחראי ואתי" ב- AI למטרות צבאיות.

"הנשיא ביידן ואני מאמינים שלכל המנהיגים ... יש חובה מוסרית, אתית וחברתית לוודא כי AI יאומץ ומתקדם באופן שמגן על הציבור מפני נזק אפשרי ומבטיח שכולם יוכלו ליהנות מהיתרונות שלו," היא אמר.