שנת התחשבות אתית בתעשייה

מאז שרשתות עצביות עמוקות זכו בתחרות החשובה ביותר בזיהוי תמונות בשנת 2012, כולם התלהבו ממה שהבינה המלאכותית יכולה לשחרר. אבל במירוץ לפיתוח טכניקות AI ויישומים חדשים, ההשפעות השליליות האפשריות קיבלו מושב אחורי.

אנו רואים כעת שינוי לעבר מודעות רבה יותר לאתיקה של AI. בשנת 2018, מפתחי AI התוודעו יותר להשלכות האפשריות של היצירות שלהם. מהנדסים, חוקרים ומפתחים רבים הבהירו כי הם לא יבנו טכנולוגיות הפוגעות או גורמות נזק לחייהם של אנשים חפים מפשע, והם החזיקו בחברות שלהם.

הכרת פנים באכיפת החוק

בעבר, יצירת יישומי זיהוי פנים הייתה מפרכת, עתירת משאבים ומועדת לטעות. אך עם ההתקדמות בראייה ממוחשבת - קבוצת המשנה של AI המאפשרת למחשבים לזהות את תוכן התמונות והווידיאו - יצירת יישומי זיהוי פנים הפכה להרבה יותר קלה ובהישג ידם של כולם.

חברות טק גדולות כמו מיקרוסופט, אמזון ו- IBM החלו לספק שירותים מבוססי ענן שאפשרו לכל מפתח לשלב טכנולוגיית זיהוי פנים בתוכנה שלהם. זה פותח הרבה מקרים ויישומים חדשים ויישומים חדשים בתחומים שונים, כגון הגנה ואימות זהות, אבטחת בית חכם וקמעונאות. אולם פעילי זכויות הפרטיות הביעו חשש מהפוטנציאל לשימוש לרעה.

במאי 2018 חשף איחוד החירויות האזרחיות האמריקניות כי אמזון משווקת את Rekognition, טכנולוגיית וידאו-אנליטיקס בזמן אמת, לאכיפת החוק ולסוכנויות ממשלתיות. על פי ה- ACLU, שוטרים לפחות בשלוש מדינות השתמשו ברקוגניציה לצורך זיהוי פנים בעדכוני וידאו למעקב.

"באמצעות ההכרה, ממשלה יכולה לבנות מערכת לאוטומציה של זיהוי ומעקב אחר כל אחד. אם מצלמות גופות המשטרה, למשל, היו מצוידות בזיהוי פנים, מכשירים המיועדים לשקיפות ואחריות קצינים היו הופכים עוד יותר למכונות מעקב המכוונות הציבור, "הזהירה ACLU. "על ידי אוטומציה של מעקב המוני, מערכות זיהוי פנים כמו הכרה מאיימות על חופש זה, מהוות איום מסוים על קהילות שכבר ממוקדות בצורה בלתי צודקת באקלים הפוליטי הנוכחי. ברגע שמערכות פיקוח חזקות כמו אלה נבנות ונפרסות, הפגיעה תהיה קשה ביותר לביטול."

את דאגות ה- ACLU אושרו על ידי עובדי אמזון, שכתבו ביוני מכתב לג'ף בזוס, מנכ"ל החברה, ודרשו ממנו להפסיק למכור את Rekognition לאכיפת החוק. "החברה שלנו לא צריכה להיות בעסקי המעקב. אנחנו לא צריכים להיות בעסקי השיטור; אנחנו לא צריכים להיות בעסקים של תמיכה במי שמפקח ומדכא אוכלוסיות שוליות", נכתב במכתב.

באוקטובר חשף עובד אנונימי באמזון כי לפחות 450 עובדים חתמו על מכתב נוסף שקרא לבזוס ולמנהלים אחרים להפסיק למכור את Rekognition למשטרה. "איננו יכולים להרוויח מקבוצה של לקוחות רבי עוצמה על חשבון הקהילות שלנו; איננו יכולים למנוע את עינינו מהעלות האנושית של עסקינו. לא נבנה בשקט טכנולוגיה כדי לדכא ולהרוג אנשים, בין אם במדינה שלנו או באחרים, " זה אומר.

נפילת פרויקט ה- AI הצבאי של גוגל

בזמן שאמזון התמודדה עם הפיגוע הפנימי הזה, גוגל חווה מאבקים דומים על חוזה לפיתוח AI עבור צבא ארה"ב, שכונה Project Maven.

על פי הדיווחים, גוגל סייעה למשרד ההגנה בפיתוח טכנולוגיית ראיית מחשבים שתעבד צילומי וידיאו מועברים. כמות צילומי הווידיאו שהוקלטו על ידי מל"טים בכל יום הייתה גבוהה מכדי שאנליסטים אנושיים יבדקו, והפנטגון רצה להפוך אוטומטית חלק מהתהליך.

בהכרה באופי השנוי במחלוקת של המשימה, קבעה דוברת גוגל כי היא מספקת רק ממשקי API ל TensorFlow, פלטפורמת למידת המכונה שלה, לגילוי אובייקטים בעדכוני וידאו. גוגל הדגישה כי היא מפתחת מדיניות ואמצעי הגנה לטיפול בהיבטים אתיים של הטכנולוגיה שלה.

עם זאת, פרויקט Maven לא ישב טוב עם עובדי גוגל - 3, 000 מהם, כולל עשרות מהנדסים, חתמו עד מהרה על מכתב פתוח למנכ"ל סנדר פיצ'אי שקרא להפסיק את התוכנית.

"אנו מאמינים שגוגל לא צריכה להיות בעסק של מלחמה", נכתב במכתב. היא ביקשה מהחברה "לנסח, לפרסם ולאכוף מדיניות ברורה לפיה גוגל ולא הקבלנים שלה לעולם לא יבנו טכנולוגיית לוחמה."

עובדי גוגל גם הזהירו כי המעסיק שלהם מסכן את המוניטין שלו ואת יכולתו להתמודד על הכישרון בעתיד. "איננו יכולים למקם את האחריות המוסרית של הטכנולוגיות שלנו לצדדים שלישיים", הדגישו המנהלים.

זמן קצר לאחר מכן, עתירה שנחתמה על ידי 90 אנשי אקדמיה וחוקרים קראה למנהלי גוגל להפסיק את עבודתם בתחום הטכנולוגיה הצבאית. החותמים הזהירו כי עבודתה של גוגל תביא את הדרך ל"הכרה אוטומטית של יעדים ומערכות נשק אוטונומיות. " הם גם הזהירו כי ככל שהטכנולוגיה תתפתח, הם יעמדו "במרחק קצר מהסמכת מל"טים אוטונומיים להרוג אוטומטית, ללא פיקוח אנושי או שליטה אנושית משמעותית."

עם התגברות המתח, התפטרו כמה מעובדי גוגל במחאה.

כיצד הגיבו מנהיגים טכניים

תחת לחץ, גוגל הצהירה ביוני כי היא לא תחדש את חוזהה עם משרד ההגנה על פרויקט Maven לאחר שפג תוקפו בשנת 2019.

בפוסט בבלוג הכריז המנכ"ל סנדר פיצ'אי (בתמונה למטה) על סט עקרונות אתיים שישלטו בפיתוח ובמכירת החברה של טכנולוגיית AI. לטענת פיצ'אי, החברה תשקול מעתה פרויקטים המועילים לטובת החברה בכללותה ותימנע מפיתוח AI שחיזק הטיות בלתי הוגנות קיימות או מערער את ביטחון הציבור.

פיצ'אי גם הצהיר במפורש כי החברה שלו לא תעבוד על טכנולוגיות המפרות את נורמות זכויות האדם.

בזוס של אמזון התלהב פחות מהזעם על ההכרה. "אנו ממשיכים להמשיך ולתמוך ב- DoD ואני חושב שעלינו לעשות זאת", אמר בזוס בכנס טק בסן פרנסיסקו באוקטובר. "אחד התפקידים של ההנהגה הבכירה הוא לקבל את ההחלטה הנכונה, גם כשהיא לא פופולרית."

בזוס הדגיש גם את הצורך בקהילה הטכנולוגית לתמוך בצבא. "אם חברות טק גדולות מתכוונות להפנות עורף ל- DoD, המדינה הזו תסתבך בצרות", אמר.

נשיא מיקרוסופט, בראד סמית ', אשר חברתו התמודדה עם ביקורת על עבודתה עם ICE, פרסם ביולי פוסט בבלוג בו קרא לגישה מדודה במכירת טכנולוגיה רגישה לסוכנויות ממשלתיות. בעוד סמית לא פסל מכירת שירותי זיהוי פנים לאכיפת החוק ולצבא, הוא הדגיש את הצורך ברגולציה ושקיפות טובים יותר בתחום הטכנולוגי.

• MIT לבזבז מיליארד דולר על תוכנית ללמוד אתיקה של AI MIT לבזבז מיליארד דולר על תוכנית ללמוד אתיקה של AI
• האם AI באמת מדבר את השפה שלנו? האם AI באמת מדבר את השפה שלנו?
• פירוק מפעל AI הבלתי ניתן לעצירה של סין פירוק מפעל AI הבלתי ניתן לעצירה של סין

"בחרנו לנציגים בקונגרס את הכלים הדרושים כדי להעריך טכנולוגיה חדשה זו על כל השלכותיה. אנו נהנים מהבדיקות והאיזונים של חוקה שראתה אותנו מתקופת הנרות לעידן של בינה מלאכותית. כמו פעמים כה רבות בעבר, עלינו להבטיח שהמצאות חדשות ישמשו את חירויותינו הדמוקרטיות מכוח שלטון החוק, "כתב סמית '.

בשנת 2018 איומים רחוקים על רובוטים הרוצחים ואבטלה המונית פינו את מקומם לחששות מההשפעה האתית והחברתית המיידית יותר של AI. במובנים רבים, התפתחויות אלה מצביעות על כך שהענף מתבגר, שכן אלגוריתמים של AI בולטים יותר במשימות קריטיות. אולם ככל שאלגוריתמים ואוטומציה יוטמעו יותר בחיי היומיום שלנו, יתעוררו דיונים רבים יותר.