הדילמה של לימוד אתיקה למכוניות בנהיגה עצמית | דאג חדש

בשבוע שעבר לא לקח רכיבה ארוכה במכונית של נהיגה עצמית של גוגל כדי להבין שהטכנולוגיה לא רק מוכנה לדרך, אלא שבמקרים מסוימים מקבלת החלטות טובות יותר מאשר נהגים אנושיים - האטה ונכנעת לרוכבי אופניים, למשל.

אך כדי לעשות יותר מסתם זחילה ברחובות העיר, טכנולוגיה אוטונומית תצטרך לקבל את סוג ההחלטות הקריטיות שהן טבע שני למנהגים אנושיים מנוסים. יתכן שיהיה עליה לנהל משא ומתן על דילמות אתיות כמו גם במצבי נהיגה מסובכים.

כדוגמה, טכנולוגיה של נהיגה עצמית מוסיפה טוויסט חדש לדילמה הפילוסופית בת המאה המכונה "בעיית העגלה". בתרחיש זה, אדם צריך להחליט אם למשוך מנוף בצומת Y ולנסוע מעל אדם אחד הקשור למסילה על מנת להציל חמישה אנשים הקשורים למסילה הצמודה.

עבור מכוניות בנהיגה עצמית, זה הוחלף מחדש כ"בעיית המנהרה ". תאר לעצמך שרכב אוטונומי נוסע בכביש הררי בעל מסלול יחיד ועומד להיכנס למנהרה, כשילד חוצה במתכוון לשביל שלו ממש בתוך הכניסה, כך שהמכונית צריכה לקבל החלטה בשבריר שנייה. האם זה ממשיך ישר ופוגע בילד? או שהוא מתנדנד ופוגע במנהרה, פוגע או הורג את דיירי הרכב?

יום אחרי שנסעתי במכונית הנהיגה העצמית של גוגל ב Mountain View, קליפורניה, השתתפתי באירוע במתקן המחקר והפיתוח של מרצדס בנץ בצפון אמריקה בסאניווייל הסמוכה. בין מספר הנושאים שעסקו במהלך היום, פרופסור סטנפורד וראש תכנית ה- Revs של האוניברסיטה כריס גרדס העביר מצגת שהתעמקה בנושא האתיקה והמכוניות האוטונומיות.

גרדס חשף כי הכמ"ש שיתף פעולה עם המחלקה לפילוסופיה של סטנפורד בנושאים אתיים הכרוכים בכלי רכב אוטונומיים, ואילו האוניברסיטה החלה גם היא לבצע סדרת בדיקות כדי לקבוע אילו סוגים של החלטות מכונית רובוטית עשויה לקבל במצבים קריטיים.

כאשר הפילוסופיה מקבלת את ההגה

כחלק מהמצגת שלו, גרדס טען מדוע אנו זקוקים לפילוסופים שיעזרו ללמוד סוגיות אלה. הוא ציין כי סוגיות אתיות עם מכוניות בנהיגה עצמית הן מטרה נעה ו"אין גבולות ", אם כי על מהנדסים" לכבול את הבעיה ".

לשם כך ולהעביר את האתיקה של טכנולוגיה לנהיגה עצמית מעבר לדיון אקדמי גרידא, Revs מבצע ניסויים עם רכב המבחן x1 של סטנפורד על ידי הצבת מכשולים בכביש. הוא ציין כי הצבת סדרי עדיפויות שונים בתוכנת התוכנה של הרכבים הביאה ל"התנהגויות שונות מאוד ".

גרדס טען שהתכנות המתהווה המבוססת על אתיקה של תוכנה לנהיגה עצמית עשויה להפוך ל"דרישת ליבה "לטכנולוגיה - ולא למשהו שנדון רק במגדלי שנהב. והוא הוסיף כי אתיקה אינה דבר שיצרני הרכב יכולים לקבל ממספק "רובד 1" כמו, למשל, משאבת דלק או מסך מקף. שערוריית פולקסווגן דיזלגייט לאחרונה הראתה זאת בהחלט.

נהגים אנושיים מנוסים תוכנות במשך שנים להתמודד עם החלטות בשבריר שנייה - והם עדיין לא תמיד מקבלים את הנכונים. אבל אחרי שראיתי כיצד כלי הרכב הנהיגה העצמית של גוגל מגיב להחלטות יומיומיות, ושמעתי על העבודה שסטנפורד רבס ומחלקת הפילוסופיה של בית הספר מבצעים, אני מהמר שהמכוניות בסופו של דבר יקבלו החלטות חכמות יותר.