יתרון לא הוגן: אל תצפו מ- ai שישחק כמו בן אנוש

עלילותיו האחרונות של DeepMind בפיתוח בינה מלאכותית שיכולות להביס שחקנים מהשורה העולמית בסטאר קראפט השנייה עוררו סערה רבה. בעוד ש- DeepMind כינו זאת פריצת דרך משמעותית, אחרים טענו שזה רמאות, לא הוגן ואנושי-על.

אבל מה שהוויכוח כולו מעיד הוא שאולי עלינו לשנות את ההקשר בו אנו דנים ולהעריך את היכולות של AI - ולהפסיק להשוות את משחק המשחק שלה לבין שלנו.

AlphaStar, בוט משחקי StarCraft של DeepMind, משתמש בלמידה עמוקה, תחום פופולרי של AI בו מתכנתים מפתחים את ההתנהגות של דגמי ה- AI שלהם בכך שהם נותנים להם מספר מטורף של דוגמאות. AlphaStar אימן לראשונה במאגר גדול של נתוני משחק אנושי שפורסמה על ידי בליזארד, ושיחק מיליוני משחקים נגד עצמה בכדי ללמוד ולשולט על כללי StarCraft. לאחר מכן הוא נקבע נגד בני אדם, סחף את שחקני החובבים של DeepMind עצמו לפני שהמשיך נגד אלופי העולם.

כאשר AlphaStar גברה על TLO ו- MaNa, שניים מהשחקנים הטובים בעולם, הייתה סיבה להאמין שתעשיית הבינה המלאכותית עברה אבן דרך. בפוסט בבלוג, DeepMind כינה את AlphaStar "צעד קדימה במשימה שלנו ליצור מערכות אינטליגנטיות שיסייעו לנו יום אחד לפתוח פתרונות חדשים לכמה מהבעיות המדעיות החשובות והבסיסיות בעולם."

אבל אז הגיעו הביקורות.

יתרון לא הוגן

המבקרים טוענים כי ל- AlphaStar מספר מאפיינים ההופכים אותה ליריב בלתי הוגן כנגד בני אדם.

ראשית, AlphaStar בוערת במהירות. מהנדסי DeepMind אומרים שהם נכה את AlphaStar כדי למנוע ממנה לבצע יותר פעולות ממה שאדם יכול לבצע. אבל שחקנים אנושיים עושים הרבה קליקים על דואר זבל, או פעולות אימפולסיביות שאין להם שום ערך או חשיבה מאחוריהם.

למשל, כששחקנים רוצים להזמין את יחידותיהם לעבור למקום או לתקוף אויב, הם לוחצים פעמים רבות שוב ושוב על אותו מיקום או על מסלול מסלול לעבר היעד, מכיוון שזה נותן תחושה מוטעית כי לחיצה תאיץ את אותה פעולה. במציאות היחידות מבצעות רק את הפקודה האחרונה ביותר והן יתעלמו מקודמות. לעומת זאת, כל מהלך של AlphaStar הוא מדויק.

המבקרים טוענים כי חוסר ההתאמה מאפשר ל- AlphaStar לממן את המשחק באופן על-אנושי. לדוגמה, בקרב גדול בו מעורבות יחידות רבות, AlphaStar יכולה לתת פקודות אינדיבידואליות לכל אחת מהיחידות שלה במהירות ובדיוק שיהיה בלתי אפשרי עבור מתנגדיה האנושיים. בניתוח של הביצועים של AlphaStar, תימוטי B. Lee של ArsTechnica תיאר כמה תרחישים שבהם המהירות והדיוק של AlphaStar יעניקו לה יתרון לא הוגן.

אנליסטים אחרים ציינו כי AlphaStar מקבלת מידע רב יותר מאשר שחקנים אנושיים. לגרסת הבוט שהכה את MaNa ו- TLO הייתה גישה למפה כולה, בניגוד לראות את השווי של שטח הצג בשדה הקרב כמו שחקן אנושי. אך הוא עדיין הוגבל על ידי "ערפל מלחמה", שפירושו שהוא לא יכול היה לחלץ מידע מהאזורים בהם לא היו יחידות פעילות.

ואחרים מתחו ביקורת על גבולותיה של אלפאסטאר: זה יכול היה לשחק רק כפרוטוס, אחד משלושת המירוצים בסטאר קראפט, ורק באחת מבין מפות המשחק הרבות. בהינתן מירוץ ומפה חדשים, AlphaStar ככל הנראה תפסיד נגד מתנגדי אנוש חובבים מכיוון שמבחינת AI זה יהיה כמו לשחק משחק אחר לגמרי.

מה זה משחק הוגן?

DeepMind עדיין לא פרסמה פרטים טכניים, אך חלקם חושדים שבמקום שנצטרך לעבד פיקסלים גולמיים כפי שעושים בני אדם, ייתכן של- AlphaStar הייתה גישה לנתוני משחק גולמיים דרך ממשקי API (ממשקי תכנות יישומים).

תודה! אבל זה לא אומר אם התוכנה הספציפית שניצחה נגד מומחים השתמשה בפיקסלים או בדברים חדשים של APi, ששניהם זמינים אך שונים מאוד

- גארי מרקוס (@GaryMarcus) 31 בינואר, 2019

טימוטי ב. לי של ארס הגיע למסקנה זו: "הדרך האולטימטיבית לפלס את המגרש היא לגרום ל- AlphaStar להשתמש באותו ממשק משתמש בדיוק כמו לשחקנים אנושיים." המשמעות היא שכמו שחקן אנושי בוהה במוניטור מחשב, ל- AI תהיה גישה רק לגרפיקה של המשחק ועליה לדמות הקשות מקישות, לחיצות עכבר וגלילה במקום ליצור אינטראקציה עם המשחק באמצעות שיחות API.

זו תהיה נקודה הוגנת אם היינו מצפים מ- AI שישכפל את המוח האנושי והחושים בדיוק. אולם למידה עמוקה ורשתות עצביות, שעדיין מהוות את חוד החנית של ה- AI, מגבלות ברורות המונעות מהם לשחזר חלק מהתפקודים האנושיים הבסיסיים ביותר.

למידה עמוקה היא AI צר, מה שאומר שהוא טוב מאוד בביצוע משימות ספציפיות כמו תיוג תמונות או זיהוי דיבור, אך זה נורא בהכללת משימות או העברת הידע שלה לתחומים אחרים. ככל שתרחיב את תחום הבעיה, כך יכולת ה- AI תהיה מוגבלת יותר והיא צריכה יותר אימונים. לכן AlphaStar לא תוכל לשחק במשחק RTS נוסף, כמו Warcraft 3 או Company of Heroes.

זה לקח למשחקים של AlphaStar 200 שנה כדי לשלוט בפרוטוס ברמה יחידה. כנראה שיידרש באותה מידה ללמוד לשחק את טרן או זרג, שני המירוצים האחרים של סטאר קראפט. לעומת זאת, שחקן אנושי יכול היה במהירות לנמל את הידע שהם צברו ממשחק למשחק חדש.

אנו עדיין רחוקים עשרות שנים (לפחות) מה- AI הכללי, הסוג שיכול להתאים ליכולות הקוגניטיביות של בני האדם. יש מדענים שמאמינים שלעולם לא נצליח לשחזר את המוח האנושי.

אבל AI צר מאוד טוב בעיבוד כמויות גדולות של מידע בשיעורים מהירים מאוד. לכן AlphaStar יכול להתמודד עם כל המפה של StarCraft בו זמנית. מעצבי StarCraft היו יכולים לשנות את המשחק כדי לספק לשחקנים תצוגה מלאה של מפת המשחק, אך זה כנראה יבלבל את השחקנים ולא יעזור להם. לבני אדם ניתן לקבל גישה גם לנתוני משחק גולמיים, אך גם זה לא יעזור.

בני אדם מאטים בעיבוד נתונים אך הם בעלי שכל ישר ויכולות חשיבה מופשטות המאפשרים להם לתכנן ולקבל החלטות ללא מידע מלא. זו הסיבה שהם מעדיפים לקבל מבט מוגבל על המפה ולהתמקד בחלק בודד בשדה הקרב; יחד עם זאת, יש להם תחושה של מה שקורה בחלקים אחרים של המשחק ויכולים לפתח תוכנית משחק כללית.

האם AlphaStar בוגד?

בהתחשב בהבדלים בין AI למוח האנושי, ניתן לומר שהמבקרים צדקו בהערכתם: DeepMind תיקן את התחרות לטובת AlphaStar בכך שהגביל אותה למפה אחת ולמירוץ יחיד. אבל הוויכוח על AlphaStar יכול להביא אותנו למסקנות חשובות מאוד.

ראשית, הנקודה העיקרית של המשחק לא צריכה להיות לבדוק האם AI יכול ללחוץ ולגלול כמו אדם. במקום זאת, עלינו להתמקד בביצועי AI במשחק המספק מידע לא מושלם ודורש קבלת החלטות בזמן אמת. בהקשר זה, AlphaStar עשה עבודה די טובה.

• מה יגרום לך לסמוך על עוזר AI? מה דעתך על פרצוף? מה יגרום לך לסמוך על עוזר AI? מה דעתך על פרצוף?
• שנת תעשי הסיווג האתית של תעשי תע"א. שנת הסקר האתית של תעשיה
• AI זה חזק מכדי לשחרר לציבור AI זה חזק מדי לשחרר לציבור

שנית, StarCraft עשוי להיות לא המקום הטוב ביותר לבחון את יכולות האסטרטגיה והתכנון של AI. כפי שציין אנליסט אחד, "StarCraft II הוא משחק שניתן לשבור על ידי שלמות מכנית." המשמעות היא ש- AI יכול לפצות על כישורי האסטרטגיה הירודים שלו במהירות העל-אנושית ובדיוק הכירורגי.

לבסוף, AI והאינטליגנציה האנושית כל כך שונים עד כי ככל הנראה בלתי אפשרי היה ליצור מגרש משחק ישראלי בין השניים. השינויים הקטנים ביותר בחוקים היו נוטים במהירות את המשחק לטובת צד זה או אחר במידה שתגרום לתחרות להיות לא הוגנת.

עלינו לחפש סביבות והגדרות בהן נוכל לשחרר ולבחון את ה- AI למלוא הפוטנציאל שלו במקום להאט אותו במגבלות אנושיות מלאכותיות. מה יכולים בני אדם ו- AI להשיג כאשר הם משתפים פעולה במקום להתחרות?