איך הפאזל של גוגל מנסה לסלק רעלים מהאינטרנט

האינטרנט יכול להרגיש כמו מקום רעיל. הטרולים יורדים בקטעי הערות ובחוטי המדיה החברתית במטרה להטיל דיבור ושנאה של הונאה, והופכים דיונים המאירים את עיניהם למתקפות של מודעות הומינמיות ולערימות קבוצתיות. הבעת דעה מקוונת לרוב לא שווה את הוויטריול שנוצר כתוצאה מכך.

פלטפורמות חברתיות מאסיביות - כולל פייסבוק, טוויטר ו- YouTube - מודות שאינן יכולות לבצע משטרה מספקת בנושאים אלה. הם במירוץ נשק עם בוטים, טרולים וכל בלתי רצוי אחר שמחליק דרך מסנני תוכן. בני אדם אינם מסוגלים לקרוא פיזית כל תגובה באינטרנט; מי שמנסה לרוב מתחרט.

ענקיות הטכנולוגיה ניסו שילובים שונים של מתינות אנושית, אלגוריתמים AI ומסננים כדי לדשדש במצוקה של תוכן הזורם בעדכוניהם מדי יום. פאזל מנסה למצוא קרקע אמצעית. חברת הבת וחממת הטכנולוגיה של אלפבית, הידועה בעבר בשם "רעיונות של גוגל", מתחילה להוכיח שלמידת מכונות (ML) המיוצרת לכלים למנחים אנושיים יכולה לשנות את הדרך בה אנו ניגשים לבעיית הרעילות של האינטרנט.

פרספקטיבה היא ממשק API שפותח על ידי Jigsaw וצוות הטכנולוגיה נגד שימוש לרעה נגד גוגל. היא משתמשת ב- ML כדי לאתר התעללות והטרדות ברשת, ומבקרת הערות על סמך ההשפעה הנתפסת שעלולה להיות להם על שיחה במטרה להקל על חייהם של המנחים האנושיים.

פרספקטיבה בין משחקי הצעקות

הטכנולוגיה של הקוד הפתוח הוכרזה לראשונה בשנת 2017, אם כי הפיתוח עליה החל מספר שנים קודם לכן. כמה מהאתרים הראשונים שהתנסו בפרספקטיבה היו פרסומי חדשות כמו הניו יורק טיימס ואתרים כמו ויקיפדיה. אך לאחרונה פרספקטיבה מצאה בית באתרים כמו Reddit ופלטפורמת התגובות Disqus (המשמשת ב- PCMag.com.)

CJ Adams, מנהל המוצר של פרספקטיבה, אמר כי הפרויקט רוצה לבחון כיצד קולותיהם של אנשים מושתקים ברשת. פאזל רצה לחקור כיצד התעללות ממוקדת או אווירה כללית של הטרדה יכולה ליצור אפקט מצמרר, ולהרתיע אנשים עד כדי כך שהם מרגישים שלא שווה את הזמן או האנרגיה להוסיף את קולם לדיון. באיזו תדירות ראית ציוץ, פוסט או תגובה ובחרת שלא להגיב כי להילחם בטרולים ולהפוך את Mad Online פשוט לא שווה את החמרה?

"קל מאוד להרוס שיחה מקוונת", אמר אדמס. "קל לקפוץ פנימה, אבל אדם אחד שהוא ממש מרושע או רעיל יכול להוציא קולות אחרים החוצה. אולי 100 אנשים קוראים מאמר או פותחים דיון, ולעתים קרובות אתה בסופו של דבר שהקולות הכי חזקים בחדר הם היחידים שנותרו, באינטרנט שמותאם במיוחד לייקים ושיתופים. אז אתה סוג של שתיקה של כל הקולות האלה. ואז מה שמגדיר את הוויכוח הוא רק הקול הכי חזק בחדר - השידוך הצעקני."

פאזל וגוגל

זו הייתה שנה קשה עבור חברת האחות של ג'אנג, גוגל, שהתמודדה עם סוגיות אבטחת מידע, דחיפת העובדים במעורבותה בפרויקטים של הפנטגון וסין וגילויים על התמודדותה עם הטרדות מיניות. שלא לדבר על דיון בקונגרס שנוי במחלוקת בו צלו את המנכ"ל סנדר פיצ'אי על ידי מחוקקים.

בפאזל, החממה האלטרואיסטית של אלפבית, הדברים היו קצת פחות דרמטיים. הצוות הקדיש את זמנו לבחינת צורות טכניות יותר של צנזורה, כמו הרעלת DNS באמצעות אפליקציית ה- Intra שלה והתקפות DDoS עם Project Shield. עם פרספקטיבה, המטרה מופשטת יותר. במקום להשתמש במידת מכונה כדי לקבוע מה נוגד או מערך כללים נתון, האתגר של פרספקטיבה הוא נושא סובייקטיבי ביותר: סיווג ההשפעה הרגשית של השפה.

לשם כך אתה זקוק לעיבוד שפה טבעי (NLP), המפרק משפט כדי לאתר דפוסים. צוות הפרספקטיבה מתמודד עם בעיות כמו הטיה לאישור, מחשבה קבוצתית והתנהגות מטרידה בסביבה בה הטכנולוגיה הגבירה את טווח ההגעה שלהם והקשתה עליהם לפתור.



AI הוא 'לא נכון ומטומטם לפעמים'

שיפור שיחות מקוונות עם למידת מכונה אינו משימה פשוטה. זה עדיין תחום מתפתח של מחקר. אלגוריתמים יכולים להיות מוטים, מערכות למידת מכונה דורשות עידון בלתי פוסק והבעיות הקשות והחשובות ביותר עדיין לא נבדקות.

קבוצת המחקר השיחה AI, שיצרה פרספקטיבה, החלה בפגישה עם עיתונים, מוציאים לאור ואתרים אחרים המארחים שיחות. כמה מהאתרים הראשונים שהתנסו בטכנולוגיה היו הניו יורק טיימס , ויקיפדיה, הגרדיאן והאקונומיסט .

בשנת 2017 הצוות פתח את ההדגמה הראשונית של פרספקטיבה באמצעות אתר ציבורי כחלק מבדיקת אלפא, ומאפשרת לאנשים להקליד לאתר מיליוני הערות פוגעות ופוגעות באתר. זה היה כמו הניסוי של טאי צ'אט בוט הכושל הידוע לשמצה של מיקרוסופט, למעט במקום להערים על הבוט לתשובה עם ציוצים גזעניים, פאזל השתמש בבעלי העם המוני-אסוריסטים כנתוני אימונים כדי להאכיל את המודלים שלה, ועזר לזהות ולקטלג סוגים שונים של התעללות ברשת.

ריצת המבחן הציבורית הראשונית לא עברה בצורה חלקה. "הטרולים ברחבי אמריקה" של Wired, ששבר את הרעילות בהערות ברחבי הארץ בהתבסס על ציון פרספקטיבה, הראה כיצד האלגוריתם מפלה בשוגג קבוצות על פי גזע, זהות מגדרית או נטייה מינית.

אדמס היה גלוי לעובדה שהבדיקה הראשונית של פרספקטיבה חשפה כתמים עיוורים מרכזיים והטיה אלגוריתמית. בדומה לכלי הגיוס השורד של אמזון, שהתאמן על עשרות שנים של נתוני עבודה פגומים ופיתח הטיה מובנית כנגד מועמדות, גם בדגמי הפרספקטיבה המוקדמים היו פגמים בולטים בגלל הנתונים שעברו הכשרה.

"בדוגמה של קבוצות ממוקדות לעיתים קרובות, אם אתה מסתכל על ההתפלגות בין התגובות במערך נתוני האימונים, היו מספר הערות נעלמות לא פחות, שכללו את המילה 'הומו' או 'פמיניסטית' והשתמשו בזה באופן חיובי. דרך ", הסביר אדמס. "הערות פוגעות משתמשות במילים כעלבונות. אז ה- ML, כשהוא מסתכל על התבניות, היה אומר, " היי, נוכחותה של מילה זו היא מנבא די טוב לשאלה האם הרגש הזה רעיל או לא."

לדוגמה, אלגוריתם האלפא עשוי לתייג בטעות הצהרות כמו "אני הומו גאה", או "אני פמיניסט וטרנסג'נדר" עם ציוני רעילות גבוהים. אבל תהליך ההדרכה השקוף בפומבי - בעודו כואב - היה לקח פאזל לא יסולא בפז בתוצאות של הטיה לא מכוונת, אמר אדמס.

כאשר הכשרת מודלים ללימוד מכונות על משהו מציק ואישי כמו שימוש לרעה והתנכלויות ברשת, קיומם של הטיה אלגוריתמית גם מדגיש מדוע AI בלבד אינו הפיתרון. חברות חברתיות כמו פייסבוק ויוטיוב הצביעו על שתיהן של תכונות התמתנות AI של הפלטפורמות שלהן רק כדי לעקוב אחר מסלול שערורייה ולתיקון כמובן, על ידי שכירת אלפי מנחים אנושיים.

התיק של פאזל הוא הכלאה של השניים. פרספקטיבה אינה אלגוריתמים של AI שקובעים החלטות בוואקום; ממשק ה- API משולב בממשקי ניהול קהילה והתמתנות התוכן כדי לשמש כלי עזר למנחים אנושיים. מהנדסי פרספקטיבה מתארים מיתון של דיבור שנאה עם ובלי ML באמצעות אנלוגיה של ערמת שחת: AI מסייע באוטומציה של תהליך המיון, בהשבת ערמות שחת עצומות למטה תוך שהם נותנים לבני אדם את האמירה הסופית בשאלה אם הערה נחשבת לפוגענית או הטרדה.

"זו היכולת החדשה הזו של ML, " אמר אדמס. "אנשים מדברים על כמה חכם AI הוא חכם, אבל לעתים קרובות הם לא מדברים על כל הדרכים שזה לא נכון ומטומטם לפעמים. כבר מההתחלה ידענו שזה הולך לעשות הרבה טעויות, ולכן אמרנו, 'זה הכלי מועיל למתינות אנושית בסיוע מכונה, אך הוא אינו מוכן לקבל החלטות אוטומטיות. ' אבל זה יכול לקחת את הבעיית 'מחט בערמת שחת' למצוא את הדיבור הרעיל הזה ולהוריד אותו לקומץ חציר."



מהו ציון רעילות?

ההיבט המחולק ביותר במודלים של פרספקטיבה הוא העמדת מספרים למשתנה סובייקטיבי כמו "רעילות". הדבר הראשון שאדמס ציין הוא כי ציוני פרספקטיבה הם אינדיקציה להסתברות ולא לחומרה. מספרים גבוהים יותר מייצגים סבירות גבוהה יותר שדפוסים בטקסט דומים לדפוסים בתגובות שאנשים תייגו כרעילים.

באשר למה שמשמעותו של "רעיל" בעצם, צוות הפרספקטיבה מגדיר זאת באופן נרחב כ"הערה גסה, לא מכובדת או בלתי הגיונית שעשויה לגרום לך לעזוב דיון. " אבל איך זה בא לידי ביטוי עדין. בשנת 2018, פאזל פעלה בשיתוף עם מעבדת הבינה המלאכותית רודוס (RAIL) לפיתוח דגמי ML שיכולים להעלות צורות דו משמעיות יותר של דיבור מאיים או שנאה, כמו הערה מזלזל, מתנשא או סרקסטי שאינו עוין גלוי.

עד לנקודה זו, מרבית הדגמים של פרספקטיבה הוכשרו על ידי בקשה מאנשים לדרג תגובות באינטרנט בסולם "רעיל מאוד" ל"בריא מאוד ". מפתחים יכולים לאחר מכן לכייל את המודל כדי לסמן תגובות מעל סף מסוים, בין 0.0 ל 1.0. ציון מעל 0.9 מצביע על הסתברות גבוהה לרעילות, וציון של 0.5 ומטה פירושו מידה נמוכה בהרבה של וודאות אלגוריתמית. הפרספקטיבה משתמשת גם במה שמכונה נורמליזציה של ניקוד, מה שמקנה למפתחים קו בסיס עקבי ממנו ניתן לפרש ציונים. אדמס הסביר כי בהתאם לפורום או לאתר, מפתחים יכולים לערבב ולהתאים מודלים. כך שכשקהילה לא מפריחה גסות, ניתן לשקול את התכונה הזו.

אדאמס הראה לי ממשק להדגמת הדגמה המשולב עם ממשק ה- API של פרספקטיבה. בלוח הניהול, לצד האפשרויות למיין הערות לפי הדף, החדש ביותר וכן הלאה, נמצא אייקון דגל קטן למיון לפי רעילות. יש גם מנגנון משוב מובנה עבור המנחה האנושי כדי לספר לפרספקטיבה שהוא קלע תגובה שגויה ולשפר את הדגם לאורך זמן.

הוא לחץ דרך ממשק הדגמה לצורך ניהול התגובות בדף השיחה בוויקיפדיה שהובקעו על ידי דגמים שונים של פרספקטיבה, וגרף היסטוגרמה המפרט את התגובות העשויות להיות התקפה על מחבר העמודים או התקפה על מגיב אחר.

אדאמס אמרה כי "אנו רוצים לבנות כלי ניהול מתונים בסיוע מכונות כדי לסמן דברים שאדם יכול לבחון, אך איננו רוצים שאיזו הגדרה מרכזית או שמישהו יגיד מה טוב ורע". "אז אם אני ממיין לפי רעילות, אתה רואה שהערות מתכוונות לפסגה. אבל אם אכפת לך יותר, נניח, התקפות זהות או איומים מאשר מדדים כמו השבעה, אולי לא היית משתמש במודל רעילות כללי. אלה רכיבים שתוכלו לערבב. אנו מציעים אלה ומפתחים משקל אותם."

הניסוי RAIL נוקט בגישה גרעינית יותר. הסטודנטים באוניברסיטת אוקספורד בונים מערך נתונים של עשרות אלפי תגובות ממדור התשובות של גלובוס ומייל של העיתון הקנדי ומדפי השיחה בוויקיפדיה. הם מבקשים מ"ספרים "אנושיים לענות על שאלות על כל תגובה שקשורה לחמש תכונות משנה של" תוכן לא בריא ": הכללות עוינות או מעליבות (טרולים), מזלזל, מתנשא או מתנשא, הכלאות סרקסטיות ולא הוגנות.

שילוב בתכונות העדינות יותר הללו חשף בעיות מורכבות חדשות עם הטיה בלתי מכוונת כלפי קבוצות ספציפיות ותגובות שווא עם הערות סרקסטיות. זה חלק מכאבי הגידול של AI, ומזינים דגמים יותר ויותר נתונים שיעזרו לו להבין את המשמעויות העקיפות הנמצאות מאחורי הדיבור האנושי. הצוות עדיין מסרק את אלפי התגובות והביאוריו, והוא מתכנן לשחרר את מערך הנתונים הסופי בתחילת השנה.

אדמס אמר כי "מה שאנחנו רוצים לעבוד למען זה הקהילה יכולה להצביע על מערך הערות, ואז נוכל להפוך אותם לתערובת מותאמת אישית של דגמי פרספקטיבה שתתאים".



ערכת המבחן הסקרנית של רדיט

Reddit הוא מיקרוקוסמוס של כל מה שטוב ונורא באינטרנט. יש קהילה subreddit לכל נושא וכל נישה, עניין מוזר שאתה יכול לחשוב עליו. פאזל לא עובד עם Reddit ברמה הארגונית, אבל אחד המקומות המסקרנים ביותר שבהם נבדקת מתינות ה- AI של פרספקטיבה הוא על subreddit שנקרא r / changemyview.

למרבה ההפתעה, יש פינות באינטרנט בהן עדיין מתקיימים דיונים ודיונים אמיתיים. שינוי התצוגה שלי, או CMV, אינו דומה לרוב התוספות האחרות. הרעיון הוא לפרסם דעה שאתה מקבל, עלול להיות פגום או פתוח לשינויים, ואז להאזין ולהבין נקודות מבט אחרות כדי לראות אם הם יכולים לשנות את דעתך בעניין. האשכולות נעים בין נושאים ארציים כמו סדר הצפייה הנכון בסרטי מלחמת הכוכבים ועד דיונים רציניים בנושאים הכוללים גזענות, פוליטיקה, שליטת אקדחים ודת.

Change My View הוא נקודת מבחן מעניינת עבור פרספקטיבה מכיוון של- subreddit יש מערכת כללים מפורטת משלה לפתיחה וניהול של שיחות המסיתים ויכוח ודיון סוער על ידי עיצוב. קל טרנבול, שעובר על ידי / Snorrrlax ב- Reddit, הוא המייסד ואחד ממנחי ה- r / changemyview. טרנבול אמר ל- PCMag כי ממשק ה- API של פרספקטיבה מתיישר במיוחד עם כלל 2 של המשנה, האוסר בעיקרון דיבור גס או עוין.

"זה נשמע כמו כלל פשוט, אבל יש בזה הרבה ניואנסים", אמר טרנבול, שבסיסו בסקוטלנד. "קשה להפוך את הכלל לאוטומטי בלי להתחכם בשפה. Reddit נותן לך את הדבר הזה שנקרא AutoModerator, שבו אתה יכול להגדיר פילטרים ומילות מפתח לסימון. אבל יש כל כך הרבה חיובי שווא וזה יכול להיות די קשה לתפוס, כי מישהו יכול לומר מילה רעה בלי להעליב מישהו, והם גם יכולים להעליב מישהו בלי להשתמש במילים רעות."

פאזל הושיט את ידו לטרנבול במארס 2018. שיתוף הפעולה החל עם כלל 2, אך עד מהרה הצוות בנה דגמי פרספקטיבה גם לכללים אחרים. זה לא שילוב מלא של ממשק ה- API של קוד פתוח פרספקטיבה אלא בוט Reddit המאפשר למנחים לסמן הערות שהושגו מעל סף רעילות נתון.

בשש השנים האחרונות טרנבול ושאר המצבים עושים את כל זה באופן ידני מהתור של דוחות AutoModerator (מילות מפתח מסומנות) ודוחות משתמשים. פאזל השתמשה בשנים של הערות על הפרת כללים ממנחים, אותם עקבו באמצעות סיומת דפדפן, ובנו מודלים של פרספקטיבה על בסיס נתונים אלה בשילוב עם כמה מדגמי הרעילות הקיימים של פרספקטיבה. במהלך כל שנת 2018, מצבי ה- CMV נתנו משוב בנושאים כמו עודף חיוביות שגויות, ופאזל צייץ את ספי הניקוד תוך המשך לעצב יותר מכללים של CMV.



פסקי דין מורכבים בדיונים מקוונים

(הבוט הפרספקטיבי משולב בממשק המנחה Reddit.)

הפרספקטיבה אינה חיה עבור כל מתינות הכלל של subreddit. חלק מהכללים המסובכים או המופשטים הם עדיין מחוץ לתחום של מה מסוג זה יכול להבין.

כלל 4, למשל, שולט במערכת נקודות הדלתא של המשנה, ואילו כלל ב 'מונע ממשתמשים לשחק את סנגור השטן או להשתמש בתפקיד ל"ספיגת סבון ". מתינות מתוחכמת כזאת מחייבת נתונים קונטקסטואליים והבנה אנושית לא פשוטה, כדי להבחין אם מישהו טוען נקודה מסיבות אמיתיות או פשוט לטרול.

בעתיד הנראה לעין, עדיין נצטרך מצבים אנושיים. תרחישי השיפוט המורכבים יותר הם היכן שמנחי ה- CMV מתחילות לראות סדקים במודלים AI, ואוטומציה חכמה יותר יכולה לקבוע אם כל זה ניתן להרחבה.

"אני חושב שהסיבה שזה כל כך מסובך היא מכיוון שזה שילוב של השיפוט שלנו לגבי הפוסט המקורי שלהם והאינטראקציות שלהם לאורך השיחה כולה. אז זו לא רק תגובה אחת שמפעילה דוגמנית, " אמרה טרנבול. "אם ויכוח הולך קדימה ואחורה, ובסופו הוא הערה שאומרת 'תודה' או הכרה, נשחרר את זה גם אם כלל נשבר קודם לכן בחוט. או בדיחה קלת לב שבהקשר אולי נראה גס רוח - זה דבר אנושי קטן ונחמד, וזה משהו שהבוט עדיין לא מקבל."

Change My View הוא subreddit היחיד המשתמש באופן פעיל בדגמי ML של פרספקטיבה לצורך התמתנות כרגע, למרות שאדמס אמר כי הצוות קיבל בקשות גישה מכמה אחרים. מערך הכללים הספציפי של CMV הפך אותו למקרה מבחן אידיאלי, אך דגמי פרספקטיבה ניתנים לניתוח; Subreddits בודדים יכולים להתאים אישית את אלגוריתם הניקוד כך שיתאים להנחיות הקהילה שלהם.

השלב הבא של טרנבול הוא הסרת CMV מ Reddit מכיוון שהקהילה מגדילה את זה, אמר. במשך ששת החודשים האחרונים, ההפעלה החדשה שהוקמה על ידי המנחים עובדת עם Jigsaw באתר ייעודי עם פונקציונליות עמוקה יותר מכפי שממשק המודעות והבוטים של Reddit יכולים לספק.

הפרויקט עדיין נמצא רק בבדיקת אלפא, אך טרנבול דיבר על תכונות כמו התראות יזומות כאשר משתמש מקליד תגובה שעשויה להפר כלל, דיווח מובנה בכדי לתת למנחים הקשר יותר ונתונים היסטוריים לקבל החלטות. טרנבול הדגיש כי אין שום כוונה לסגור או להעביר את ה- subreddit, אך הוא נרגש מהניסוי החדש.

• כל ההערות מתאימות להדפסה

  תלוי ביום השבוע, אתר הניו יורק טיימס מגיע לכל מקום בין 12, 000 ליותר מ 18, 000 תגובות. עד אמצע 2017, מנהלי ההערות של העיתון הונחו על ידי צוות ניהול קהילתי במשרה מלאה שקרא כל תגובה והוחלט אם לאשר או לדחות אותה.

  Bassey Etim, שעד החודש היה עורך הקהילה של ה"טיימס " , שהה עשור בדלפק הקהילה והיה עורך שלו מאז 2014. בשיאו של יום חול עשויים לצוות כמה אנשים להנחות הערות על סיפורי דעות בעוד אחרים טיפל סיפורי חדשות. גיליון אלקטרוני התפצל ומעקב אחר תחומי אחריות שונים, אך הצוות של כתריסר אנשים הוקצה ללא הרף מחדש או הועבר סביבו, תלוי בחדשות החדשות ברגע זה. הם גם האכילו קטעים מההערות בחזרה לכתבים על מספוא פוטנציאלי.

  בסופו של דבר התברר שמדובר ביותר מ- 12 בני אדם שיכולים להתמודד. קטעי התגובות על סיפורים יצטרכו להיסגר לאחר שהגיע למספר מרבי של תגובות שהצוות יכול למתן.

  קבוצת פיתוח הקהל של העיתון כבר ניסתה למידת מכונות לצורך אישורי הערות בסיסיים וברורים, אך אתיים אמר שזה לא חכם במיוחד או ניתן להתאמה אישית. ה"טיימס " הכריז לראשונה על שותפותו עם פאזל בספטמבר 2016. מאז, קטעי התגובות שלו התרחבו מהופעתם על פחות מעשרה אחוזים מכל הסיפורים לסביבות 30 אחוז כיום ועולים.

  מנקודת מבטו של פאזל, החממה ראתה את ההזדמנות להזין נתונים אנונימיים של פרספקטיבה ממיליוני תגובות ליום, בהנחיית אנשי מקצוע שיכולים לעזור לחדד את התהליך. בתמורה לנתוני האימונים של ה- ML האנונימיות, Jigsaw ו- Times פעלו יחד לבניית פלטפורמה בשם Moderator, שהתגלגלה ביוני 2017.



בתוך מנחה, ממשק התגובות של NYT

(תמונה באדיבות הניו יורק טיימס )

המנחה משלבת את המודלים של פרספקטיבה עם יותר מ 16 מיליון תגובות אנונימיות ומנוהרות של טיימס שחזרו לשנת 2007.

מה שצוות הקהילה רואה בפועל בממשק המנחה הוא לוח מחוונים עם תרשים היסטוגרפי אינטראקטיבי המדמה את פירוט התגובות מעל סף מסוים. הם יכולים לגרור את המחוון קדימה ואחורה, למשל, כדי לאשר אוטומטית את כל התגובות עם ציון סיכום של 0 עד 20 אחוזים, המבוסס על שילוב של פוטנציאל התגובה לגסותנות, רעילות וסבירות להידחות. להלן לחצני מתינות מהירים כדי לאשר או לדחות תגובה, לדחות אותה או לתייג את ההערה, כדי להמשיך ולשפר את הדוגמניות של פרספקטיבה.

"לכל אחד מהקטעים באתר ניתחנו הערות נכנסות ואת הדרך בה פרספקטיבה תייג אותן. השתמשנו הן במודלים של פרספקטיבה ציבורית והן במודלים שלנו הייחודיים לניו יורק טיימס ", אמר אתים. "הייתי מנתח הערות מכל קטע ומנסה למצוא את נקודת הניתוק בה נוח לנו לומר 'אוקיי, כל מה שמסביר להסתברות זו באמצעות תגיות רעילות ספציפיות אלו, כמו גסויות למשל, אנחנו הולכים לאשר."

למידת מכונה מאשרת אחוז קטן יחסית של הערות (בערך 25 אחוז לערך, כך אמר אטים) שכן הטיימס פועל לפרוס הערות על סיפורים נוספים ובסופו של דבר אפילו להתאים אישית את האופן שבו הדגמים מסננים ואושרים הערות עבור חלקים שונים באתר. הדגמים מאשרים רק הערות; הדחייה עדיין מטופלת כולה על ידי מנחים אנושיים.

קיצוצי התגובות הידניות נעלמו. הערות בדרך כלל נסגרות על סיפור 24 שעות לאחר פרסוםו באופן מקוון או יום אחרי פרסומו בדפוס, אמר אתים.

'אנחנו לא מחליפים אותך במכונות'

השלב הבא הוא בניית תכונות נוספות למערכת כדי לעזור למנחים לתעדף אילו הערות להסתכל בהתחלה. יותר ויותר, אוטומציה של מה שהיה תמיד תהליך ידני, אפשר למנחים לבלות זמן באופן יזום בעבודה עם עיתונאים כדי לענות לתגובות. זה נוצר לולאת משוב שבה הערות מובילות לדיווחי מעקב וסיפורים נוספים - יכולים לחסוך ולהקצות מחדש משאבים ליצירת עיתונאות רבה יותר.

אטים אמר כי "המנחה והפרספקטיבה גרמו לטיימס להיות הרבה יותר מגיבים לדאגות הקוראים, מכיוון שיש לנו את המשאבים לעשות זאת, בין אם זה על ידי כתיבת סיפורים בעצמנו או עבודה עם כתבים כדי להבין סיפורים". "הדבר המגניב בפרויקט הזה הוא שלא הפטרנו אף אחד. אנחנו לא מחליפים אותך במכונות. אנחנו פשוט משתמשים בבני האדם שיש לנו בצורה יעילה יותר ולקבל את ההחלטות הקשות באמת."

העיתון פתוח לעבודה עם פרסומים אחרים כדי לעזור לשאר הענפים ליישם טכנולוגיה מסוג זה. זה יכול לעזור לכלי חדשות מקומיים עם משאבים מוגבלים לתחזק קטעי תגובה ללא צוות ייעודי גדול ולהשתמש בתגובות כמו שעושה הטיימס , כדי למצוא לידים פוטנציאליים ולדלק עיתונאות של גורמים אדמתיים.

אתים השווה את המתינות בסיוע AI לנותן לחקלאי מחרשה מכנית לעומת אסלה. אתה יכול לבצע את העבודה הרבה יותר טוב עם מחרשה.

"אם פרספקטיבה יכולה להתפתח בצורה הנכונה, היא יכולה, בתקווה, ליצור לפחות מערך של הנחיות שניתנות להחזרה עבור חנויות קטנות, " אמר. "זה משחק ארוך, אבל כבר הקמנו הרבה מהבסיס כדי להיות חלק מחוויית הקוראים ההיא. אולי אולי העיתונים המקומיים האלה יוכלו לקבל הערות ולהקים ראש חוף קטן מול השחקנים החברתיים הגדולים."



צועק אל התהום

בשלב זה, רובנו ראינו אנשים שהותקפו או הוטרדו על המדיה החברתית על כך שהביעו דעה. אף אחד לא רוצה שזה יקרה להם, למעט טרולים שמשגשגים מסוג זה. ולמדנו שלצעקות על אדם שלעולם לא הולך להקשיב לוויכוח רציונאלי זה לא שימוש יקר בזמננו.

הפרספקטיבה מנסה לשפר את הדינמיקה הזו, אך CJ אדמס אמר כי המטרה הרחבה יותר היא לפרסם נתונים, מחקר ומודלים חדשים של קוד פתוח, כדי ליצור מבני שיחה חדשים - משימה מפחידה. הפיכת האינטרנט למקום בריא ששווה את זמנם של אנשים פירושו להאריך את המערכות הללו מעבר לקטעי חדשות וסרדידידי חדשות. בסופו של דבר, כלי ה- AI צריכים להיות מסוגלים להתמודד עם האפליקציות והרשתות החברתיות הגדולות השולטות באינטראקציות הדיגיטליות היומיומיות שלנו.

אם לשים את מה שפייסבוק, טוויטר וענקים חברתיים אחרים עושים באופן פנימי, הדרך הישירה ביותר להשיג זאת היא לדחוף את הטכנולוגיה ממנחים למשתמשים עצמם. אדמס הצביע על פרויקט האלמוגים כדי לקבל מושג כיצד זה יכול להיראות.

פרויקט האלמוגים הוקם בתחילה כשיתוף פעולה בין קרן מוזילה, הניו יורק טיימס והוושינגטון פוסט. קורל בונה כלים עם קוד פתוח כמו פלטפורמת ה- Talk שלה כדי לעודד דיון מקוון ולתת לאתרי חדשות אלטרנטיבה לסגירת קטעי תגובה. שיחה מעניקה כעת פלטפורמות לכמעט 50 מפרסמים מקוונים, כולל הפוסט , מגזין ניו יורק, וול סטריט ג'ורנל ו- Intercept.

מוקדם יותר החודש רכשה ווקס מדיה את פרויקט האלמוגים מקרן מוזילה; היא מתכננת "לשלב אותה עמוק" בפזמון, בפלטפורמת ניהול התוכן והסיפור שלה.

לפרספקטיבה יש תוסף עבור פרויקט האלמוגים שמשתמש באותה טכנולוגיה בסיסית - ציון רעילות מבוסס סמים ו ML - כדי לתת למשתמשים הצעות פרואקטיביות בעת ההקלדה, אמר אדאמס. לכן כאשר משתמש כותב תגובה הכוללת ביטויים המסומנים כהתעללות או הטרדה, הודעה עשויה להופיע עבור המשתמש באומרו "לפני שתפרסם את זה, הקפד לזכור את הנחיות הקהילה שלנו" או "השפה בתגובה זו עשויה להפר את שלנו הנחיות הקהילה. צוות ההנחיות שלנו יבדוק אותו בקרוב."

אדאמס הוסיפה כי "הדחף הקטן הזה יכול לעזור לאנשים פשוט לקחת את השנייה הזו לחשוב, אבל זה גם לא חוסם אף אחד." "זה לא מפסיק את הדיון."

זה מנגנון ששילוב צ'אט ומשחקי וידאו פלטפורמות סטרימינג שילבו כדי לגדול התעללות והטרדות. משתמשי טוויטר עשויים להפיק תועלת גם ממערכת כזו.

זה מדבר לרעיון שמדען מחקר ה- MIT אנדרו ליפמן העלה בגיליון העתיד של PCMag: הוא דיבר על מנגנונים מובנים שיאפשרו לאנשים לעצור ולחשוב לפני שהם ישתפו משהו ברשת, כדי לסייע בהתפשטות המידע השגוי. הרעיון חל גם על דיון מקוון. יצרנו מערכות תקשורת נטולות חיכוך המסוגלות להגביר את טווח ההגעה של האמירה באופן אקספוננציאלי ברגע, אבל לפעמים קצת חיכוך יכול להיות דבר טוב, אמר ליפמן.

פרספקטיבה לא נוגעת לשימוש ב- AI כפתרון שמיכה. זוהי דרך לעצב דגמי ML לכלי עבודה לבני אדם שיעזרו להם לאצור את החוויות שלהם. אולם נקודה נגדית אחת היא שאם תקל על אנשים עוד יותר לכוונן את הרעש המקוון שהם לא אוהבים, האינטרנט יהפוך אפילו יותר לחדר הד ממה שהוא כבר.

כשנשאל האם כלים כמו פרספקטיבה יכולים בסופו של דבר להחמיר את זה, אמר אדמס כי הוא מאמין כי תאי הד מקוונים קיימים מכיוון שאין מנגנונים לארח דיון בו אנשים יכולים לחלוק באופן משמעותי.

"הדרך של הכי פחות התנגדות היא 'האנשים האלה נלחמים. בואו פשוט נתנו להם להסכים עם עצמם בפינות שלהם. בואו לאנשים לסמס את עצמם', " אמר. "אתה נותן לאנשים לצעוק את כולם מחוץ לחדר, או שתסגור את הדיון. אנחנו רוצים שפרספקטיבה תיצור אפשרות שלישית."

אדמס הציב תרחיש לדוגמא. אם תשאלו חדר של אלף איש, "כמה מכם קראו היום משהו שאכפת לך באמת?" רוב משתמשי האינטרנט יצביעו על מאמר, ציוץ, פוסט או משהו שקראו באינטרנט. אבל אם תשאל אותם, "כמה מכם חשבו ששווה את זמנך להגיב עליו או לקיים דיון?" כל הידיים בחדר יירדו.

"עבור כל כך הרבה מאיתנו זה פשוט לא שווה את המאמץ. מבנה הדיון שיש לנו כרגע רק פירושו שהוא חבות. אם יש לך מחשבה סבירה עדכנית או משהו שאתה רוצה לחלוק, עבור רוב האנשים, הם לא ' אני לא רוצה לקחת חלק, "אמר אדמס. "זה אומר שמאלף האנשים האלה שיכולים להיות בחדר, יש לך רק קומץ המיוצג בדיון; נניח, 10 אנשים. יש לי אמונה עמוקה שנוכל לבנות מבנה שמאפשר לאותם 990 האחרים לחזור לדיון. ועושה את זה באופן שהם מוצאים שווה את זמנם."