טכנולוגיה: כיצד לתקן מה לא בסדר בגוגל ופייסבוק

ייתכן שהנושא המפתיע ביותר בטכונומיה השנה היה עד כמה מרצים הדוברים מפייסבוק, גוגל וטוויטר, כאשר הביקורת התמקדה בגישתם לפרטיות ובמיוחד בתפקיד האפשרי שמילאו בהאפשרות פריצה רוסית לבחירות 2016.

מגוון רחב של דוברים דחף להסדרת סוגים שונים של "ענקי האינטרנט" הללו, ואף אחד מאף אחת מהחברות הנ"ל לא היה בכנס כדי לספק נקודת מבט חלופית. זה היה שונה מאוד מכנס השנה שעברה, כאשר מנכ"ל פייסבוק, מארק צוקרברג, אמר כי הרעיון שכתבות חדשות מזויפות בפייסבוק השפיעו על הבחירות היה "רעיון די מטורף."

מאז, כפי שציין מייסד שותף לטכנולוגיה, סימון רוס, למדנו ש"טכנולוגיה מאפשרת לחלק אותנו קל כמו להפגיש אותנו ". מייסד שותף הוועידה דייוויד קירקפטריק (לעיל) קבע את הטון לוועידה, ואמר כי "הטכנולוגיה היא כוח לתמיד, אך רק אם הטוב הוא המטרה שלך" והמשיך ואמר כי הוא מאמין שחברות הטכנולוגיה הגדולות צריכות "יוזמה פרואקטיבית". צומת "עם הממשלה, בין אם זה נקרא רגולציה ובין אם לא.

סמכות בעולם מרושת, אינטליגנטי באופן מלאכותי

המשקיע הידוע רוג'ר מקניין מ- Elevation Partners, משקיע מוקדם בפייסבוק וגם בגוגל, היה אולי השלילי ביותר מבין כל הדוברים. מקניין אמר כי החברות הללו "החלו להציל את העולם", אך זה השתנה כאשר הפרסום הפך למודל העסקי שלהם. הוא אמר כי הסמארטפון, בשילוב עם מידע אישי, איפשר "ליצור רמה של פריצות מוחיות שמעולם לא נראו בעבר בתקשורת."

מקנאמי אמר כי הוא מאמין שצוקרברג היה כנה כשאמר כי הוא לא מאמין פריצה כזו אפשרית לפני שנה, אך אמר כי לא ניתן להפריז בתפקיד שגוגל ופייסבוק ממלאים כעת. הוא העיר, "בטח קשה להיות אותם עכשיו ולהבין שהרסת את התרבות המערבית."

דנה בויד, Data & Society; רוג'ר מקנמה, שותפי Elevation; מארק רוטנברג, מרכז מידע אלקטרוני בנושא פרטיות (EPIC); סטרטפורד שרמן, אקלפי

דיון זה עלה בחלק מהפאנל בנושא "רשות בעולם מרושת, אינטליגנטי באופן מלאכותי" שכלל גם את דנה בויד, מדען חברתי ב- Data & Society ומחקר של מיקרוסופט; מרק רוטנברג, נשיא מרכז המידע האלקטרוני לפרטיות (EPIC); והמנחה סטרטפורד שרמן מאקפולטי. שרמן אמר כי בעוד שפייסבוק וגוגל התחילו כפורומים לנאום פומבי הם "אינם מוסדרים באופן קיצוני". עם AI שיכול להשפיע באופן מהותי על המין האנושי באופק, שרמן אמר שהוא מודאג מההשלכות הבלתי מכוונות של ההתפתחות הטכנולוגית שכבר ראינו.

רוטנברג אמר כי למרות שהוא דואג לחששות הפרטיות המסורתיים בעקבות מעקב ותיאוריה, הוא מודאג באותה מידה מהיעדר תחרות, חוסר חדשנות והסיכון למוסדות דמוקרטיים. הוא אמר שלענקיות האינטרנט יש כוח עצום, והנתונים שיש להם יוצרים מחסום כניסה אמיתי, ולכן אין תחרות משמעותית. רוטנברג אמר שהוא שהה בוושינגטון מאז ממשל רייגן, ובפעם הראשונה, "הבחירות בשנה שעברה לא הרגישו מוכרות."

בפגישה קודמת, בויד, שכתב ספר שנקרא It's Complicated , דיבר על הקושי להתמודד עם מניפולציות באינטרנט.

היא דיברה על תהליך מתגבר של מניפולציה בעשרים השנים האחרונות, שהתחיל בכך שילדים מטילים את אופרה והתקדמו ל"הרשימה "ולדברים כמו שינוי תוצאות החיפוש של השם" סנטורום ". לאחרונה, עם Gamergate, צוות דמויות גדול יותר הפך לשחקנים, כולל שחקני מדינה. בויד אמר כי חברות האינטרנט חושבות שה- AI יכול להגן עליהן, אך הקבוצות שמנסות לתמרן תוצאות כבר מנסות עיבוד טבעי בשפות, והכי חשוב, מתעסקים במקורות נתונים. הזרקת נתונים רעים למערכת, למשל, מהווה בעיניי פגיעות חדשה. עדיין, בויד אמר שהתשובה היחידה תהיה "לבנות נוגדנים טכניים בתעשייה שלנו."

בפגישה זו אמר בויד כי חברות הטכנולוגיה מחשבות מניפולציות בכמה חזיתות וציין כי בעוד שכולם מסתכלים על רוסיה, ישנן מדינות רבות נוספות המנהלות פעולות דומות. לדוגמה, חברות סיניות מנסות להבטיח שהן תשלוטנה ב- AI, והיא אמרה שזה מציב אתגר אחר מכיוון שלא מדובר בתחרות תעשייתית אלא בתחרות עם מדינה.

כשנשאל על ידי שרמן אם זו מלחמה, בויד אמרה שהיא חושבת שכן, בעוד שממקנאה אמרה שמדובר בלוחמת גרילה קלאסית בכך שאויבינו השתמשו בטכנולוגיה שלנו נגדנו. McNamee אמר שהבעיה אינה רשתות חברתיות או חיפוש, אלא מודל הפרסום. הוא אמר בקרב על תשומת לבם של אנשים, החומר נקבר בתחושה וציטט את האמרה הישנה ש"אם הוא מדמם, זה מוביל."

שרמן ציין כי הפחד והכעס הם מגנטיים בהרבה, ולכן הרבה פחות יקרים. הוא אמר שלמרות שהודעות אורגניות שימשו כדי להגיע ליותר מ 125 מיליון איש, מטרת המאמץ הייתה שמודעות יחלקו אנשים לקבוצות על בסיס תחומי עניין משותפים.

רוטנברג אמר שהוא בעד להפוך את האלגוריתמים לשקופים והפרסום מוסדר, אך אמר שעלינו לכבד את זכותם של אנשים לדבר באינטרנט. אולם מקנאמי אמר כי "התיקון הראשון נשק", וכי שטחים מקוונים שונים מהותית מהכיכר הציבורית.

בויד תיארה את מה שהיא מכנה "אפקט הבומרנג", או במילים אחרות, הרעיון לעורר את התקשורת לדווח על דברים שערורייתיים, מכיוון שזה מחזק את המסר המקורי לקטע הקהל שמאמין על התקשורת. כדוגמה, בויד דיבר על פיצאגייט. היא ציינה שלפני האינטרנט התקשורת השתמשה לעתים קרובות ב"שתיקה אסטרטגית "כדי להימנע מכיסוי דברים כמו התאבדויות ועצרות קלן, כדי להימנע מפרסום.

רוטנברג הסכים שחלק גדול מהמסורת הזו של חריצות ופיקוח אבדה, ואמר כי דברים כמו סעיף 230 (שאומר שחברות אינטרנט אינן אחראיות לדברים כמו הודעות של משתמשים) הקשו על התחרות החדשות המסורתיות.

כאשר ביקש פתרונות, מקנאה אמרה כי פייסבוק היא פולחן וכי עליה להפסיק להכחיש את הבעיה ולהתמודד איתה, כמו גם להתחיל לטפל ב"תכנות מחדש "על ידי פנייה לכל אחד מהמשתמשים בה. רוטנברג קידם את רעיון הרגולציה. ובויד הציע שעלינו להשקיע כסף בחברה, "לרשת מחדש" את אמריקה.

חשבון עם הגרמונים החדשים

מארק מחנאי, RBC שוקי הון; דייב מורגן, סימולדיה; ג'ויס ואנס, אוניברסיטת אלבמה; דייוויד קירקפטריק, טקונומיה

בפאנל המוקדם בנושא "שידור חוזר עם ההגמוניסטים החדשים", כמעט כולם הסכימו עם ג'ויס ואנס מאוניברסיטת אלבמה, שאמרה כי הטכנולוגיה אכן הצליחה לעלות על החוק, שצריך נואשות להתעדכן. אולם ואנס הזהיר כי קיים גם הסיכון לתשובות פוליטיות "מחליק".

דייב מורגן, סימולדיה, אמר כי "תהיה רגולציה", אם כי אמר כי יתכן והחברות הגדולות יוכלו למנוע הרבה מההשפעה שלה.

מורגן ציין כי ההיסטוריה של ענף המדיה מספקת הקבלות למה שאנו רואים כעת, שכן עיתונים היו רואים עצמם כחברות דפוס, וחברות שידור מוקדמות רואות עצמן חברות טכנולוגיה. כל אלה מאפשרים יצירת קשר צרכני, וזה ברור מה שעושה גוגל ופייסבוק. המון תיקים בנושא ההגבלים העסקיים התרחשו כתוצאה מכוח תקשורתי מרוכז כל כך, והממשלה הצליחה למלוך אותם. הבדל אחד גדול כיום הוא שהטכנולוגיות האחרות דרשו נקס גיאוגרפי, שחברות האינטרנט אינן צריכות.

ואנס ציין כי הסנאט שוקל כעת הצעת חוק שתחייב את החברות הללו לשמור על היסטוריית הפרסום שלהן, כמו גם להבהיר מי משלם עבור מודעות פוליטיות. אבל מורגן ציין כי מדובר כיום בחברות גלובליות עם טווח הגעה רחב יותר. כשנשאל על תקנות הפרטיות האירופיות ב- GDPR, אמר ואנס כי יתכן שארה"ב הוסיפה מנהיגות לאיחוד האירופי בתחום זה. היא אמרה שהיא לא חושבת שחברות אמריקאיות יוכלו לבצע ציות אחרת באזורים גיאוגרפיים שונים, ולכן כברירת מחדל חברות יצייתו לתקנות האירופיות.

מארק מחנאי מ- RBC שוקי הון אמר כי החברות כבר מסודרות, במיוחד באיחוד האירופי, כאשר גוגל בפרט נבדקת לצורך קבץ או קידומה של שירותיה יחד עם תוצאות החיפוש שלה או עם אנדרואיד. קירקפטריק אמר שהוא חושב שההסדר בנושא ההגבלים העסקיים אכן עזר למיקרוסופט, אך מחייני הודה כי לא הרגולטורים הם שעצרו את מיקרוסופט, אלא תחרות.

האם טק וממשלה יכולים להציל דמוקרטיה?

טים הוואנג, FiscalNote; מיני אינגרסול, קוד לאמריקה; מארק רוטנברג, מרכז מידע אלקטרוני בנושא פרטיות; מולי טרנר, בית הספר למנהל עסקים ברקלי האס; מגזין ג'ון פיין, אינק; לורנס נורדן, בית הספר למשפטים בניו יורק

נושא דומה עלה בשולחן העגול של ארוחת הבוקר, שכותרתו "האם יכול טק וממשלה להציל דמוקרטיה?", בו המנחה ג'ון פיין ממגזין אינק ביקש פתרונות. עם זאת, השולחן העגול לא צץ.

הוואנג אמר שהבעיה אינה פלטפורמות הטכנולוגיה, אלא הכעס שאנשים חשים כתוצאה מניתוק מהכלכלה.

לורנס נורדן, ממרכז ברנן בבית הספר למשפטים בניו יורק, אמר כי חוקים המחייבים גילוי רב יותר במודעות פוליטיות הם תשובה קלה, אך למרבה הצער הבעיה הגדולה היא "פוסטים אפלים" או פוסטים ממקור לא ידוע. מהבחינה הזו, הוא אמר, האינטרנט דומה יותר לכיכר עיירה.

אבל רוטנברג אמר שזה הפוך, והאינטרנט דומה יותר לעיר חברה, שבה הפלטפורמות קובעות את הכללים ומחליטים מה אתה רואה. מיני אינגרסול מ- Code For America שאל אם הבעיה היא הפרעות זרות, או שגוגל שולטת בדברים שאנחנו אומרים. הרגולטורים צריכים להבין טוב יותר את הנושאים, אמרה.

מולי טרנר מבית הספר למנהל עסקים ברקלי האס UC, אמר שהאינטרנט הפך לכלי הביטוי הגדול ביותר, אך חושש שהוא מערער את השיח האזרחי. מצד שני, היא דואגת מהדרישות לפלטפורמות להסרת סוגים מסוימים של מידע (אם חוק הגינות התקשורת למשל היה נחלש, או בגלל סוגים אחרים של רגולציה), מכיוון שלפתע במקרה זה הפלטפורמה הופכת להיות "הפוסק של דיבור."

רוטנברג השיב כי בעוד שחברות הרכב נלחמו פעם בתקנות הבטיחות, בסופו של דבר אלה סייעו להפוך את המכוניות לבטוחות יותר והביאו לחדשנות רבה יותר. סביבה רגולטורית יציבה עשויה למעשה לעזור לפלטפורמות, הוא הציע. רוטנברג ציין כי חברות הטכנולוגיה דחפו "נייטרליות נטו" לחברות טלקומוניקציה, אך לא לעצמם, וקראה למגרש משחק ברמה.

האינטרנט תחת התקפה

מארק אנדרסון, שירות חדשות אסטרטגי; פדר יונגק, BAE מודיעין מערכות ואבטחה; רבקה מקינון, אמריקה החדשה; דייוויד קירקפטריק, טקונומיה

פאנל אחרון בשם "האינטרנט תחת התקפה" המשיך בדיון זה.

רבקה מקינון, המנהלת את פרויקט דירוג הזכויות הדיגיטליות באמריקה החדשה, אמרה שהייתה פעם הנחה שבגלל האינטרנט משטרים סמכותיים יהפכו בסופו של דבר לדמוקרטיות. כעת היא חוששת יותר ממשטרים סמכותיים ודמוקרטיות "ייפגשו באמצע".

מקינון אמר כי משטרים סמכותיים מתאימים את האינטרנט למטרותיהם, בעוד שדמוקרטיות מתמודדות עם פופוליזם, מניפולציה ו"קפיטליזם פיקוח ". אבל, לדבריה, הדמוקרטיות צריכות להיזהר מתגובה רגולטורית - בעוד שהיא מסכימה שיש צורך בשקיפות רבה יותר בכל הקשור לאלגוריתמים ופרטיות, היא חוששת שמערכת צנזורה תקל על הפיצול בחלקים. מזלזול בממשלת החברה.

פדר יונגק, העומד בראש המודיעין והביטחון של BAE Systems, הסכים כי ממשלות מעוניינות להשתמש במערכות כאלה כדי למצוא מתנגדים, ואמר כי רעיון הוא מוצר, וכמו כל מוצר ניתן לדחוף אותו. לשאלה אם מערכות מודעות נשק, הוא אמר "התיבה של פנדורה נפתחה ואנחנו לא יכולים לחזור."

מארק אנדרסון, משירות חדשות אסטרטגי, אמר כי ראינו קו ישר מימי ARPANET, שלא היו רעים עד היום, כאשר אנו רואים יותר ויותר התנהגות זדונית עד היום.

אנדרסון היה ברור במיוחד כשתיאר כיצד סין גונבת קניין רוחני ומשתמשת בו בכדי להוציא חברות מהעסק. והוא הציע כי לפרוץ Equifax יש את כל הסימנים למתקפה שלטונית. בסיכומו של דבר אמר אנדרסון שהוא "לא רואה פיתרון."

יונגק אמר שעלינו להניח שהחבר'ה הרעים נמצאים במערכות שלנו ולעבוד על פתרונות. לדוגמה, הוא אמר שמספר הביטוח הלאומי כבר לא ניתן לבטוח, ולכן אנו במקום זאת נצטרך לפתור blockchain.

בפרויקט דירוג זכויות דיגיטליות, MacKinnon הערכה 22 חברות עולמיות על 35 שאלות על דברים כמו חופש ביטוי, פרטיות וביטחון. היא אמרה ששתי חברות קיבלו "די.ס" וכל השאר נכשלו. היא רוצה לדעת מה חברות עושות עם הנתונים שלך; עם מי הם משתפים את זה; האם הם מבצעים בדיקת נאותות, הערכות אבטחה וממשל לסיכון; והאם הם מגנים על פרטיות וביטחון, תוכן וביטוי. שקיפות אינה מספיקה, אמרה, אלא צעד ראשון הכרחי.

אנדרסון אמר ששקיפות זה דבר טוב, אך לא פיתרון, וציין שמי שרוצה לתפעל מערכת לא צריך לשלם עבור מודעות, אלא יכול להשתמש ב 100, 000 בוט-נט. קירקפטריק הציע אז כי חברות יכולות לאכוף זהות, ובכך להפחית את השימוש בבוטנות.

אך מקינון התנגד כי פעילי זכויות אדם הם הפגיעים ביותר לשימוש במערכות כאלה, מכיוון שאם תאכוף זהות, אף אחד שמתנגד לממשלה סמכותית לא יהיה ברשתות החברתיות.

יונגק תהה מדוע עלינו לאכוף זהות כאשר האתרים כבר יודעים מי אתה ומה אתה הולך לקנות. "אין אנונימיות באינטרנט, זה מזמן נעלם", אמר. ההבדל היחיד הוא כמה זמן לוקח להבין מי אתה.

לסיכום, מקינון אמרה שהיא אופטימית לטווח הארוך מאוד, אבל במשך 100 השנים הבאות, "לא כל כך".

כאשר מקשיבים לכל זה, קל להיות פסימי, או לפחות קטליסטי לגבי כמות הרגולציה הדרושה וההשפעה שיש לה. אבל אני עדיין נוטה להיות אופטימיסט, ולמרות שלדעתי כמות רגולציה נוספת היא סבירה ונחוצה כאחד, אני מאמין שסביר להניח שענקי האינטרנט של ימינו - או כמה שחקנים עתידיים - יעלו תשובות טובות יותר.

מה הסיכוי שאתה ממליץ על PCMag.com?