האם משהו יכול להגן עלינו מפני זיופים עמוקים? | בן דיקסון

בסוף 2017 דיווחה האם על טכנולוגיית AI שיכולה להחליף פרצופים בסרטונים. באותה תקופה, הטכנולוגיה - שנקראה לימים זיופים עמוקים - הניבה תוצאות גסות ומגורענות, והיא שימשה בעיקר ליצירת סרטוני פורנו מזויפים הכוללים ידוענים ופוליטיקאים.

שנתיים לאחר מכן הטכנולוגיה התקדמה מאוד וקשה יותר לגלות אותה בעין בלתי מזוינת. לצד חדשות מזויפות, סרטונים מזויפים הפכו לדאגה לביטחון לאומי, במיוחד ככל שבחירות לנשיאות 2020 מתקרבות.

מאז הופיעו זיופים עמוקים, מספר ארגונים וחברות פיתחו טכנולוגיות לאיתור סרטונים מפונקים של AI. אבל יש חשש שיום אחד לא ניתן יהיה לזהות את טכנולוגיית הזיופים העמוקים.

חוקרים מאוניברסיטת סורי פיתחו פיתרון שעשוי לפתור את הבעיה: במקום לגלות מה לא נכון, זה יוכיח מה נכון. מתוכנן להיות מוצג בכנס הקרוב לחזון מחשב וזיהוי תבניות (CVPR), הטכנולוגיה, המכונה ארכנגלנג, משתמשת ב- AI ובבלוקצ'יין כדי ליצור ולרשום טביעת אצבע דיגיטלית המוכחת בפני חלונות לסרטונים אותנטיים. ניתן להשתמש בטביעת האצבע כנקודת ציון לאימות תקפות המדיה המופצת ברשת או משודרת בטלוויזיה.

באמצעות AI כדי לחתום על סרטונים

הדרך הקלאסית להוכיח את האותנטיות של מסמך בינארי היא להשתמש בחתימה דיגיטלית. מפרסמים מנהלים את המסמך שלהם באמצעות אלגוריתם קריפטוגרפי כמו SHA256, MD5 או Blowfish, המייצר "hash", מחרוזת בתים קצרה המייצגת את תוכן הקובץ והופכת לחתימה הדיגיטלית שלו. הפעלת אותו קובץ דרך אלגוריתם ה- hashing בכל עת תביא לאותו hash אם תוכנו לא השתנה.

ההאש רגישים יתר על המידה לשינויים במבנה הבינארי של קובץ המקור. כשאתה משנה בייט בודד בקובץ החשיפה ומריץ אותו שוב דרך האלגוריתם, הוא מניב תוצאה שונה לחלוטין.

אך בעוד שחשש פועל היטב עבור קבצי טקסט ויישומים, הם מציגים אתגרים לסרטונים שניתן לאחסן בפורמטים שונים, כך אומר ג'ון קולומוס, פרופסור לראיית מחשבים באוניברסיטת סורי ומוביל פרויקט עבור ארכנגל.

"רצינו שהחתימה תהיה זהה ללא קשר לקודק שאיתו הסרטון דוחס", אומר קולומוס. "אם אקח את הווידאו שלי ואמיר אותו, נגיד, MPEG-2 ל- MPEG-4, הקובץ הזה יהיה באורך שונה לחלוטין, והקטעים ישתנו לחלוטין, מה שייצר hash אחר. מה שהיינו צריכים היה אלגוריתם hashing מודע לתוכן."

כדי לפתור בעיה זו, קולומוס ועמיתיו פיתחו רשת עצבית עמוקה שרגישה לתכנים הכלולים בסרטון. רשתות עצביות עמוקות הן סוג של בניית AI המפתחת את התנהגותה באמצעות ניתוח של כמויות אדירות של דוגמאות. באופן מעניין, רשתות עצביות הן גם הטכנולוגיה העומדת בלב העייפות.

בעת יצירת שקפות עמוק, המפתח מאכיל את הרשת בתמונות של פני הנושא. הרשת העצבית לומדת את תכונות הפנים ובאמצעות אימונים מספיק הופכת להיות מסוגלת למצוא ולהחליף פרצופים בסרטונים אחרים עם פניו של הנבדק.

הרשת העצבית של ארצ'נגל מאומנת בסרטון הווידאו שלה. "הרשת בוחנת את תוכן הסרטון ולא את החלקים הבסיסיים שלו ואת הבתים", אומר קולומוס.

לאחר אימון, כשאתה מפעיל סרטון חדש דרך הרשת, הוא יאמת אותו כאשר הוא מכיל תוכן זהה לסרטון המקור ללא קשר לפורמט שלו והוא ידחה אותו כשמדובר בסרטון אחר או טופל בו או נערך.

לטענת קולומוס, הטכנולוגיה יכולה לגלות הן חבלה מרחבית והן זמנית. חיבורים מרחביים הם שינויים שבוצעו במסגרות אינדיבידואליות, כגון עריכות מחליפות פנים שנעשות בזיופים עמוקים.

אבל זיופים עמוקים הם לא הדרך היחידה שבה ניתן להתמודד עם סרטונים. פחות דנים אך מסוכנים באותה מידה הם שינויים מכוונים שנעשים ברצף המסגרות ובמהירות הסרטון ומשך הזמן. הקליפ שהתקיים לאחרונה ומופץ נרחב של יו"ר הבית, ננסי פלוסי, לא השתמש בפייקים עמוקים אלא נוצר באמצעות שימוש זהיר בטכניקות עריכה פשוטות שגרמו לה להיראות מבולבל.

"אחת מצורות ההתעסקות שאנו יכולים לזהות היא הסרת קטעים קצרים של הווידיאו. אלה טמפררים זמניים. ואנחנו יכולים לגלות עד שלוש שניות של חבלה. אז אם הסרטון אורך כמה שעות ואתה פשוט מסיר שלוש שניות מהסרטון הזה, אנו יכולים לגלות זאת ", אומר קולומוס והוסיף כי ארכנג'ליל יאתר גם שינויים שנעשו במהירות הסרטון המקורי, כפי שנעשה בסרטון פלוסי.

רישום טביעת האצבע ב- Blockchain

המרכיב השני בפרויקט ארכנגל הוא blockchain, מסד נתונים מוגן לחבלה בו ניתן לאחסן מידע חדש אך לא לשנות אותו - אידיאלי לארכיוני וידיאו שלא מבצעים שינויים בסרטונים לאחר שנרשמו.

טכנולוגיית Blockchain עומדת בבסיס מטבעות דיגיטליים כמו ביטקוין ואתר. זהו ספר דיגיטלי שמתוחזק על ידי כמה גורמים עצמאיים. על רוב המפלגות להסכים על שינויים שנעשו ב- blockchain, מה שמאפשר לאף מפלגה אחת להתערב באופן חד צדדי עם הספירה.

ניתן מבחינה טכנית לתקוף ולשנות את התוכן של blockchain אם יותר מ- 50 אחוז ממשתתפיו משתלבים. אך בפועל, זה קשה ביותר, במיוחד כאשר הבלוקצ'יין מתוחזק על ידי גורמים עצמאיים רבים עם מטרות ואינטרסים משתנים.

הבלוקצ'יין של ארצ'נגל שונה במקצת מהבלוקצ'יין הציבורי. ראשית, היא אינה מייצרת cryptocurrency ומאחסנת רק את המזהה, את טביעת האצבע המודעת לתוכן ואת החשיש הבינארי של הרשת העצבית המאמתת עבור כל סרטון בארכיון (מחזיקי חסימות אינם מתאימים לאחסון כמויות גדולות של נתונים, וזו הסיבה הסרטון עצמו והרשת העצבית מאוחסנים מחוץ לשרשרת).

כמו כן, מדובר ב- blockchain מורשה או "פרטי". המשמעות היא שבניגוד לבלוקצ'יין ביטקוין, בו כל אחד יכול לרשום עסקאות חדשות, רק גורמים מורשים יכולים לאחסן רשומות חדשות ב- blockchain של ארכנגל.

ארצ'נגל נחקר כרגע על ידי רשת ארכיונים ממשלתיים לאומיים מבריטניה, אסטוניה, נורבגיה, אוסטרליה וארה"ב: כדי לאחסן מידע חדש, כל מדינה שמעורבת צריכה להחליף את התוספת. אך בעוד שרק בארכיונים הלאומיים של המדינות המשתתפות יש את הזכות להוסיף רשומות, לכל השאר יש גישה לקריאה ב- blockchain ויכולים להשתמש בו כדי לאמת סרטונים אחרים כנגד הארכיון.

• ניצול למידת AI ומכונה, זיופים עמוקים, עכשיו קשה יותר לזהות AI ולנצל למידה במכונה, זיופים עמוקים, עכשיו קשה יותר לגלות
• קטעי וידאו עמוקים הם כאן, ואנחנו לא מוכנים סרטי וידאו עמוקים הם כאן, ואנחנו לא מוכנים
• AI החדש של אדובי מזהה פרצופים פוטושופיים AI החדש של אדובי מזהה פרצופים פוטושופיים

"זהו יישום של blockchain לטובת הציבור", אומר קולומוס. "לדעתי, השימוש הסביר היחיד בבלוקצ'יין הוא כאשר יש לך ארגונים עצמאיים שלא בהכרח סומכים זה על זה, אך יש להם אינטרס זה למטרה קולקטיבית זו של אמון הדדי. ומה שאנחנו מחפשים לעשות זה לאבטח את הארכיונים הלאומיים של הממשל בכל רחבי העולם, כך שנוכל להחתים את שלמותם באמצעות טכנולוגיה זו."

מכיוון שיצירת סרטונים מזויפים הופכת לקלה, מהירה ונגישה יותר, כולם יזדקקו לכל העזרה שהם יכולים לקבל כדי להבטיח את שלמותם של ארכיוני הווידיאו שלהם - במיוחד ממשלות.

"אני חושב שקיימות עמוק הן כמעט כמו מירוץ חימוש, " אומר קולומוס. "מכיוון שאנשים מייצרים זיופים עמוקים יותר ויותר משכנעים, ויום אחד יתכן ויהיה בלתי אפשרי לגלות אותם. זו הסיבה שהכי טוב שאתה יכול לעשות הוא לנסות להוכיח את מקורו של סרטון."