מה זה בעצם?
טכנולוגיית הזיוף העמוקה (deep fake) מבוססת על חיבור בין המושגים Deep Learning ו-Fake, ומתאר טכנולוגיה מבוססת בינה-מלאכותית המאפשרת לשנות או לעבד את התוכן של תמונות או סרטונים מבלי שניתן יהיה להבחין שהתכנים זויפו. ניתן לייצר באמצעות טכנולוגייה זו שינויים כמו זיוף קול, תמונות סרטוני וידאו ועוד.
איך היא עובדת?
מזינים למחשב מידע אמיתי על הפרסונה אותה רוצים לחקות בעזרת תמונות ,סרטוני וידיאו, קטעי קול.
את מידע זה מזינים לאלגוריתם מבוסס בינה מלאכותית שבעצם ממפה את הדמות וע"י מספר דוגמאות "לומד אותה" ולאחר מכן מעביר מה שהוא למד לדמות אחרת (לדוגמא לקחת פנים של דמות מפורסמת ולשים אותה על פנים של אדם רגיל).
עשה זאת בעצמך:
כיום כבר הוקמו מספר אפליקציות המקלות מאוד על יצירת הdeep fake. דבר המאפשר לא רק לאנשי AI בעלי יכולות קידוד גבוהות לייצר אותם. גם אתם יכולים לנסות להתנסות ביצירת הdeep fake ע"י שימוש באחת האפליקציות לדוגמא: FaceApp, DeepFace Lab.
דוגמאות לשימוש לטובה בטכנולוגיה:
בעזרת הטכנולוגיה ניתן להכין סרטונים מדמי מציאות ברמה מאוד גבוה ובכך אפשר לחסוך עלויות משמעותיות ע"י הוזלת עלויות בניצבים, אנשי הפקה, אנימציה עבור אמנים, עסקים ועוד.
דוגמאות לשימוש לרעה בטכנולוגיה:
כיוון שהטכנולוגיה הגיעה לרמת גבוהה של דיוק ניתן בעזרתה "לחקות" פוליטיקאים ואנשי ציבור. כך ניתן להגדיל את תרבות הfake news שכבר מאוד מתחזקת בעולם לגרום לציבור לקבל מידע שגוי בנוגע לנושאים מדיניים. טכנולוגיה זו יכולה לשנות תוצאות בחירות,להזריע פחד בציבור ועוד.
בנוסף ניתן גם לייצר סרטונים בעלי תוכן מיני לדוגמא כדי לפגוע באנשים מפורסמים.
איך ניתן למנוע:
כיום כבר קיימות טכנולוגיות בעלות יכולות זיהוי האם סרטון עשה בשימוש בdeep fake.
אותן יוכלו בעצם להפעיל על סרטונים בהם חושדים שנעשה שימוש בטככנולוגיה ובכך להבין כי זויפו ולהפריח את אמינותם.
בנוסף צריך להסביר לציבור מה זה בכלל זיוף עמוק וכך בעצם יוכלו להיות חשדנים לאמינותו של הסרטון.
כרגע יש בורות גדולה בנושא והרבה אנשים בכלל לא יודעים על קיומה של הטכנולוגיה אז התפקיד שלנו הוא להפיץ את המידע ולהזהיר מהסיכונים הכרוכים.
אסיים בדוגמא לשימוש בטכנולוגיית הdeep fake לטובה. הפעם הראשונה שאני נחשפתי אליה היה לשימוש קומי בתוכנית america's got talent בה מחקים מפורסמים ואת חברי הפאנל.
https://www.youtube.com/watch?v=mPU0WNUzsBo&t=195s&ab_channel=America%27sGotTalent
