האנשים בסרטון הזה לא נעצרו. אבל הסרטון ממחיש בעיה שכל מנהל ביטחון, משאבי אנוש ומנכ"ל חייב להכיר.
בסרטון שלמעלה מופיעות דמויותיהם של סם אלטמן, מנכ"ל OpenAI, דאריו אמודיי, מנכ"ל Anthropic, מארק צוקרברג ודונאלד טראמפ ומולם ג'נסן הואנג, כשהם עומדים במסדר זיהוי משטרתי ושרים יחד.
הסיטואציה מגוחכת, התוצאה משעשעת, והסרטון נראה אמין להפליא.
אבל שום מסדר זיהוי כזה לא התרחש. הסרטון נוצר באמצעות בינה מלאכותית כחלק מסאטירה על תעשיית ה-AI.
את הסרטון פרסם ב-X מתיאס שמידט (@eurofounder), ב-16 באוקטובר 2026: https://x.com/eurofounder/status/2111122495667413424
צפיתי בו וחשבתי דווקא על משהו אחר לגמרי: מה קורה כשהיכולת לייצר מציאות משכנעת כל כך פוגשת את עולם המהימנות הארגונית?
עד לא מזמן, תמונה, הקלטת קול ובוודאי שיחת וידאו נחשבו לראיות משמעותיות לכך שאדם מסוים אכן אמר או עשה משהו.
היום ההנחה הזו כבר אינה בטוחה.
אנחנו נכנסים לתקופה שבה לא רק שאפשר לזייף זהות, אלא שאפשר לייצר לאותה זהות התנהגות, קול, הבעות פנים ואינטראקציה שנראות אותנטיות לחלוטין.
וזו כבר לא רק בעיה של הפצת מידע כוזב. זהו סיכון ממשי לביטחון הארגוני.
מאיום חיצוני לאיום פנימי
תחשבו על שלושה תרחישים:
מועמד לתפקיד רגיש עובר ריאיון וידאו באמצעות זהות בדויה, עם פנים, קול ורקע מקצועי שאינם שלו. הארגון משוכנע שגייס אדם מסוים, אבל בפועל מעניק הרשאות וגישה למישהו אחר.
מנהל כספים מקבל שיחת וידאו ממי שנראה ונשמע בדיוק כמו המנכ"ל, עם הוראה דחופה להעביר כסף או מידע רגיש. העובד מבצע את ההוראה בתום לב, והארגון נפגע מבפנים.
וסרטון של עובד המופץ ברשת ומתעד לכאורה התנהגות פלילית, אמירה קיצונית או הדלפת מידע. הארגון ממהר להסיק מסקנות, אף שהאירוע מעולם לא התרחש.
בכל אחד מהמקרים הללו, הטכנולוגיה מאפשרת לגורם חיצוני לנצל את האמון, התהליכים וההרשאות של אנשים בתוך הארגון.
כך איום שמקורו מחוץ לארגון עלול להפוך לאירוע של איום פנימי.
לבדוק את הסיפור, לא רק את הסרטון
וכאן עולה השאלה החשובה באמת:
אם כבר אי אפשר להסתמך על מה שאנחנו רואים ושומעים, על מה כן אפשר להסתמך?
לדעתי, התשובה נמצאת בשינוי שיטת הבדיקה.
במקום לשאול רק אם הסרטון אמיתי, צריך לשאול אם הסיפור שמאחוריו אמיתי.
כאן נכנסת לתמונה חשיבותן של בדיקות רקע ומודיעין ממקורות גלויים (OSINT).
בדיקת OSINT מקצועית אינה מסתפקת בניתוח של תמונה או סרטון בודד. היא בוחנת את ההקשר הרחב ומחברת מידע ממקורות שונים, רצוי עצמאיים, כדי לבנות תמונה מהימנה יותר.
למשל:
1. בדיקת מקור המידע: מי פרסם את הסרטון לראשונה? מתי? האם ניתן לאתר את המקור הראשוני להפצה, ולא רק עשרות שיתופים של אותו תוכן?
2. אימות זהויות: האם האדם שמופיע בסרטון תואם לזהות הדיגיטלית שלו לאורך זמן? האם קיימת היסטוריה מקצועית עקבית, פעילות ברשתות, קשרים ונתונים חיצוניים שמחזקים את זהותו?
3. הצלבת מקורות: האם קיימות ראיות בלתי תלויות לאירוע הנטען? האם התאריכים, המקומות, האנשים והנסיבות מתיישבים עם מידע אחר שניתן לאמת?
4. בחינת דפוסי פעילות: האם יש פער בין התנהגות דיגיטלית מוכרת לבין אירוע חריג? האם הופיעו לאחרונה חשבונות חדשים, שינויים בזהות או ניסיונות מכוונים לייצר מצג שווא?
5. הבנת ההקשר והמניעים האפשריים: מי עומד מאחורי ההפצה, מהי סביבת הפעילות שלו, והאם קיימות אינדיקציות לניסיון להטעות, להשפיע או לפגוע?
חשוב להדגיש: OSINT אינו פתרון קסם. גם מקורות גלויים יכולים להיות מזויפים, מתואמים או מוטעים. והיעדר ממצאים אינו מוכיח שאדם או סרטון הם אותנטיים.
אבל ככל שמצליבים יותר מקורות עצמאיים ובוחנים את רצף האירועים, קשה יותר לבסס הונאה על פריט מידע מזויף אחד.
וזה בדיוק היתרון של בחינת התמונה הגדולה.
מה לשנות בנהלים
לצד הבדיקות המודיעיניות, ארגונים חייבים להתאים גם את הנהלים שלהם: לאמת הוראות חריגות בערוץ תקשורת עצמאי, להפעיל בקרה כפולה על פעולות רגישות, לאמת זהויות בתהליכי גיוס ולהימנע מקבלת החלטות על סמך סרטון בודד.
המשמעות היא שהאחריות להבחין בין אמת לזיוף כבר אינה יכולה להישאר רק בידי העיניים שלנו, או בידי תוכנה שמנסה לזהות Deepfake.
היא מחייבת חשיבה ביקורתית, הצלבת מידע והבנה של ההקשר האנושי, המקצועי והארגוני.
הסרטון שלמעלה נועד להצחיק. והוא באמת מצחיק.
אבל הוא גם ממחיש עד כמה קל יהיה להציג בפנינו מציאות שמעולם לא התקיימה.
בעידן שבו אפשר לזייף כמעט כל מה שאנחנו רואים ושומעים, אמון לא יכול להתבסס על מידת השכנוע של הראיה. הוא חייב להתבסס על היכולת לאמת אותה באמצעות ראיות נוספות.
וזה, בעיניי, אחד השינויים החשובים ביותר שצריכים להתרחש היום בעולם המהימנות והביטחון הארגוני.
הבסיס המקצועי להמלצות
ההמלצות במאמר נשענות על שלושה פרסומים של גופים ממשלתיים בארה"ב:
1. הפרסום המשותף של NSA, FBI ו-CISA (ספטמבר 2023). המסמך Contextualizing Deepfake Threats to Organizations: איומי Deepfake על ארגונים, ודרכים להתכונן, לזהות, להתגונן ולהגיב. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats
2. מסמך NIST AI 100-4 (נובמבר 2024). Reducing Risks Posed by Synthetic Content: סקירה של אימות מקור התוכן, סימון וזיהוי של תוכן סינתטי, ומגבלות הטכנולוגיות האלה. https://www.nist.gov/publications/reducing-risks-posed-synthetic-content-overview-technical-approaches-digital-content
3. תוכנית Guardians of Forensic Evidence של NIST. תוכנית להערכת כלים אוטומטיים לזיהוי Deepfake. לפי NIST, קיים פער בין דיוק גבוה במחקר לבין הקושי ליישם את הכלים בעולם האמיתי. https://www.nist.gov/programs-projects/guardians-forensic-evidence