מצאתי משחק קטן בשם Slopcheck ששווה להקדיש לו כמה דקות. הרעיון פשוט: בכל יום מוצגות שש תמונות, ואנחנו צריכים להחליט אם מדובר בתמונה אמיתית או בתמונה שנוצרה באמצעות AI. אחרי כל תשובה המשחק מסביר אילו פרטים בתמונה היו יכולים להסגיר אותה.
נשמע קל? אני מציע לנסות לפני שעונים.
אבל מבחינתי, המשחק הזה מעניין מסיבה אחרת לגמרי. הוא ממחיש היטב בעיה שאנחנו פוגשים היום בעולם בדיקות הרקע ומודיעין ממקורות מידע גלויים: אנחנו עדיין נותנים יותר מדי אמון במה שאנחנו רואים.
תמונה מקצועית בלינקדאין. חשבון אינסטגרם שנראה פעיל. תמונה של אדם בכנס. פרופיל שנראה ותיק. תמונות עם חברים, משפחה או עמיתים לעבודה.
פעם, אוסף כזה של סימנים יצר אצלנו תחושה שיש מאחורי הפרופיל אדם אמיתי. היום זה כבר לא מספיק.
אפשר לייצר פנים שלא היו קיימות מעולם. אפשר ליצור תמונות של אותו אדם בסביבות שונות. אפשר לבנות היסטוריה ויזואלית שנראית משכנעת. ואפשר לעטוף זהות בדויה בפרופיל מקצועי שנראה, לפחות במבט ראשון, אמין לחלוטין.
וזו בדיוק המלכודת.
אנחנו מחפשים לפעמים את הסימן של ה-AI: אצבע נוספת. טקסט משובש ברקע. צל שלא מסתדר. משקפיים מוזרים. פרטים אנטומיים לא הגיוניים.
הסימנים האלה חשובים, והמשחק מצוין כדי לאמן את העין. אבל מקצועית, אני לא חושב שזו הדרך הנכונה להתמודד עם הבעיה. כי ככל שהמודלים משתפרים, הסימנים הוויזואליים שלמדנו לזהות נעלמים.
לכן בבדיקת רקע השאלה לא צריכה להיות רק: האם התמונה הזאת נוצרה באמצעות AI?
השאלה החשובה יותר היא: האם הזהות שמאחורי התמונה עומדת במבחן המציאות?
וכאן כבר צריך לעבור מתמונה אחת לבדיקת מכלול.
האם ההיסטוריה המקצועית מסתדרת? האם קיימות אינדיקציות בלתי תלויות שמחברות את האדם לארגונים שבהם הוא טוען שעבד? האם ציר הזמן שלו הגיוני? האם הפעילות ברשתות שונות תואמת? האם קשרים מקצועיים אמיתיים מאשרים בעקיפין את הסיפור? האם תמונות, אזכורים, מסמכים ופרופילים שונים יוצרים זהות עקבית, או שיש ביניהם סתירות?
זה ההבדל בין להסתכל על תמונה לבין לאמת זהות.
בעידן של AI, אינטואיציה אנושית עדיין חשובה מאוד. אבל היא צריכה להיות נקודת פתיחה לחקירה, לא מנגנון האימות עצמו.
וזה אולי השיעור הכי חשוב מ-Slopcheck: אם טעינו בזיהוי תמונה במשחק, הפסדנו נקודה. אם ארגון טועה בזיהוי האדם שנמצא מאחורי פרופיל, המחיר עלול להיות שונה לחלוטין.
שווה לנסות את המשחק ולראות כמה אתם באמת טובים בזה.