כיצד שוד דיפ-פייק של 25.6 מיליון דולר חשף את קריסת האימות החזותי
בפברואר 2024, תוקפים השתמשו בדיפ-פייק שנוצר ב-AI כדי להתחזות לסמנכ"ל כספים (CFO) ולמועצת מנהלים שלמה בשיחת וידאו חיה — ושדדו 25.6 מיליון דולר מחברת ההנדסה Arup. ללא נוזקות. ללא גניבת פרטי גישה. רק פנים וקולות מפוברקים שלא ניתן להבדיל בינם לבין המציאות. זוהי תוכנית הפעולה לארגון בעידן שלאחר קריסת האמון.
התשתית הדיגיטלית של Arup נותרה שלמה לחלוטין. ללא נוזקות, ללא גניבת פרטי כניסה. התוקפים פגעו בלוגיקה התפעולית של החברה באמצעות ייצור מציאות שלא ניתן להבדיל בינה לבין האמת.
התוקפים השקיעו חודשים באיסוף קטעי וידאו ואודיו זמינים לציבור של בכירי Arup מ-YouTube, מצגות בכנסים ופגישות עסקיות. חומרים אלה שימשו לאימון רשתות יריבות גנרטיביות (GANs) ומודלים של סינתזת קול עצבית, ששכפלו לא רק תווי פנים אלא גם דפוסי דיבור ספציפיים, אינטונציות ומיקרו-הבעות.
תקרית Arup התאפשרה הודות להתכנסות של מתודולוגיות AI מתקדמות שעברו ממעבדות המחקר לידיהם של ארגוני פשיעת סייבר מתוחכמים.
שתי רשתות עצביות מתחרות — מחולל (Generator) שיוצר תוכן ו מבחין (Discriminator) שמזהה זיופים — מאמנות זו את זו לאורך מיליוני איטרציות. המחולל הופך למומחה ביצירת תמונות שהעין האנושית אינה יכולה להבדיל בינן לבין המציאות.
שימש במקרה של Arup ל"החלפת פנים" בזמן אמת באמצעות יירוט מצלמת רשת.
פועלים על ידי הוספת רעש לתמונה ואימון ה-AI להפוך את התהליך. מצטיינים ביצירת טקסטורות ותאורה ברזולוציה גבוהה במיוחד. ביישום על וידאו, הם מבטיחים עקביות זמנית— פני ה-AI אינם מהבהבים או מתעוותים בתנועה, ושומרים על האשליה באינטראקציה חיה.
קריטי לשמירה על רציפות בין פרימי וידאו בדיפ-פייק של שידור חי.
עצם פיזי (תמונה/מסכה/מסך). חריגות בעומק ובטקסטורה ניתנות לרוב לזיהוי.
תוכנת GAN/דיפוזיה על מצלמת רשת חיה. דורשת ניתוח ציר זמן לזיהוי.
זרם האודיו מוחלף בקול סינתטי. דורש ניתוח ספקטרוגרמה ביומטרי.
ההזנה הדיגיטלית עוקפת לחלוטין את חומרת המצלמה. דורשת בדיקות תקינות ברמת המערכת.
בחיפזון לאמץ AI גנרטיבי, ארגונים רבים מסתמכים על שכבות תוכנה דקות מעל גבי ממשקי API ציבוריים. מודל זה מציג פגיעויות מערכתיות שהופכות תקריות כמו Arup לסבירות יותר, ולא פחות.
נתונים רגישים — גיליונות פיננסיים, תקשורת הנהלה — חייבים לצאת מחוץ לפרימטר הארגוני לעיבוד צד שלישי. הדבר יוצר חשיפה לחוק CLOUD האמריקאי, לקבלני משנה ולזליגת מידע דרך המודלים.
מודלי LLM הם הסתברותיים, לא דטרמיניסטיים. הם חוזים את "הטוקן הבא" הסביר ביותר ולא את עובדות האמת. סוכן AI עלול להבטיח הנחה או לפרש מדיניות בדרכים מחייבות משפטית אך שגויות לחלוטין.
עבור חברות הנדסה ומערכות קריטיות, מודלי LLM מבוססי טקסט מייצרים עצות הנשמעות סבירות אך נטולות לולאות משוב משולבות. שינויים זעירים בחישובים ("מצוקי פעילות") עלולים לגרום לתנודות חריגות בתוצאות.
| תכונה | מעטפת LLM ציבורית | Veriprajna Deep AI |
|---|---|---|
| מיקום שמירת הנתונים | ✗ ענן ציבורי משותף; זליגת מידע | ✓ באופן מלא בתוך ה-VPC של הלקוח |
| מודל הסקה | ✗ הסתברותי בלבד | ✓ נוירו-סימבולי (עצבי + דטרמיניסטי) |
| הקשר אבטחתי | ✗ נתונים כלליים/ציבוריים | ✓ קורפוס פרטי; תאימות ל-RBAC |
| התאמה אישית | ✗ הנדסת פרומפטים בלבד | ✓ כוונון עדין מלא (LoRA/CPT) |
| פגיעות | ✗ פגיע להזרקת פרומפטים | ✓ מעקות הגנה לוגיים רב-שכבתיים |
Veriprajna מעבירה ארגונים ממודל "AI כשירות" למודל "AI כתשתית" — ומשיבה את הריבונות והמהימנות לארגון.
מודלי LLM ארגוניים פרטיים הפרוסים בתוך ה-VPC הייעודי של הארגון או באשכולות Kubernetes מקומיים. מחסניות הסקה מלאות (vLLM/TGI) על חומרה בשליטת הלקוח. אינטליגנציה ריבונית אינה יוצאת לעולם מהפרימטר.
"מוח סמנטי" באמצעות יצירה מועשרת באחזור המשולבת באופן טבעי באבטחה הפנימית. אם לעובד אין הרשאה לצפות במסמך ב-SharePoint, ה-AI לא ישלוף אותו. מניעת הסלמת הרשאות דרך ממשק ה-AI.
הרשת העצבית היצירתית עטופה בין שתי שכבות של לוגיקה סימבולית דטרמיניסטית. כאשר ה-AI מדווח על מחיר או סטטוס אישור, הוא שולף ערך דטרמיניסטי ממסד נתונים — ולא הסתברות טוקנים.
כאשר ניתן לפברק פנים ב-15 דולר ו-45 דקות עבודה, זהות חזותית אינה מהווה עוד הוכחת נוכחות. הדור הבא של אימות חייב לוודא ביולוגיה, התנהגות ומקוריות בו-זמנית.
ניתוח שינויים בגוון הפנים הנגרמים על ידי פעימות הלב — מיקרו-אותות בלתי נראים לעין האנושית. טכנולוגיות כמו FakeCatcher של Intel מאמתות שהמשתתף הוא אדם חי עם פעילות לב וכלי דם אמיתית. בוידאו סינתטי, אותות אלו חסרים או אינם עקביים לאורך זמן.
ניתן להחליף פנים ולשכפל קול, אך דפוסי אינטראקציה נוירוביולוגיים נותרים ייחודיים. דינמיקת הקשות, תנועות עכבר ודפוסים קוגניטיביים בונים קו בסיס. אם ה-"CFO" חורג מהפרופיל ההתנהגותי בעת בקשת העברות חריגות, המערכת מתריעה אוטומטית.
במקום לזהות זיופים, מאמתים את האותנטי. תקן C2PA מטמיע מטא-דאטה קריפטוגרפי ברגע הצילום — היסטוריה חסינת חבלה המתעדת מכשיר, זמן ומיקום. וידאו ללא אישורים אלו מטופל כתוכנה לא חתומה.
"כאשר פניו וקולו של ה-CFO ניתנים לפברוק מושלם ב- 15 דולר ו-45 דקות מאמץ, אותות האמון המסורתיים קורסים. עתיד החוסן הארגוני תלוי בהבדלה בין תאומים סינתטיים לבני אדם חיים באמצעות שכבות של הגנה ביולוגית, התנהגותית וארכיטקטונית."
ההפסד הכספי הוא רק קצה הקרחון. לתקרית השלכות מרחיקות לכת על אחריות תאגידית וחובות נאמנות.
מנהלי מערכות מידע ומנהלי טכנולוגיה נדרשים לעמוד ברף זהירות גבוה יותר ויותר. אי-יישום בקרות מודעות לדיפ-פייק עלול להוביל לאחריות אישית על פי תקנות CCPA, חוק ה-AI האירופי ותביעות רשלנות מצד בעלי מניות.
בתי המשפט פועלים לפי "כלל המתחזה": ההפסדים מוטלים על הצד שהיה בעמדה הטובה ביותר למנוע את ההונאה. אי-יישום אימות רב-ערוצי לעסקאות בעלות ערך גבוה נחשב יותר ויותר לרשלנות.
על ארגונים ליישר קו עם ISO/IEC 30107-3 (זיהוי התקפות הצגה), מסגרת ניהול סיכוני AI של NIST, ותקן CEN/TS 18099 (התקן הייעודי הראשון לזיהוי התקפות הזרקה).
אסטרטגיית חוסן רב-שכבתית המתמקדת בהגנה על אנשים, תהליכים ועצם מושג האותנטיות.
מעבר מ-"ציות מיידי" ל-"אימות תחילה". תגמול עובדים המערערים על בקשות חשודות — גם אם הן מגיעות מההנהלה הבכירה. הדרכה באמצעות מתקפות דיפ-פייק מדומה חיות בפלטפורמות וידאו ואודיו.
ועידות וידאו אינן יכולות לשמש עוד כתקן הזהב לאימות פיננסי. דרישת אישור עצמאי: שיחות ישירות מאומתות מראש, קודי אימות מוסכמים ואישור כפול מגורמים שאינם משתתפים בשיחה.
השבת השליטה בנתונים ובאינטליגנציה מהענן הציבורי. מעבר למודלי LLM ארגוניים פרטיים בתוך VPC בשליטת הלקוח. זהו אמצעי אבטחה ויתרון תחרותי היוצר נכסי מודל בבעלות הלקוח.
שילוב זיהוי דיפ-פייק ברמה ארגונית ב-Zoom, Teams וכלי עבודה משותפים. ניתוח כל פריים וחבילת אודיו בזמן אמת לאיתור מניפולציות AI — תנועות שפתיים לא מסונכרנות, תאורה לא עקבית, היעדר אותות פיזיולוגיים.
חמישה עמודי תווך להגנה מפני הונאה סינתטית
התאם פרמטרים כדי למדל את היקף ההפסד הפוטנציאלי של הארגון שלך
התוקפים השקיעו חודשים באיסוף חומרי וידאו ואודיו ציבוריים של בכירי Arup כדי לאמן רשתות GAN ומודלי סינתזת קול עצבית. לאחר מכן, הם קיימו ועידת וידאו אינטראקטיבית חיה עם מספר משתתפים שנוצרו ב-AI — לא רק שכפול קול בודד — ויצרו חדר ישיבות סינתטי שלם. ה-CFO המזויף הורה על 15 העברות בסך 25.6 מיליון דולר על פני חמישה חשבונות בנק. המתקפה לא השתמשה בנוזקות או בגניבת פרטי כניסה — היא ניצלה את שכבת האמון האנושית באמצעות מציאות חזותית מפוברקת.
Veriprajna פורסת שלוש שכבות אימות: ניתוח אותות פיזיולוגיים (זיהוי שינויים בגוון הפנים הנגרמים מפעימות לב, הבלתי נראים לעין וחסרים בוידאו סינתטי), ביומטריה התנהגותית (דינמיקת הקשות, שימוש בעכבר ודפוסים קוגניטיביים הייחודיים גם כאשר הפנים והקול משוכפלים), ומקוריות קריפטוגרפית C2PA (הטמעת מטא-דאטה חסין חבלה ברגע הצילום, המטפלת בוידאו לא מאומת כתוכנה לא חתומה). אלו משתלבים עם מודלי LLM ריבוניים על VPC ומעקות הגנה נוירו-סימבוליים.
מעטפות LLM שולחות נתונים פיננסיים רגישים ותקשורת הנהלה לשרתי ענן של צד שלישי, מה שיוצר חשיפה לחוק CLOUD ולסיכוני קבלני משנה. מודלים אלו הם הסתברותיים — חוזים את הטוקן הבא הסביר ביותר במקום עובדות אמת — כלומר ניתן להטעותם לאשר זהויות מפוברקות או להמציא פרשנויות מדיניות מחייבות משפטית (כמו במקרה הצ'אטבוט של אייר קנדה). הפריסה הריבונית של Veriprajna שומרת את כל המידע והאינטליגנציה בתוך ה-VPC של הלקוח עם אימות דטרמיניסטי נוירו-סימבולי.
ההפסד של 25.6 מיליון דולר היה מחיר כבד עבור לקח זה — אך הוא מספק את תוכנית הפעולה לדור הבא של אבטחת מידע ארגונית.
אבטחה שבה אותנטיות מאומתת על ידי פיזיקה ולוגיקה, ולא רק על ידי מראה ומשמע אוזניים. בנה את ארכיטקטורת האמון שלך עם Veriprajna.
ניתוח מקיף: שחזור פורנזי, צלילה טכנית ל-GAN ומודלי דיפוזיה, מפרט ארכיטקטורה נוירו-סימבולית, מסגרת ציות רגולטורית ומפת דרכים אסטרטגית לארגונים.