הבעיה
שיבוט קולי מזויף (דיפ-פייק) של סמנכ״ל כספים גנב 25 מיליון דולר בשיחת טלפון חיה אחת. הקול המשובט היה משכנע מספיק כדי לנהל הוראות הלוך ושוב בזמן אמת. הוא עקף נקודות בקרה אנושיות מרובות, כי איש הכספים בצד השני שמע בדיוק את קול הבוס שלו. זו לא הייתה מדע בדיוני. זה קרה בחברת אנרגיה אירופית בתחילת 2025.
ההתקפה הצליחה כי שיבוט קולי מודרני זקוק רק לשלוש עד חמש דקות של הקלטת שמע כדי ליצור העתקה משכנעת. חומר הגלם נמצא בכל מקום — שיחות תוצאות כספיות, וובינרים, פודקאסטים ואפילו קטעי מדיה חברתית. התוקפים לקחו דגימה מהקול של בכיר והפכו אותה לנשק.
והונאת קול היא רק חלק אחד מהתמונה. רק ברבעון הראשון של 2025 תועדו 179 תקריות דיפ-פייק. זה כבר חרג מהסך הכולל של כל 2024 ב-19%. במקביל, התקפות vishing — פישינג קולי באמצעות קולות משובטים — קפצו ביותר מ-1,600% בתחילת 2025 בהשוואה לסוף 2024.
צוות האבטחה שלכם נבנה לעולם שבו “מזויף” פירושו היה “ברור לעין”. העולם הזה נעלם. אם אתם נשענים על עובדים שיבחינו במשהו חשוד בשמיעה, למודל ההגנה שלכם יש פער קריטי.
למה זה חשוב לעסק שלכם
הנזק הכספי מאיץ בכל ערוץ. הנה המספרים שצריכים להופיע בשקופית הבאה שלכם בפני הדירקטוריון:
- 2.77 מיליארד דולר — סך הפסדי הונאת דואר אלקטרוני עסקי (BEC) שדווחו ל-FBI ב-2024 בלבד. BEC נותרה הצורה ההרסנית ביותר כלכלית של הונאה סייברית.
- 16.6 מיליארד דולר — סך הפסדי ההונאה הסייברית שדווחו ל-IC3 של ה-FBI ב-2024, שהיוו 83% מכלל ההפסדים שדווחו.
- 4.88 מיליון דולר — העלות הממוצעת של פריצת מידע שמתחילה במייל פישינג. בקרב ארגונים בצפון אמריקה הסכום מטפס ל-10.22 מיליון דולר.
- 54% — שיעור ההקלקה על מיילי פישינג שנוצרו ב-AI, כמעט פי חמישה מהבסיס ההשוואתי של 12% בקמפיינים מסורתיים.
המספרים האלה פוגעים בשורה התחתונה שלכם בכמה אופנים:
- הפסדי הונאה ישירים מהעברות בלתי מורשות ומ-BEC.
- חשיפה רגולטורית במסגרת חוק ה-AI האירופי (EU AI Act), שעשוי להטיל קנסות של עד €35 מיליון או 7% ממחזור המכירות העולמי על מערכות AI שאינן עומדות בדרישות.
- עלויות טיפול בתקריות — BEC היוותה 27% מכלל טיפולי תקריות הסייבר ב-2024, שנייה רק לרנסומוור.
- נזק מוניטין כשהלקוחות, השותפים או הרגולטורים מגלים שקול משובט העביר מיליונים מהחשבונות שלכם.
אם הארגון שלכם מטפל בנתונים רגישים או בעסקאות בעלות ערך גבוה, האיומים האלה אינם תיאורטיים. הם מכוונים לאמון שעליו מתבסס העסק שלכם — ההנחה שהאדם בצד השני של הטלפון הוא באמת מי שהוא טוען שהוא.
מה באמת קורה מתחת לפני השטח
רוב החברות שאימצו AI במהירות עשו זאת באמצעות מה שהתעשייה מכנה “wrappers” — מעטפות. חשבו על wrapper כשכירות רכב משירות שאינכם שולטים בו. אתם מקלידים את השאלה בממשק נחמד, אבל הנתונים שלכם — כל פרומפט, כל קטע מסמך, כל פרט סודי — נוסעים דרך האינטרנט הציבורי לשרתים של מישהו אחר לצורך עיבוד.
זה יוצר שלוש בעיות ספציפיות.
ראשית, הנתונים שלכם יוצאים מהמשרד. אפילו רמות API ארגוניות שמבטיחות “אי-שמירת נתונים” (zero data retention) מחזיקות לעיתים את הנתונים שלכם עד 30 יום לצורכי ניטור שימוש לרעה. לחברות בתחום הבריאות, הביטחון או הפיננסים, חלון של 30 יום כזה הוא נטל משפטי.
שנית, אתם מאבדים ריבונות משפטית. רוב ספקי ה-AI הגדולים אמריקאים וכפופים לחוק ה-CLOUD האמריקאי. החוק הזה מאפשר לרשויות אכיפת החוק בארה״ב לכפות גישה לנתונים שלכם גם אם הם מאוחסנים בשרתים באירופה או באסיה. זה מתנגש ישירות עם ה-GDPR ועם חוקי שהות נתונים מקומיים.
שלישית, ה-AI בעצם לא מכיר את העסק שלכם. Wrappers הם חסרי-מצב באופן מהותי. הם מתקשים עם מאגרי מסמכים פנימיים גדולים ומייצרים שיעורי טעות גבוהים — המכונים הזיות (hallucinations) — כששואלים אותם על הנתונים הקנייניים שלכם. כשהכלים הרשמיים לא עומדים במשימה, העובדים עוקפים אותם. אחרי שמהנדסי סמסונג הדליפו בטעות קוד מקור של מוליכים למחצה ל-ChatGPT ב-2023, חוקרים מצאו עלייה של 485% בהדבקת קוד מקור לכלי AI ציבוריים. 72% מהשימוש הזה בוצע דרך חשבונות אישיים שצוות ה-IT שלכם אינו רואה.
זו נקראת בעיית “Shadow AI”. ופירוש הדבר שהנתונים הרגישים ביותר שלכם עשויים כבר לזרום למערכות שאינכם שולטים בהן.
מה עובד (ומה לא)
נתחיל במה שנכשל.
מסנני דואר אלקטרוני מסורתיים: הם מסתמכים על התאמת תבניות. פישינג שנוצר ב-AI מייצר וריאציה ייחודית לכל נמען ברשימת היעד. אין שני מיילים שחולקים חתימה שאפשר לחסום. מעל 90% מההתקפות הפולימורפיות עוברות בהצלחה.
הדרכת מודעות אבטחה בלבד: היא עוזרת לבסס קו בסיס. אבל כש-82.6% ממיילי הפישינג מכילים כיום תוכן שנוצר ב-AI שמחקה את הטון הארגוני הלגיטימי, גם עובדים מאומנים מקליקים בשיעורים מדאיגים.
כלי אבטחת AI מבוססי wrapper: הם שולחים את הנתונים שלכם לתשתית צד שלישי, מכניסים סיכוני ריבונות, ואינם מסוגלים להבין לעומק את ההקשר הפנימי שלכם. אתם מגנים על הבית שלכם עם מערכת אזעקה של מישהו אחר — כזו שאינכם יכולים לבדוק.
וזה מה שעובד באמת. העיקרון המרכזי הוא פריסה ריבונית: ה-AI שלכם רץ בתוך הסביבה שלכם, על התשתית שלכם, ומאומן על הנתונים שלכם.
1. תשתית פרטית ללא יציאת נתונים (zero data egress). ה-AI שלכם רץ על חומרת GPU ייעודית בתוך סביבת הענן שלכם או on-premises. כל פרומפט וכל תשובה נשארים מאחורי חומת האש שלכם. שום נתון לא חוצה את האינטרנט הציבורי. אתם שולטים במפתחות.
2. מודלים מכווננים (fine-tuned) שמכירים את העסק שלכם. במקום לשכור מודל כללי, אתם מאמנים מודל open-weights — כזה שבעלותכם על קובצי המודל עצמם — על המסמכים, המינוח והתקנים הספציפיים של הארגון שלכם. מחקרים מראים שמודלים מכווננים משיגים עקביות פלט של 98–99.5%, לעומת 85–90% בגישות wrapper. הם גם מפחיתים את העלות לבקשה ב-50–90% בקנה מידה גדול, כי המודל כבר “מכיר” את ההקשר.
3. אחזור מותאם הרשאות ומעקות בטיחות בזמן ריצה. ה-AI שלכם מתחבר למסמכים הפנימיים שלכם באמצעות טכניקה שנקראת Retrieval-Augmented Generation (RAG) — שבה מזינים ל-AI מסמכי מקור אמיתיים במקום לתת לו לנחש. אבל התוספת הקריטית היא קשירת זה לבקרות הגישה הקיימות שלכם. אם עובד אינו יכול לצפות במסמך במערכת הקבצים שלכם, גם ה-AI לא יוכל לאחזר אותו. מעל זה, מעקות בטיחות בזמן ריצה סורקים כל קלט ופלט בזמן אמת, חוסמים ניסיונות הזרקת פרומפט, מצנזרים נתונים אישיים רגישים לפני שהם מגיעים למודל, ומשאירים את ה-AI ממוקד במשימות מורשות.
יתרון שובל הביקורת הוא מה שסוגר את העניין עבור צוותי הציות והמשפט שלכם. כל פרומפט וכל תשובה נרשמים ברשומות שאינן ניתנות לשינוי. כשהרגולטור או המבקר שואלים כיצד התקבלה החלטה, אתם יכולים להציג בפניהם את הנתונים המדויקים שבהם השתמש ה-AI, את הפלט המדויק שהפיק, ואת בדיקות המעקה המדויקות שעבר. זה לא יתרון תיאורטי — חוק ה-AI האירופי דורש במיוחד רמת תיעוד ומעקב כזו עבור מערכות AI בסיכון גבוה בתעשיות מפוקחות.
לעסקאות בעלות ערך גבוה, השכבה האחרונה היא הוכחת מקור קריפטוגרפית. בכירים יכולים לחתום דיגיטלית על אישורי וידאו או קול באמצעות אישורי זהות מאומתים. תוקף יכול לשבט קול, אבל אינו יכול לזייף את החתימה הקריפטוגרפית הקשורה לזהות המאומתת של הבכיר. זה מסלק בדיוק את הפרצה שעלתה לחברת האנרגיה האירופית 25 מיליון דולר.
אם הארגון שלכם שוקל אפשרויות לפריסת AI, השאלה אינה אם אתם צריכים AI. השאלה היא אם התצורה הנוכחית שלכם נותנת לכם את תשתית ריבונית ושליטה כדי לפרוס אותו בבטחה. והאם המצב האבטחתי שלכם נבחן מול האיומים שאכן קיימים ב-2025.
לארכיטקטורה הטכנית המלאה ולנתוני האיום המפורטים, קראו את הניתוח הטכני המלא או גלו את הגרסה האינטראקטיבית.
נקודות מפתח
- פישינג שנוצר ב-AI קפץ ב-1,265% מאז 2023, עם שיעורי הקלקה שמזנקים מ-12% ל-54% — מסננים מסורתיים אינם מספיקים.
- שיבוט קולי מזויף גנב 25 מיליון דולר בשיחת טלפון חיה אחת על ידי התחזות לסמנכ״ל כספים, באמצעות דקות ספורות בלבד של שמע ציבורי.
- כלי AI מבוססי wrapper שולחים את הנתונים הרגישים שלכם לשרתי צד שלישי, ויוצרים סיכוני ריבונות נתונים וציות רגולטורי תחת חוקים כמו חוק ה-CLOUD וה-GDPR.
- AI פרטי הנפרס בתוך הסביבה שלכם — עם מודלים מכווננים, אחזור מותאם הרשאות ומעקות בטיחות בזמן ריצה — משאיר את הנתונים מאחורי חומת האש תוך הפקת דיוק גבוה יותר.
- יומני ביקורת בלתי ניתנים לשינוי וחתימת זהות קריפטוגרפית מעניקים לצוות הציות שלכם את שובל התיעוד שהרגולטורים דורשים כיום.
שורה תחתונה
הונאה מבוססת AI מתרחבת מהר יותר מכפי שהגנות מסורתיות מצליחות להסתגל, וכלי AI מבוססי wrapper חושפים את הנתונים הרגישים ביותר שלכם לצד שלישי. פריסת AI פרטי וריבוני בתוך התשתית שלכם היא הדרך היחידה ליהנות מיתרונות ה-AI תוך שמירה על שליטה בנתונים, במודלים ובשובל הביקורת שלכם. שאלו את ספק ה-AI שלכם: אם רגולטור ידרוש לראות כל קלט נתונים וכל פלט החלטה ממערכת ה-AI שלכם מ-12 החודשים האחרונים — האם תוכלו להפיק את היומן הזה מתשתית שאתם שולטים בה?