הבעיה
רשות ניירות הערך האמריקאית (SEC) קנסה שתי חברות השקעות ב-$400,000 במצטבר על שקרים לגבי ה-AI שלהן. לא על בניית AI גרוע. אלא על כך שטענו שיש להן AI שמעולם לא בנו בפועל.
במרץ 2024 הגישה ה-SEC כתבי אישום נגד Delphia (USA) Inc. ו-Global Predictions Inc. בגין הצהרות כוזבות על השימוש שלהן בבינה מלאכותית. Delphia סיפרה ללקוחותיה שהיא משתמשת ב"מודל אלגוריתמי חזוי" שמנתח דפוסי הוצאות ונתוני מדיה חברתית כדי "לחזות אילו חברות ומגמות עומדות לפרוץ". בודקי ה-SEC גילו ש-Delphia מעולם לא שילבה בפועל את הנתונים האלה בתהליך ההשקעה שלה. החברה המשיכה לטעון טענות אלה מ-2019 עד 2023 — גם לאחר שה-SEC הזהירה אותה ב-2021 לחדול.
Global Predictions כינתה את עצמה "היועצת הפיננסית המוסדרת הראשונה מבוססת ה-AI". כשהרגולטורים ביקשו תיעוד טכני שיגבה את הטענה, החברה לא הצליחה להציג אותו. Delphia שילמה $225,000. Global Predictions שילמה $175,000.
אלה לא היו תוכניות הונאה מורכבות. היו אלה טענות שיווקיות שהקדימו את המציאות ההנדסית. והן מייצגות קטגוריה חדשה של סיכון תאגידי שצוותי המשפט והציות שלכם צריכים להבין כבר עכשיו. אם החברה שלכם אומרת "powered by AI" בכל מקום — באתר שלכם, בחומרים למשקיעים, במצגות ללקוחות — אתם חשופים לאותו סיכון אכיפה בדיוק. ה-SEC השתמשה בחוקי האנטי-הונאה הקיימים, לא בכללים חדשים הספציפיים ל-AI. המשמעות היא שהמסגרת המשפטית להעניש את החברה שלכם כבר קיימת היום.
מדוע זה חשוב לעסק שלכם
ה-$400,000 בקנסות ה-SEC היו רק הירייה הפותחת. מספר סוכנויות פדרליות מחפשות כעת באופן אקטיבי טענות AI שהן יכולות לתקוף.
ה-FTC השיקה את "Operation AI Comply" כדי לכוון לטענות AI מטעות בכלכלת הצריכה. בינואר 2025 חיסלה ה-FTC את DoNotPay — שירות ששיווק את עצמו כ"עורך הדין הרובוט הראשון בעולם" — משום שהחברה לא הצליחה להוכיח שה-AI שלה יכול באמת להחליף עורך דין אנושי. ה-FTC יצאה גם נגד Evolv Technologies בטענה שהציגה לכאורה באופן מטעה עד כמה יעילים חיישני ה-AI שלה בזיהוי נשקים בבתי ספר.
מחלקת המשפטים האמריקאית הכריזה על יוזמת "Justice AI" שלה. תובעים פדרליים יעריכו כעת את יכולתה של החברה שלכם לנהל סיכוני AI כחלק מסקירות ציות תאגידיות. הם קיבלו הנחיה לבקש עונשים חמורים יותר כאשר AI משמש לאפשור פשיעת צווארון לבן.
הנה מה שזה אומר לשורה התחתונה שלכם:
- קנסות רגולטוריים הם הרצפה, לא התקרה. הקנס של $225,000 שהוטל על Delphia הוא קטן בהשוואה לנזק המוניטין ולעסקים האבודים שבאים בעקבות פעולת אכיפה פומבית.
- ספקי ה-AI שלכם יוצרים את האחריות שלכם. ה-FTC קבעה שאם כלי AI משמש כ"אמצעי" להטעיה, גם הספק וגם הלקוח הארגוני עלולים להיחשב אחראים.
- תובעים כלליים של מדינות מצטרפים למהלך. הם משתמשים בחוקי הגנת הצרכן הקיימים כדי לנקוט נגד טענות שיווק AI ברמת המדינה.
- החשיפה של הדירקטוריון היא אמיתית. אם החברה שלכם טוענת ליכולות מבוססות AI בדוחות SEC או במצגות למשקיעים, בכיריכם נושאים באחריות אישית על פי כללי האנטי-הונאה הקיימים.
זו לא בעיה של העתיד. תשתית האכיפה כבר נבנתה והיא פעילה.
מה באמת קורה מתחת למכסה המנוע
שורש הבעיה של AI washing הוא הבנה טכנית לקויה של איך AI מודרני עובד באמת. רוב יישומי ה-AI כיום — כולל אלה שהספקים שלכם אולי מוכרים לכם — נבנים על מערכות שמנבאות את המילה הבאה הסבירה ביותר ברצף. הן לא מאמתות עובדות. הן מייצרות טקסט שנשמע סביר.
חשבו על זה כמו השלמה אוטומטית בטלפון שלכם, אבל בקנה מידה של האינטרנט. הטלפון שלכם לא יודע אם המילה הבאה נכונה. הוא פשוט יודע איזו מילה בדרך כלל באה אחריה. מודלים גדולים לעיבוד שפה (LLMs) — מערכות ה-AI שמאחורי כלים כמו ChatGPT — עובדים באותו אופן, רק עם יותר נתונים ויותר מתמטיקה. למודל אין מושג פנימי של אמת. הוא מנבא את רצף התווים הסביר ביותר על בסיס דפוסים בנתוני האימון שלו.
זו הסיבה שמערכות AI "מזיות" — הן מייצרות אזכורים שלא קיימים, נתונים פיננסיים שגויים או תקדימים משפטיים שמעולם לא נפסקו. בסביבה מוסדרת, "בעיקר נכון" הוא משפטית זהה ל"שגוי". אזכור משפטי מדומיין יוצר אחריות משפטית אקטיבית עבור הארגון שלכם.
וכדי להחמיר את התמונה, רוב "פתרונות ה-AI" שנמכרים כיום לארגונים הם מה שהתעשייה מכנה "wrappers". אלה יישומים שמתחברים לשירות AI ציבורי דרך API — למעשה שקע — ומוסיפים ממשק משתמש מעליו. הם מתוכננים למזער עלויות, לעיתים קרובות על חשבון הדיוק. הם אינם מסוגלים לאמת את ההיגיון שלהם עצמם. הם פשוט מעבירים הלאה כל דבר שהמודל הבסיסי מייצר, ללא קשר לשאלה אם הוא נכון. ואז החברה שלכם מציבה את שמה ואת המוניטין שלה מאחורי הפלט הזה.
מה עובד (ומה לא)
נתחיל במה שלא מגן עליכם:
- הנדסת פרומפטים בלבד. ניסוח מדוקדק של ההוראות שלכם ל-AI אינו מונע ממנו לזייף. זה מפחית את התדירות אך אינו מחסל את הסיכון.
- wrappers דקים של API. התחברות למודל AI ציבורי והוספת המיתוג שלכם מעניקה לכם שליטה אפסית בדיוק, בפרטיות הנתונים או במסלולי ביקורת. ה-wrappers האלה פגיעים לקלטים פגומים שגורמים לפלטים שגויים — בעיה שנקראת "retrieval poisoning".
- בדיקות דגימה ידניות. סקירה של מדגם אקראי של פלטי AI בידי אדם לא מאתרת את השגיאות בפלטים שלא נבדקו. היא יוצרת תחושת ביטחון כוזבת.
מה שעובד באמת הוא ארכיטקטורה שונה באופן מהותי. כך היא פועלת בשלושה שלבים:
אחזור מושתת על גרפי ידע. במקום לתת ל-AI לחפש באופן רופף מידע קשור, אתם בונים מפה מובנית של הידע התחומי שלכם — Knowledge Graph. ב-AI משפטי, למשל, כל פסק דין מקושר לפסיקות אחרות באמצעות יחסים ספציפיים כמו CITES, OVERRULES או AFFIRMS. המערכת יכולה להתייחס רק למה שקיים במבנה המאומת הזה. זה מעביר את האחזור מניחוש סטטיסטי לנתיב מאומת.
אימות רב-סוכני. במקום לבקש ממודל AI אחד לחקור, לאמת ולכתוב, אתם מחלקים את העבודה בין סוכנים מתמחים. סוכן "Research Agent" מאחזר את הנתונים הגולמיים. סוכן "Verification Agent" מצליב אותם מול גרף הידע שלכם. סוכן "Writer Agent" מפיק את הפלט הסופי באמצעות עובדות מאומתות בלבד. הסוכנים האלה סוקרים זה את עבודתו של זה במחזורים לפני שאדם כלשהו רואה את התוצאה.
פריסה ריבונית על התשתית שלכם. ה-AI שלכם רץ בתוך חומת האש שלכם עצמה — בין אם באתר עצמי (on-premises) ובין אם בענן פרטי מבודד מהאינטרנט הציבורי. זה מבטיח אפס דליפת נתונים. הקניין הרוחני, נתוני הלקוחות והסודות המסחריים שלכם לעולם לא נוגעים בשרתים חיצוניים. זה חובה לצורך עמידה ב-HIPAA, GDPR ו-CCPA.
יתרון מסלול הביקורת הוא מה שהופך את הגישה הזאת לניתנת להגנה. כל פלט ניתן לעקיבה אחורה עד למסמכי מקור ספציפיים דרך קישורים מאומתים. כשרגולטור, מבקר או עורך דין יריב שואל "איך ה-AI שלך הגיע למסקנה הזאת", אתם יכולים להציג את הנתיב המדויק — מנתוני המקור, דרך האימות, ועד לפלט הסופי. זה ההבדל בין מערכת שאתם יכולים להגן עליה לבין מערכת שהופכת לאחריות הבאה שלכם.
מסגרת הממשל שלכם צריכה לשלב את NIST AI Risk Management Framework לבקרות סיכונים טקטיות עם ISO/IEC 42001 לציות הניתן להסמכה עם ביקורת צד שלישי. ISO 42001 הוא התקן הבינלאומי היחיד הניתן להסמכה עבור מערכות ניהול AI. מבקר צד שלישי יכול לאמת את הציות שלכם — ולספק לכם את התיעוד הדרוש לסקירות רכש, דוחות לדירקטוריון והגשות רגולטוריות.
לסיום, בנו AI Bill of Materials (AIBOM) — רישום מלא וקריא למכונה של כל רכיב במערכת ה-AI שלכם. זה כולל מערכי נתוני אימון, מודלים בסיסיים, ספריות צד שלישי ופרטי תשתית. ה-AIBOM שלכם הופך למקור האמת היחיד שמוכיח שטענות ה-AI שלכם תואמות את המציאות הטכנית שלכם. זהו בדיוק התיעוד ש-Delphia ו-Global Predictions לא הצליחו להציג כשה-SEC הגיעה לפתח.
נקודות מפתח
- ה-SEC קנסה שתי חברות ב-$400,000 במצטבר על טענות ליכולות AI שמעולם לא נבנו — באמצעות חוקי האנטי-הונאה הקיימים, לא תקנות AI חדשות.
- ה-FTC, ה-DOJ והתובעים הכלליים של מדינות כולם אוכפים באופן אקטיבי נגד טענות AI מוגזמות, ויוצרים חשיפה לאחריות רב-סוכנותית.
- רוב כלי ה-AI הארגוניים הם wrappers דקים סביב מודלים ציבוריים שאינם מסוגלים לאמת את הפלטים שלהם עצמם או להגן על הנתונים שלכם.
- ארכיטקטורות דטרמיניסטיות שמשתמשות בגרפי ידע, אימות רב-סוכני ופריסה ריבונית יוצרות מסלולי ביקורת שהרגולטורים יכולים לאמת.
- שילוב של NIST AI RMF עם הסמכת ISO 42001 ותחזוקת AI Bill of Materials מעניקים לארגון שלכם תיעוד שניתן להגן עליו.
שורה תחתונה
רגולטורים פדרליים קונסים כיום חברות באופן אקטיבי על טענות AI שהן אינן יכולות להוכיח. ההגנה שלכם אינה שיווק טוב יותר — אלא ארכיטקטורה שמפיקה פלטים הניתנים לאימות עם מסלולי ביקורת מלאים. שאלו את ספק ה-AI שלכם: האם תוכלו להפיק AI Bill of Materials מלא ולהציג את נתיב המקור המאומת לכל פלט שהמערכת מייצרת?