אחת-עשרה מילים בדוח שנתי יכולות כעת להיות הונאת ניירות ערך
בפעם הראשונה שבאמת הבנתי מהי הלבנת AI, בהיתי בפסקה אחת בדוח השנתי של חברה. אחת-עשרה מילים, משהו כמו "הפלטפורמה מבוססת-ה-AI שלנו מנתחת סיכון בזמן אמת." משפט נקי ובטוח. מהסוג שצוות שיווק כותב בחמש דקות ומנכ"ל מאשר בלי להניד עפעף.
אחר כך שאלתי את המהנדסים איזה מודל הפיק את הניתוח הזה, על אילו נתונים הוא רץ, ואיפה בזרימת ההחלטות הוא בכלל הופעל. בחדר השתררה שתיקה. לא מפני שהסתירו משהו. אלא מפני שאיש מעולם לא חיבר את המשפט הזה למערכת. הטענה חיה בדיווח. המערכת חיה בפרודקשן. וביניהן לא היה כלום — לא מסמך, לא מפה, לא ראיה — שמקשר בין השתיים.
הפער הזה הוא כל הסיפור. הלבנת AI אינה סיפור על AI גרוע. זהו סיפור על המרחק בין מה שאמרת שה-AI שלך עושה לבין מה שה-AI שלך באמת עושה — והאם אתה מסוגל לסגור את המרחק הזה על פי דרישה. ה-SEC, ה-FTC והתובעים הכלליים של המדינות הבינו כולם שהפער הזה הוא המקום שבו נמצאים התיקים. בניתי את פרקטיקת האימות AI ומניעת הלבנת AI של Veriprajna מפני שהמשכתי לראות חברות מגלות את הפער רק אחרי שמכתב הבודק כבר הגיע.
היום שבו "האם ה-AI שלך עובד" חדל להיות השאלה
הגעתי לכך מעבודת אכיפת ניירות ערך, הצד הפחות זוהר — הרכבת הקלסרים שחברות מגישות לבודק כשמכתב דרישת המסמכים מגיע. אז קראתי כל תיק הלבנת AI כמו שאני קורא תיק הונאה ישן: מה הם אמרו, מה הם עשו, ומה היה אור היום שבין השניים.
הדפוס עקבי באכזריות. Delphia ו-Global Predictions, שני הסדרי הלבנת ה-AI הראשונים במרץ 2024, שילמו יחד 400,000 דולר לא מפני שה-AI שלהן היה גרוע אלא מפני ש-Delphia טענה להשקעה מונעת-למידת-מכונה שמעולם לא שילבה בפועל. הנתונים שהתרברבו שהם מזינים למודל? הם מעולם לא הגיעו למודל.
אחר כך Presto Automation, ינואר 2025 — תיק הלבנת ה-AI הראשון נגד חברה ציבורית. ה-AI הקולי של שירות ה-drive-thru של Presto שווק כמבטל את קליטת ההזמנות האנושית. ה-SEC מצא שיותר מ-70% מההזמנות עדיין דרשו אדם, ובחלק מהסניפים זה היה 100%. המערכת הייתה אמיתית. היא פשוט לא עשתה את מה שהשיווק אמר שהיא עושה.
ואז Nate. באפריל 2025 הגישו ה-SEC וה-DOJ תביעות מקבילות נגד מייסד Nate Inc., שגייס יותר מ-42 מיליון דולר על סמך ההבטחה לאפליקציית קניות מונעת-AI. שיעור האוטומציה בפועל היה, במילות ה-SEC, אפס למעשה — מאות קבלני משנה בפיליפינים השלימו ידנית את הרכישות שה-AI היה אמור לטפל בהן. כתבי האישום של ה-DOJ נושאים עד 20 שנה. זה התיק שאני חושב עליו כשמישהו אומר לי שהלבנת AI היא הערת שוליים של גילוי שיווקי. הייתה הודעה לעיתונות עם שם של מייסד עליה, וכתב אישום פלילי בהונאה מתחתיה.
כל אחד מהתיקים האלה נסוב סביב אותו אור יום: מה שהדיווח הבטיח, ומה שהמערכת בפרודקשן באמת עשתה.
בפברואר 2025 ה-SEC הפך זאת למבני: הוא הקים יחידה ייעודית לאבטחת סייבר וטכנולוגיות מתפתחות בתוך אגף האכיפה. וסדרי העדיפויות של הבדיקות שלו ל-2026 אומרים זאת במפורש — הבודקים "יבחנו את דיוק ההצהרות של הרשומים בנוגע ליכולות ה-AI שלהם." המשפט הזה הוא מכתב דרישת מסמכים שמחכה להישלח.
שלוש רשויות, מהלך אחד
מה שהפתיע אותי, ברגע שהתחלתי למפות את זה, היה כמה מעט משתנה תורת האכיפה בין הרשויות. כולן מריצות את אותו מהלך: מעמידות את הטענה מול המציאות, ואז מבקשות את הראיות.
ה-FTC ניגש לכך דרך סעיף 5 לחוק ה-FTC — פרקטיקות בלתי הוגנות או מטעות — במסגרת מבצע שכינה Operation AI Comply, שהושק בספטמבר 2024. DoNotPay, "עורך הדין-רובוט הראשון בעולם" כהגדרתו העצמית, הגיע להסדר על טענות שלא יכול היה לגבות. Workado פרסמה כלי לזיהוי AI כמדויק ב-98%; הבדיקות של ה-FTC עצמו העמידו את הדיוק בעולם האמיתי סביב 53%. פחות או יותר הטלת מטבע, שנמכרה כוודאות כמעט מוחלטת. הפרט שאמור להפחיד כל יועץ משפטי הוא תורת האמצעי של ה-FTC: האחריות זולגת במורד השרשרת, מהמפתח של מודל הבסיס אל הארגון שמטמיע אותו אל המשתמש הקצה. אם אתה חוזר על מספר הדיוק של ספק בחומרים שלך עצמך, ה-FTC מתייחס לכך כאל הטענה שלך — לא של הספק.
אני לא יכול להדגיש את זה מספיק, כי זו המלכודת שאני רואה חברות חכמות נופלות לתוכה. אתה מרשה שימוש במודל צד-שלישי, אתה מעתיק את מדד הביצועים של הספק ל-10-K שלך או למצגת המשקיעים שלך, ואתה מניח שהמספר הזה בבעלות הספק. הוא לא. ברגע שהוא מופיע בדיווח שלך, זו ההצהרה שלך, ו"הספק שלנו אמר לנו" אינה ביסוס עצמאי.
המדינות הצטרפו בכלים משלהן. חוק בן-הלוויה מבוסס-ה-AI של ניו יורק נושא קנסות של עד 15,000 דולר ליום להפרה. חוק ה-AI של קולורדו, שנכנס לתוקף ב-30 ביוני 2026, דורש הערכות השפעה, יידוע צרכנים וזהירות סבירה עבור מערכות בסיכון גבוה, בסך 20,000 דולר להפרה. חוק הממשל האחראי ב-AI של טקסס, שנכנס לתוקף ב-1 בינואר 2026, מעניק לתובע הכללי סמכות רחבה של דרישת חקירה אזרחית על סמך תלונה בודדת — מכתב אחד של צרכן ודרישת המסמכים כבר על שולחנך. וכשהממשל הפדרלי העלה רעיון לגבור על חוקי ה-AI של המדינות, קואליציה דו-מפלגתית של 36 תובעים כלליים של מדינות התייצבה נגדו. יהיה אשר יחליטו בתי המשפט בסופו של דבר, גורמי האכיפה אינם ממתינים.
אפילו הליטיגציה הפרטית הצטרפה. מרכז הסליקה של תובענות ייצוגיות בניירות ערך של סטנפורד מנה 53 תובענות ייצוגיות בניירות ערך הקשורות ל-AI עד המחצית הראשונה של 2025, עם הסדר חציוני של 11.5 מיליון דולר. אחת מהן, Tucker נגד Apple, שהוגשה ביוני 2025, טוענת שהבטחות Apple ב-WWDC בנוגע ל-Apple Intelligence הניעו משקיעים לקנות על סמך תכונות שלפי התביעה לא היה להן אב-טיפוס פונקציונלי. שקופית מ-keynote הפכה למוצג א'.
מדוע "יש לנו מדיניות ממשל AI" לא מציל אותך?
הנה החלק שבו טעיתי בשלב מוקדם, וזה עלה לי כמה חודשים של בניית הדבר הלא נכון.
כשהתחלתי לראשונה לתכנן עבור זה, הנחתי שהתשובה היא ממשל — הקטגוריה שפלטפורמות כמו Credo AI, watsonx.governance של IBM, Holistic AI, OneTrust ו-Fiddler כבר משרתות היטב. בנינו לכיוון עמדת ממשל: מדיניות, מלאי AI, לוחות מחוונים, זרימות עבודה של פיקוח. הדגמתי גרסה מוקדמת לקצינת ציות בחברה בגודל בינוני והרגשתי טוב עם זה. היא נתנה לי לסיים, ואז שאלה את השאלה היחידה שחשובה: כשבודק ידרוש את הראיה שטענה ספציפית אחת נכונה, על איזה כפתור היא אמורה ללחוץ?
לא היה כפתור. לא היה מסמך. מה שבניתי אמר לה שהיא צריכה לתעד את המערכות שלה. הוא לא הכיל את התיעוד. בניתי דבר שמצביע על הפער במקום למלא אותו. זה היה הכשל שמסגר מחדש עבורי את כל החברה.
ממשל אומר לך שאתה צריך לתעד את ה-AI שלך. ביסוס הוא התיעוד — נבדק, מתוארך, ומוכן לבודק שקורא אותו בפעם הראשונה, ללא הקשר מוקדם.
פלטפורמות הממשל טובות במה שהן עושות. הן מנטרות, הן עורכות מלאי, הן אוכפות מדיניות. אבל יש שכבה מתחתיהן שכמעט אף אחד לא בונה: שרשרת הראיות בפועל שבודק של ה-SEC או תובע כללי של מדינה מבקש לראות. זה הפער שסביבו בניתי מחדש את הפרקטיקה.
מה בעצם בודק מבקש ממך להפיק?
כשישבתי להגדיר מה נספק, לא התחלתי ממפרט מוצר. התחלתי מרשימת ה"אנא הפק" — דרישת המסמכים המילולית שמכתב אכיפה מכיל — ועבדתי לאחור. חבילת ביסוס הניתנת להגנה, הדבר שאנו בונים כיום, כוללת כמה חלקים נושאי-משקל.
היא מתחילה במפת טענה-למערכת: כל טענת AI פומבית — מה-10-K, מהאתר, מהודעות לעיתונות, ממצגת ההשקעה — מקושרת למודל הספציפי, לצינור הנתונים ולנקודת ההחלטה שמספקת אותה. כשדיווח אומר "ניתוח סיכונים מונע-AI", המפה נוקבת באיזה מודל, אילו נתונים, איזו החלטה. זהו הפריט שהיה מציל את Delphia, כי הוא מכריח את השאלה "האם הטענה הזו באמת מחווטת למערכת?" עוד לפני שרגולטור שואל.
לאחר מכן קלסר ראיות טכני — ארכיטקטורה, מתודולוגיית אימון ומדדי ביצועים הנמדדים מול המדד המדויק שטענת לו. נבדק, לא תיאורטי. אם החומרים שלך אומרים מספר, הקלסר מציג את הבדיקה שהפיקה אותו תחת מתודולוגיה של העולם האמיתי, לא הדגמה מנופה. Workado היא סיפור האזהרה: 98% בחוברת, 53% בבדיקה.
ואז אימות תפעולי, שבו Presto מת. המערכת התקיימה. מה שחסר היה הוכחה שה-AI באמת הניע את ההחלטות שהשיווק תיאר, במקום לרוץ במקביל לבני אדם שעשו את העבודה האמיתית. להוכיח מציאות תפעולית קשה יותר מלהוכיח שמודל קיים, וזה בדיוק מה שבודקים בוחנים כעת.
מתחת לכל זה יושב AIBOM — כתב חומרים של AI (AI Bill of Materials), מלאי קריא-מכונה של כל רכיב: מוצא נתוני האימון, גרסאות המודל, תלויות צד-שלישי, תשתית. התקנים סוף סוף קיימים כדי לעשות זאת כראוי; SPDX 3.0 הוסיף פרופיל AI באוקטובר 2024 ו-CycloneDX 1.6 תומך בכתבי חומרים של למידת מכונה, כשפרויקט OWASP AIBOM דוחף את הכלים קדימה. האמת הכנה היא שרוב החברות כיום עדיין עוקבות אחר זה בגיליון אלקטרוני שמתיישן ברגע שמודל מאומן מחדש. פתחתי כרטיסי מודל שנשאו מספר גרסה מיושן בשני מחזורי אימון מחדש — תיעוד שמתאר מערכת שכבר לא קיימת. AIBOM שמתעדכן יחד עם הצינור הוא ההבדל בין תצלום רגע לבין רשומה חיה.
ולבסוף ראיות ניטור-רציף — תוצאות זיהוי סחיפה, יומני בדיקות אוטומטיים, ההוכחה המתמשכת שהטענה נותרה נכונה לאחר ההשקה. חבילת ביסוס אינה קלסר חד-פעמי שאתה מגיש ושוכח. זו רשומה שממשיכה לנשום, כי המודל שלך ממשיך להשתנות והדיווח שלך לא.
חשבון ההזיות שאף אחד לא רושם במאזן
יש חזית שנייה לעניין, והיא זו שמשכה אותי מעבר לדיווחי ניירות הערך אל תוך התוכן עצמו.
טענה אינה רק משהו שאתה אומר על ה-AI שלך בגילוי. היא גם כל פלט שה-AI שלך מייצר ואתה חותם עליו בשמך — הדוח, הניתוח, התקציר הפונה ללקוח. והפלטים האלה מהזים. RegLab של סטנפורד מצא שמודלי שפה גדולים מהזים בשאילתות משפטיות ספציפיות איפשהו בין 69% ל-88% מהזמן. יש כעת יותר מ-600 מקרים מתועדים של הזיות AI שצפות בכתבי בית-דין, עם יותר מ-100 עורכי דין מעורבים ושופטים שמטילים קנסות מעל 10,000 דולר.
העלות הארגונית מדהימה בהיקפה ובלתי נראית באופן מוזר. ניתוח אחד העמיד את ההפסדים הגלובליים מהזיות AI על 67.4 מיליארד דולר ב-2024, כשחברות מוציאות סביב 14,200 דולר לעובד לשנה רק על הפחתה — השעות שאנשים שורפים בבדיקת עובדות של הכלים שלהם עצמם. כשכמעט מחצית ממשתמשי ה-AI הארגוני קיבלו החלטה משמעותית על סמך תוכן מוהזה, "ה-AI ייצר את זה" אינה הגנה. זו ההודאה.
לכן אימות תוכן שייך לאותה פרקטיקה כמו ביסוס טענות: שניהם עוסקים במוצא. סעיף 50 של חוק ה-AI של האיחוד האירופי, שנכנס לתוקף באוגוסט 2026, מחייב שתוכן שנוצר על ידי AI יהיה קריא-מכונה וניתן לזיהוי ככזה, לצד קוד התנהגות לתיוג תוכן שמגיע יחד איתו. תקן המוצא C2PA — זה שהטלפונים המובילים של Samsung ושל Google כבר חותמים איתו באופן מובנה — הופך לצנרת להוכחת המקור של פיסת תוכן. אם ה-AI שלך הפיק דוח ומאוחר יותר מתברר שהוא מכיל בדיה, הדבר היחיד שעומד בינך לבין אחריות משפטית הוא נתיב ביקורת חזרה למקור. לרוב החברות אין כזה.
המוצא חותך גם לכיוון השני. שישים וחמישה אחוזים מהעסקים דיווחו על אירוע דיפ-פייק ב-2023, ושוק הזיהוי מזנק מ-5.5 מיליארד דולר לעבר 15.7 מיליארד דולר צפויים עד 2026. להוכיח שהתוכן שלך עצמו אמיתי הופך דחוף כמו להוכיח שהתוכן של מישהו אחר מזויף — ואותה חתימת C2PA שמאמתת את הפלט של ה-AI שלך היא זו שמאפשרת לך להתכחש לזיוף שעוטה את המותג שלך.
השאלות שאני מקבל, ואלה שהלוואי שהייתי מקבל
אנשים תמיד שואלים אותי האם הסמכת ISO 42001 מטפלת בכל זה. היא עוזרת — זהו תקן אמיתי וניתן לביקורת, והסמכת צד-שלישי נושאת משקל מול דירקטוריונים ורכש. אבל היא עולה בין 90,000 ל-200,000 דולר ומעלה בשנה הראשונה ולוקח קרוב לשנה להקים אותה, והיא מסמיכה שיש לך מערכת ניהול, לא שטענה שיווקית ספציפית כלשהי נכונה. הסמכה וביסוס הם עבודות שונות. אתה יכול להיות מוסמך ועדיין לא מסוגל לענות על שאלת הבודק לגבי משפט אחד ב-10-K שלך.
השאלה האחרת, בדרך כלל ממייסדים, היא האם זו רק בעיה של חברות גדולות. Nate גייסה 42 מיליון דולר והמייסד ניצב בפני אישומים פליליים. Delphia לא הייתה שם מוכר. התובע הכללי של טקסס יכול לפתוח בחקירה על סמך תלונה בודדת. גודל סיכון האכיפה עוקב אחר גודל הטענה שהעלית, לא אחר גודל החברה שלך.
השאלה כבר אינה האם ה-AI שלך עובד. השאלה היא האם אתה יכול להוכיח שהוא עושה את מה שהדיווחים שלך אומרים שהוא עושה.
אם יכולתי לשתול רעיון אחד בכל יועץ משפטי ראשי וקצין ציות ראשי שקורא את זה, זה שהפער בין השיווק לבין המציאות ההנדסית הוא כעת אחריות משפטית עם סכום בדולרים עליה — והדבר היחיד שסוגר אותו הוא ראיות שבנית עוד לפני שמישהו ביקש. זו כל התפיסה של מה שאנו בונים ב-Veriprajna: לא עוד לוח מחוונים שאומר לך לתעד את ה-AI שלך, אלא חבילת הביסוס עצמה — מפת הטענה-למערכת, קלסר הראיות, ה-AIBOM, נתיב המוצא — מורכבת ונבדקת עוד לפני שמכתב דרישת המסמכים נוחת.
אני חוזר שוב ושוב לאותו דוח שנתי. אחת-עשרה מילים, שהוגשו ונשכחו, ללא דבר מאחוריהן — לא מפה, לא קלסר, לא יומן שמחבר את המשפט למערכת. המודל שמתחתיו כנראה עבד בסדר גמור; רובם עובדים. מה שחסר היה הדבר האחד שבודק של ה-SEC, חוקר של ה-FTC ועורך דין של תובע כולם מבקשים באותו משפט שטוח: תראה לי. כתוב את הטענה שאתה יכול להוכיח, ובנה את ההוכחה עוד לפני שמישהו מבקש.
