מחברי AI מזויפים הפילו את Sports Illustrated. התוכן שלכם הבא בתור?

הבעיה

Sports Illustrated פרסמה ביקורות מוצרים שנכתבו בידי אנשים שמעולם לא התקיימו. "Drew Ortiz" — שתואר כחובב טבע ואוהב פעילות בחיק הטבע — היה מזויף לחלוטין. כך גם "Sora Tanaka", מדריכת כושר לכאורה עם סיפור רקע מומצא על אהבתה לאוכל ולמשקאות. לשניהם צורפו תמונות פנים שנוצרו בבינה מלאכותית ונרכשו בשווקים דיגיטליים. התוכן ש"כתבו" היה, לדברי גורמים פנימיים, "מחולל AI לחלוטין". מאמר אחד על כדורעף כלל את התצפית המייסרת בנובנותה ש"כדורעף יכול להיות קצת מסובך להתחלה, במיוחד בלי כדור אמיתי להתאמן איתו".

כשכתב העת הטכנולוגי Futurism חשף זאת בנובמבר 2023, המוציא לאור של Sports Illustrated לא מיהר להודות באמת. במקום זאת, הוא מחק בשקט את הפרופילים המזויפים בלי שום הסבר. פרופסורים לאתיקה של העיתונות כינו זאת "צורה של שקר". המוציא לאור הטיל את האחריות על ספק צד שלישי בשם AdVon Commerce. AdVon טען שכל המאמרים "נכתבו ונערכו בידי בני אדם". אבל עובדי AdVon לשעבר סיפרו סיפור אחר. הם אישרו שהחברה השתמשה בכלי AI פנימי בשם "MEL" לייצור תוכן בקנה מידה גדול. "הכותבים האנושיים" היו לרוב סתם מדביקים פלט AI לתוך מערכות ניהול תוכן.

אם החברה שלכם משתמשת ב-AI כדי לייצר כל תוכן שמגיע ללקוחות, הסיפור הזה הוא נורית האזהרה שלכם. הבעיה לא הייתה השימוש ב-AI. הבעיה הייתה איך השתמשו בו — בלי אימות, בלי שקיפות ובלי מעקות בטיחות.

למה זה חשוב לעסק שלכם

האסון של Sports Illustrated לא היה רק מביך. הוא היה קטסטרופה פיננסית מדידה שמחקה ערך לבעלי המניות וחיסלה מותג ותיק.

הנה מה שקרה, במספרים קשים:

• צניחת מניה של 27% ביום אחד. מניות The Arena Group צנחו ב-27% ביום שאחרי פרסום הדיווח של Futurism. המניה כבר איבדה יותר מ-80% משוויה באותה שנה. משקיעים ראו בחברה שלא מסוגלת לאמת מי כתב את המאמרים שלה עצמה חברה ללא ערך שניתן להגן עליו.
• פיגור בתשלום של 3.75 מיליון דולר, שלילת רישיון. Authentic Brands Group, שהחזיקה בשם Sports Illustrated, שללה את רישיון הפרסום. הסיבה הרשמית הייתה תשלום רבעוני של 3.75 מיליון דולר שלא שולם. אבל התזמון לימד על הכול: הנזק התדמיתי משערת ה-AI הפך את השותפות לרעילה.
• פיטורים המוניים. איגוד העובדים של SI דיווח ש"מספר משמעותי, אולי כולם" מהעובדים פוטרו. חדר חדשות בן 70 שנה רוקן מתוכנו. העיתונאים האנושיים — ש"נלחמו יחד כאיגוד לשמירה על רמתו של כתב העת ההיסטורי הזה" — שילמו את המחיר על הקיצורים בדרך של ההנהלה.
• שיעורי הזיה של 1.5% עד 6.4%. גם מודלי ה-AI הטובים ביותר מייצרים טענות שגויות בשיעורים האלה. אם הארגון שלכם מפרסם 10,000 מאמרים בשנה, שיעור שגיאה של 4% משמעו 400 יצירות שגויות מהותית — כל אחת מהן תביעה משפטית, התרת פרסום או פגיעה במוניטין שמחכה לקרות.

זו לא בעיה של תקשורת בלבד. אם העסק שלכם מייצר דוחות, מסמכי ציות, תקשורת עם לקוחות או תוכן שיווקי באמצעות AI, אתם נושאים באותו סיכון. הדירקטוריון שלכם, הרגולטורים שלכם והלקוחות שלכם לא יקבלו את "ה-AI המציא את זה" כהגנה.

מה באמת קורה מתחת למכסה המנוע

כדי להבין למה זה ממשיך לקרות, צריך להבין דבר אחד על אופן הפעולה בפועל של מודלי שפה גדולים (LLMs) — מנועי ה-AI שעומדים מאחורי כלים כמו ChatGPT. הם לא מחפשים עובדות. הם מנבאים את המילה הבאה הסבירה על סמך דפוסים בנתוני האימון שלהם.

חשבו על זה כמו השלמה אוטומטית בטלפון שלכם, אבל בקנה מידה של מיליארדי פרמטרים. הטלפון שלכם לא יודע מה התכוונתם להקליד. הוא מנחש על סמך מה שאנשים נוהגים בדרך כלל להקליד אחר כך. LLMs עושים את אותו הדבר עם משפטים, פסקאות ומאמרים שלמים. כשהדפוס של "ביקורת מוצר" כולל בדרך כלל ביוגרפיה של מחבר, ה-LLM מייצר כזו שנראית כמו ביוגרפיה. הוא ממלא את החללים — שם, תחביבים, מקום מגורים — בפרטים בעלי סבירות סטטיסטית. עבור המודל, "Drew Ortiz" אינו שקר. זו השלמת דפוס מוצלחת.

זה נקרא הזיה (hallucination), וזה לא באג שאפשר לתקן בטלאי. זה שזור באופן הפעולה של הטכנולוגיה. המודל מותאם לסבירות, לא לאמת. הוא יצהיר בביטחון מלא דברים שנשמעים נכון אבל הומצאו כליל.

המתכונת של Sports Illustrated הייתה מה שמומחים מכנים "LLM Wrapper" — שכבת תוכנה דקה על גבי מודל AI בסיסי, ללא בדיקת עובדות, ללא מסד נתונים לאימות וללא מסלול ביקורת. הכלי הפנימי של AdVon, "MEL", היה קולט מילות מפתח ומפרטי מוצרים, מעביר אותם דרך מודל AI ומוציא ביקורות מובנות. לא הייתה שום מערכת שבדקה האם המחבר בכלל קיים, האם הטענות על המוצר מדויקות או האם התוכן סותר עובדות ידועות.

צוות ה-IT שלכם עשוי לספר לכם שהוספת שלב של בדיקה אנושית פותרת את זה. אבל בקנה המידה ובמהירות שבהם המערכות האלה פועלות, הבודקים האנושיים הופכים ל"middleware אנושי" — מאשרים חותמת גומי את פלט ה-AI במקום לערוך אותו באמת. בדיוק זה מה שקרה ב-AdVon.

מה עובד (ומה לא)

לפני שתשקיעו בפתרון, כדאי שתדעו אילו גישות פופולריות לא יגנו עליכם.

"נוסיף סתם הצהרת גילוי נאות." לומר לקוראים ש"ייתכן ש-AI סייע" לא מונע מטענות שגויות להגיע ללקוחות או לרגולטורים שלכם. זה מעביר את האשמה בלי להפחית את הסיכון.

"נשכור עורכים שיבדקו את פלט ה-AI." בנפח גבוה, זה קורס. בודקים אנושיים לא יכולים לאמת באופן עצמאי כל טענה עובדתית בכל יצירה שחוללה ב-AI. הם הופכים ל"middleware אנושי" של הדבקה ואישור שבו השתמשה AdVon.

"נשתמש בפרומפטים טובים יותר." הנדסת פרומפטים — כתיבת הוראות מפורטות יותר ל-AI — לא משנה את ארכיטקטורת המודל. LLM עם פרומפט מוצלח עדיין מייצר הזיות. הוא פשוט מייצר הזיות מנומסות יותר.

מה שבאמת עובד הוא שינוי הארכיטקטורה. כך פועלת מערכת שמתחילה מאימות (verification-first):

1. קלט: עובדות מובנות, לא ניחושים. במקום לבקש מה-AI לכתוב מה"זיכרון" הפנימי שלו, בונים Knowledge Graph (גרף ידע) — מסד נתונים מאומת שבו כל עובדה מאוחסנת כקשר ברור (למשל: "Wilson AVP" → "certified by" → "AVP Official"). Research Agent ייעודי שולח שאילתות לגרף הזה ולמקורות חיצוניים מהימנים. הוא אוסף רק עובדות מאומתות. הוא מייצר נתונים גולמיים, לא סיפורים.

2. עיבוד: מפרידים בין הכותב לבודק. Writer Agent ממיר את העובדות המאומתות האלה לפרוזה קריאה. והכי קריטי: ל-Writer Agent הזה אין גישה לאינטרנט הפתוח. הוא לא יכול להמציא עובדות או ביוגרפיות חדשות. אחר כך Critic Agent נפרד בודק כל טענה מול ה-Knowledge Graph. אם ה-Writer קובע ש"Wilson AVP הוא הכדור הרשמי של אולימפיאדת 2024" וה-Knowledge Graph לא מחזיר התאמה, ה-Critic דוחה את הטיוטה ושולח אותה בחזרה לתיקון. מחקרים מראים שהגישה הזו מפחיתה הזיות ב-6% ומקטינה את צריכת הטוקנים ב-80% בהשוואה לשיטות המקובלות. בתחומים רפואיים, המערכות האלה השיגו דיוק של 100% בחילוץ נתונים קליניים, לעומת 63-95% ל-AI עצמאי.

3. פלט: כל טענה ניתנת למעקב. כל משפט בתוצר הסופי מקושר חזרה לצומת ספציפי ב-Knowledge Graph או למסמך מקור. קורא — או מבקר — יכול ללחוץ על כל טענה ולראות בדיוק מאיפה היא הגיעה. כך נוצר מסלול הביקורת שהיה נעדר לחלוטין מהמאמרים של Sports Illustrated.

היכולת להתחקות אחרי הטענות היא מה שחשוב ביותר לצוותי הציות והמשפט שלכם. כשרגולטור שואל "איך ה-AI שלכם הגיע למסקנה הזו", אתם יכולים להראות לו את נתיב ההיגיון המדויק. עם LLM Wrapper סטנדרטי — אינכם יכולים. התהליך ההסקתי קבור במיליארדי פרמטרים בלי שום דרך לחלץ אותו.

מסגרת הממשל שלכם צריכה להתיישר עם ISO 42001 וגם עם מסגרת ניהול הסיכונים של AI של NIST. המשמעות: קידוד ההגבלות בתוך המערכת עצמה — לא הסתמכות על הנחיות פרומפט כמו "בבקשה להיות מדויק". אם תפקידו של סוכן AI הוא לאחזר נתונים, לא אמורה להיות לו שום הרשאה לכתוב נרטיבים. הגבלות צריכות להיאכף באמצעות ארכיטקטורת המערכת, לא באמצעות תקווה.

לסיום, מומלץ לקיים באופן קבוע תרגילי red teaming — כלומר לנסות במכוון לשבור את מערכת ה-AI שלכם באמצעות קלטים עוינים, לפני שתוקפים או עיתונאים יעשו זאת בשבילכם.