בנינו מזהה ביקורות מזויפות שעבד באופן מושלם — עד שמישהו הריץ אותו דרך BypassGPT
הדבר הראשון שריסק את הביטחון שלי לא היה ביקורת מזויפת. זה היה מחירון.
מתווך בערוץ טלגרם — אחד הפתוחים, יותר מ-13,000 חברים, בלי סיסמה, בלי העמדת פנים — פרסם תפריט. חמישים סנט להצבעת תמיכה. חמישה דולר לביקורת מחשבון עם תג "רכישה מאומתת". הנחות לכמויות. החשבונות שהוצעו לא היו פרופילים חד-פעמיים טריים שמסנן ספאם היה יכול לתפוס בשנת הצהריים; הם היו בני שנתיים, שלוש, ארבע, עם היסטוריות רכישה אמיתיות ועם סוג הפעילות הלא-סדירה שאדם מותיר אחריו. במשך שבועות הנחתי כי זיהוי ביקורות מזויפות הוא בעיה קשה של למידת מכונה. כשבהיתי באותו תפריט, הבנתי שזו בעיה קשה של למידת מכונה שהצד השני מממן את ההתמודדות איתה טוב יותר מרוב המותגים שהוא תוקף.
זה היה הרגע שבו הפסקתי לחשוב על ביקורות מזויפות כטקסט גרוע והתחלתי לחשוב עליהן ככלכלה מתואמת. כל מה שבנינו בסופו של דבר ב-Veriprajna — וכל מה שטעיתי בו קודם — נבע מאותו שינוי תפיסה.
הונאה חדלה להיות בעיית איכות ביום שבו הפכה לסחורה מתומחרת. אי אפשר לנצח שוק באמצעות סינון.
מתקפה של 47 ביקורות שעוברת כל כלי שברשותך
הרשו לי לתאר כיצד באמת נראית מתקפה מודרנית, משום שהפער בין הדרך שבה אנשים מדמיינים ביקורות מזויפות לבין הדרך שבה הן פועלות בפועל הוא רוב הסיבה לכך שהכלים הקיימים נכשלים.
מתחרה רוצה לקבור את המוצר שלך. הוא שוכר מתווך דרך אחת מאותן קבוצות טלגרם. המתווך שולט באורווה של חשבונות ותיקים ופרוצים ופורס אותם נגד ליסטינג בודד. במהלך 72 שעות, 47 ביקורות של חמישה כוכבים נוחתות על המוצר המתחרה — שלך נשאר נקי, שלהם מטפס. טקסט הביקורת נכתב על ידי GPT-4, ואז הועבר דרך כלי כמו BypassGPT כדי להביס את מזהי הפרפלקסיטי המחפשים כתיבה מכונתית "חלקה מדי". כל ביקורת מזכירה תכונת מוצר ספציפית שנגרדה ממדור השאלות והתשובות של הליסטינג עצמו. זמני הפרסום מפוזרים על פני שלושה אזורי זמן כך ששום דבר אינו מתקבץ.
כל ביקורת בודדת נראית לגיטימית. הן עוברות את מסנני התוכן בפלטפורמות הביקורת הגדולות. הן עוברות את GPTZero. החשבונות ותיקים מספיק כדי לחמוק מכל היוריסטיקה של "חשבון חדש". צוות הגנת המותג שלך אינו מבחין בדבר — עד שהמספרים שלך זזים, והם זזים: כוכב הונאה נוסף יכול להעלות את הביקוש של מתחרה ב-38%, וביקורות שליליות מזויפות יכולות לקצץ עד רבע מההכנסות של יעד, כל זאת בזמן שהדירוג הממוצע שלך סופג את הנזק בשקט.
זה אינו ניסוי מחשבתי. אמזון הגישה את תביעתה המשותפת הראשונה יחד עם ה-Better Business Bureau נגד מתווך הביקורות ReviewServiceUSA.com ביולי 2024. Trustpilot הסירה 4.5 מיליון ביקורות מזויפות ב-2024 — 7.4% מכל מה שהוגש, עלייה מ-6.1% בשנה הקודמת. Tripadvisor יירטה 2.7 מיליון הגשות הונאה, חלקן תמונות נכסים שנוצרו בבינה מלאכותית ויצרו "מלונות רפאים" שמטיילים אכן הזמינו והגיעו אליהם רק כדי למצוא מגרש ריק. ההיקף אינו שולי. חוקרים מעריכים כי כ-30% מהביקורות המקוונות מזויפות, ועולות לעסקים בארה"ב כ-152 מיליארד דולר בשנה, לפי הפורום הכלכלי העולמי.
אז זו הבעיה שחשבתי שהבנתי. הנה המקום שבו טעיתי.
המזהה שעבד באופן מושלם, ואז לא
הגרסה הראשונה שלנו הייתה מסווג טקסט. הוא קרא את טקסט הביקורת והעניק ציון לסבירות שהוא נוצר על ידי מכונה. זה הדבר המובן מאליו לבנות, ואני רוצה להיות כן: תמכתי בו. הוא הודגם בצורה יפהפייה. על מערך הבדיקה שלנו הוא תפס ביקורות שנכתבו בבינה מלאכותית ברמת דיוק שגורמת לך להתחיל לנסח בראש את פוסט ההשקה.
ואז הרצנו אותו מול ביקורות שעברו דרך כלי האנשה (humanizer).
יש כיום יותר מ-30 כלים כאלה — BypassGPT, Undetectable.ai, StealthWriter, Humanize AI, ותריסר אחרים. הם לוקחים טקסט שנוצר במכונה ומחספסים אותו רק במידה מספקת כדי לשבור מזהה: מסירים את הפסיקים המסגירים, משחילים מילות קישור, ומחליפים את אוצר המילים שמסווגים לומדים לשייך לפלט של GPT. הדיוק שלנו לא הידרדר בהדרגה. הוא צנח מצוק. הביקורות שתפסנו בביטחון גבוה שטו כעת בקלות בסיווג "נראה אנושי".
אני זוכר את הוויכוח שבא בעקבות זאת. חצי מהצוות רצה להמשיך לכייל — יותר נתוני אימון, דוגמאות יריבות, לרדוף אחרי כלי ההאנשה. זו אינטואיציה סבירה וזו מלכודת. עיינתי במחקר: מתוך יותר מ-30 כלי האנשה שמישהו בדק, רק 13 הפיקו באופן אמין טקסט שהערים על המזהים הטובים ביותר. מסווג הטקסט הטוב ביותר בסוגו, Originality.ai, עדיין תופס את רובם. אבל "רוב" הוא רף שגוי כשתוקף יכול להריץ ביקורת דרך חמישה כלי האנשה ולהגיש את זו שמקבלת את הציון הנקי ביותר. מזהה מבוסס-טקסט בלבד נמצא במרוץ שכבר הפסיד בו מבחינה מבנית.
מזהה בעל אות יחיד אינו מזהה חלש. הוא מזהה שבו אמרת לתוקף בדיוק כיצד להביס אותו.
הבעיה העמוקה יותר הייתה כזו שהייתי צריך לראות ביום שקראתי את אותו מחירון בטלגרם. חלק מההונאות המזיקות ביותר אינן כתובות בבינה מלאכותית כלל. כאשר מתווך משלם לרשת של אנשים אמיתיים כדי לפרסם — בני אדם מתומרצים, הגרסה המודרנית של חוות ה-Mechanical Turk הישנה — הטקסט הוא אנושי באמת ובתמים. אין שום סימן לשוני שאפשר למצוא, כי אין מכונה במעגל. מסווג טקסט המביט בביקורת בתשלום מאדם אמיתי אינו רואה שום דבר פגום, כי ברמת השפה, אין. והאסימטריה מתרחבת משני הקצוות — עד תחילת 2026, 23% מכותבי הביקורות הודו שהשתמשו בבינה מלאכותית לפחות לעיתים, בעוד שרק 31% מהצרכנים היו בטוחים שהם מסוגלים לזהות ביקורת שנכתבה בבינה מלאכותית.
אז זרקנו את מודל הטקסט ממקומו כמרכיב המרכזי. לא לגמרי — הוא עדיין אות — אבל הוא חדל להיות האות.
מה באמת תופס קמפיין מתואם?
המסגור מחדש שהציל את הפרויקט: כמעט בלתי אפשרי לתפוס ביקורת מזויפת בודדת, אבל קמפיין מותיר טביעות אצבע שהביקורות הבודדות אינן מותירות.
אותן 47 ביקורות חולקות משהו משותף אפילו כשכל אחת מהן נקייה. הן מגיעות במקבץ. הן מתייחסות לאותה תכונה שנגרדה. החשבונות שפרסמו אותן, כשממפים את היחסים בין המוכרים, המבקרים והמוצרים, נדלקים כאשכול שאינו מתרחש באופן טבעי — אותה קבוצת חשבונות המבקרת את אותה קבוצה צרה של מוצרים באותו חלון זמן. זו הסיבה שהפלטפורמות המתייחסות להונאה ברצינות עברו לשיטות גרף: המערך של אמזון מריץ רשתות עצביות גרפיות עמוקות על פני רשת המוכר-מבקר-מוצר בדיוק משום שמבנה הרשת מסגיר תיאום שהטקסט לעולם לא יסגיר. בנינו באותו כיוון — תוך מיזוג אותות התנהגותיים (כיצד חשבון פועל לאורך זמן), אותות זמניים (מתי ביקורות מגיעות זו ביחס לזו), ואותות יחסיים (מי מקושר למי) מעל השכבה הלשונית.
אף אחד מהם בפני עצמו אינו מספיק. מקבץ יכול להיות רגע ויראלי אמיתי. אשכול יכול להיות קהילת מעריצים אמיתית. אבל השילוב — מקבץ, של טקסט גורד-תכונות, מאשכול חשוד יחסית, עם תזמון מפוזר שתוכנן להיראות בלתי-מפוזר — הוא החתימה של קמפיין בתשלום, והוא שורד את כלי ההאנשה משום שכלי ההאנשה משכתב רק את המילים.
אותו היגיון מתרחב לתמונות, שהן החזית שאיש לא פתר עד הסוף. מלונות רפאים וצילומי מוצר מפוברקים מתפשטים משום שיצירת תמונות בבינה מלאכותית הוזלה — ולמותג אירוח הסיכונים אינם מופשטים: McAfee העריכה את הפסדי הונאות התיירות מונעות-הבינה-המלאכותית בכ-13 מיליארד דולר ב-2025, כאלף דולר לקורבן, חלק ניכר מהם נותב דרך ליסטינגים שנראו אמיתיים עד לצ'ק-אין. קיים תקן מקור-תוכן, C2PA, החותם תמונה קריפטוגרפית ברגע הצילום — ה-Galaxy S25 של סמסונג הפך לטלפון הצרכני הראשון שחותם תמונות באופן מובנה, ו-2026 היא באמת נקודת מפנה למערכת האקולוגית ההיא. אבל הנה המלכוד התפעולי שהייתי מזהיר כל מותג מפניו: הפלטפורמות מפשיטות את המטא-דאטה במהלך עיבוד התמונה. האישור המוכיח שתמונה אמיתית נמחק ברגע שהיא מועלית לזירת המסחר שבה זה הכי חשוב. אימות המקור הוא כלי אמיתי עם חור אמיתי בו עבור מסחר אלקטרוני, ולהעמיד פנים אחרת פירושו למכור למותג נחמה שקרית.
מדוע הכלים של הפלטפורמות לא פתרו את זה כבר?
זו השאלה שאני מקבל הכי הרבה, והיא הוגנת. אמזון מוציאה יותר מ-500 מיליון דולר בשנה ומעסיקה 8,000 אנשים בעבודה על ביקורות מזויפות. היא חסמה יותר מ-275 מיליון מהן ב-2024. מדוע שמישהו יצטרך לבנות משהו בכלל?
משום שהפלטפורמות נלחמות במלחמה שלהן, לא בשלך. אמזון מגינה על אמזון — ואפילו בהוצאה כזו, 49% מהצרכנים בארה"ב אומרים שהם בטוחים שראו שם ביקורות מזויפות. לפלטפורמות ניהול הביקורות מתוחם אותו גבול בכיוון ההפוך. Bazaarvoice מריצה יותר מ-1,000 כללי זיהוי הונאה על פני 2.3 מיליארד סשנים של קניות בחודש, והיא באמת טובה בכך — בתוך הרשת שלה עצמה. ביקורת מזויפת על המוצר שלך שיושבת על אמזון היא פשוט בלתי-נראית עבור Bazaarvoice. גרוע מכך, סינדיקציה חותכת לשני הכיוונים: ביקורת מזויפת שעוברת את קליטת Bazaarvoice יכולה להתפשט על פני יותר מ-50 אתרי קמעונאים בתוך 48 שעות, מה שאומר שהתיקון חייב להתרחש בצומת המקור, ולא במשחק "הכה את החפרפרת" בכל ליסטינג במורד הזרם.
למזהי הטקסט יש תקרה משלהם — הם אות בודד, כפי שלמדתי בדרך הקשה. שירותי המבדק כמו The Transparency Company מבצעים סריקות יומיות ומגישים ערעורים, אבל הם מכוונים לדפוסים ידועים ומתקשים מול טקטיקות המתווכים המותאמות אישית שמסתגלות במיוחד כדי לחמוק מהם. והכלי היחיד שצרכנים באמת סמכו עליו שיבדוק זאת עבורם, Fakespot, נסגר ביולי 2025 לאחר תשע שנים — Mozilla לא הצליחה למצוא מודל בר-קיימא. רשת הביטחון הצטמצמה בדיוק כשהמתקפות השתפרו.
אף ספק אינו צופה בכל השדה שבו המותג שלך חי. כל אחד מהם שומר על החצר שלו, וההונאה חיה ברחוב שביניהם.
אותו פער — חוצה-פלטפורמות, מצד המותג, ממוזג-אותות — הוא הדבר שיצאנו לתפוס. לא כדי להחליף את הפלטפורמות, אלא כדי לתת למותג מבט אחד על פני אמזון, Google, Yelp, Trustpilot ו-Tripadvisor בבת אחת, עם זיהוי הבנוי סביב קטגוריית המוצר שלו במקום מערכת כללים גנרית. זה מה שמערכת שלמות הביקורות וזיהוי התוכן הסינתטי שבנינו נועדה לו.
הלקוחה שלא רצתה עמוד ביקורות נקי יותר
הצגתי דיוק זיהוי — recall, precision, כמה זיופים נתפוס. ואז עליתי לשיחה עם אחראית הגנת מותג שמסגרה עבורי מחדש את כל המוצר בערך בשתי דקות.
היא לא פתחה בדיוק. היא שאלה מה נוכל למסור ל-FTC.
באוקטובר 2024 נכנס לתוקף כלל ביקורות הצרכנים והעדויות של ה-FTC, והוא עשה משהו מעודן יותר מ"ביקורות מזויפות אסורות". הוא יצר תקן של "היה עליך לדעת". אם ביקורות מזויפות יושבות על הליסטינגים שלך ואין לך תהליך סביר לזהות ולהגיב להן, היעדר מערכת זיהוי הוא עצמו ההפרה. העונש הוא $53,088 להפרה, מתואם לאינפלציה נכון לינואר 2025, וכל יום שבו ההפרה נמשכת נספר בנפרד. קמפיין מתואם של 100 ביקורות מזויפות, שנותר ללא מענה, מהווה חשיפה של 5.3 מיליון דולר. ה-FTC שלחה את מכתבי האזהרה הראשונים שלה תחת הכלל ל-10 חברות בדצמבר 2025, כך שזה חדל להיות תיאורטי לפני כשנה.
וזה לא רק מותגים אמריקאים. רשות התחרות והשווקים של בריטניה פתחה חמש חקירות במרץ 2026 תחת חוק השווקים הדיגיטליים, התחרות והצרכנים החדש, עם קנסות של עד 10% מהמחזור העולמי. סעיף 50 של חוק הבינה המלאכותית של האיחוד האירופי, המחייב גילוי קריא-מכונה של תוכן שנוצר בבינה מלאכותית, נכנס לתוקף באוגוסט 2026. חוק SB 942 של קליפורניה הוסיף דרישות גילוי לתוכן בינה מלאכותית בינואר 2026. רצפת הרגולציה זזה תחת כל מותג בבת אחת.
מה שאותה אחראית לימדה אותי הוא שזיהוי הוא הכרחי אך אינו מספיק. התוצר שמותג מפוקח באמת זקוק לו הוא ראיה לבדיקת נאותות — יומן מבדק המראה שתהליך סביר של זיהוי-ותגובה היה קיים ופעל, יהא אשר יהא כל ביקורת מזויפת בודדת שחמקה. אי אפשר לקנות את זה מהמדף היום; הפלטפורמות לא ייתנו לך את נתוני הזיהוי שלהן, ופתרונות הנקודה אינם מייצרים רשומות ברמת ציות. לכן בנינו את המערכת כך שתפיק את העקבה הזו כפלט מדרגה ראשונה, לא כמחשבה שלאחר מעשה. הארטיפקט הבר-הגנה תחת כלל "היה עליך לדעת" אינו עמוד ביקורות ללא רבב — הוא ההוכחה המתועדת לכך שחיפשת.
האם מותג צריך לבנות את זה, לקנות אותו, או לחכות לפלטפורמות?
אנשים שואלים אותי אם הם יכולים פשוט לחכות שהפלטפורמות ישלימו את הפער. תשובתי הכנה: הפלטפורמות רצות מהר ככל יכולתן על בעיה שהגדירו כהגנה על עצמן, ושעון הרגולציה מתקתק עכשיו עליך, בנפרד. ההמתנה היא עמדה, ואחרי אוקטובר 2024 זו עמדה שמוצמד לה סכום דולרי.
השאלה השנייה היא בדרך כלל האם הם יכולים לבנות את זה פנימית. אתה יכול — אבל הבט כמה עולות תוכניות פנימיות רציניות. המבצע של אמזון בחצי מיליארד דולר ו-8,000 איש הוא אמת המידה למה שנדרש כדי לעשות זאת בקנה מידה גדול, ורוב המותגים אינם מקימים דבר כזה כדי לצפות בליסטינגים שלהם על פני חמש זירות מסחר. האפשרויות הריאליות הן מערכת מותאמת אישית המכווננת לקטגוריה שלך, או ערימה של כלים חלקיים שאתה מחבר יחד ומקווה שיחפפו. חברות הייעוץ הגדולות ימכרו לך את האחרונה עטופה במסגרת עבודה, שישה עד שנים-עשר חודשים לפני שטכנולוגיה כלשהי באמת פועלת.
הדבר השלישי שהם מעלים הוא מרוץ החימוש — אם כלי ההאנשה ממשיכים להשתפר, האם כל מזהה אינו זמני? זו דאגה נכונה, וזו בדיוק הסיבה שהתשובה אינה יכולה להיות מסווג טקסט. מערכת רב-אותית מתדרדרת לאט כשאות אחד מותקף, משום שהתוקף חייב להביס התנהגות, תזמון ומבנה רשת בו-זמנית, לא רק לשכתב מילים. אתה לא מנצח מרוץ חימוש בכך שיש לך רובה טוב יותר. אתה מנצח אותו בכך שאתה גורם למתקפה לעלות יותר מהתמורה. כשהונאה מתומחרת בחמישים סנט להצבעת תמיכה, העלאת העלות של קמפיין מוצלח היא כל המשחק.
מחירון הטלגרם לימד אותי משהו לפני שכל מודל עשה זאת, וזה הדבר שאני חוזר אליו שוב ושוב. הצד השני מתייחס לזה כאל עסק עם דוח רווח והפסד. במשך שנים מותגים התייחסו לזה כאל מטרד שיש לסנן. המותגים שייצאו מהעשור הזה עם הדירוגים שלהם שלמים יהיו אלה שהתחילו להתייחס למערכת האקולוגית של הביקורות שלהם כפי שהתוקפים כבר עושים — כתשתית שנויה במחלוקת ששווה להגן עליה במכוון. זה השינוי שהייתי עושה ראשון, והוא זה שהמערכת שבנינו מניחה מהשורה הראשונה של הקוד.
ביקורת מזויפת שלעולם לא תתפוס עולה לך מכירה. מערכת זיהוי שלעולם לא בנית, אחרי אוקטובר 2024, עולה לך $53,088 ליום. אלה אינן אותה בעיה, והשנייה היא זו שרוב המותגים עדיין לא תמחרו.
