我們打造了一套運作完美的假評論偵測器——直到有人把它丟進 BypassGPT
最先擊垮我信心的，不是一則假評論，而是一份價目表。
一個 Telegram 頻道上的掮客——一個公開頻道，一萬三千多名成員，不需密碼，毫不掩飾——貼出了一份菜單。一次按讚五毛錢。一則來自帶有「已驗證購買」標章帳號的評論要價五美元。大量購買還有折扣。這些待售的帳號並不是垃圾郵件過濾器閉著眼都能抓到的新註冊拋棄式帳號；它們已有兩年、三年、四年之久，帶有真實的購買紀錄，以及那種只有真人才會留下的不規則活動。我花了好幾週的時間，一直以為假評論偵測是一個困難的機器學習問題。盯著那份菜單，我明白了它確實是一個困難的機器學習問題——而且對方為此投入的資金，比它所鎖定的大多數品牌都還要充裕。
就在那一刻，我不再把假評論當成劣質文字，而開始把它們視為一個協同運作的經濟體。我們最終在 Veriprajna 打造的一切——以及我起初做錯的一切——都源自這個轉變。
詐欺在成為一種明碼標價的商品那天起，就不再是品質問題了。你無法靠過濾去打敗一個市場。
一場能通過你所有工具的 47 則評論攻擊
讓我描述一場現代攻擊實際上長什麼樣子，因為人們想像中的假評論與它們真正的運作方式之間的落差，正是現有工具失效的主要原因。
某個競爭對手想要埋葬你的產品。他們透過那些 Telegram 群組之一雇用了一名掮客。這名掮客掌控著一批陳年的、被盜用的帳號，並將它們部署來對付某個單一商品頁。在 72 小時內，47 則五星評論落在那個競爭產品上——你的評論保持乾淨，他們的則節節攀升。評論文字由 GPT-4 撰寫，接著再經過像 BypassGPT 這樣的工具處理，以擊敗那些尋找「過於流暢」機器寫作的困惑度偵測器。每則評論都會提及一項從該商品頁自己的問答區抓取來的特定產品功能。發文時間被錯開在三個時區，好讓任何內容都不會聚集成群。
每一則個別評論看起來都合法。它們通過了各大評論平台的內容過濾器。它們通過了 GPTZero。這些帳號夠老，足以躲過任何「新帳號」的判斷法則。你的品牌保護團隊什麼都沒注意到——直到你的數字開始變動，而它們確實會：多出一顆造假的星星，可以讓競爭對手的需求提升 38%，而造假的負評則可能讓目標的營收削減達四分之一，這一切都在你的平均評分默默吸收損害的同時發生。
這不是一項思想實驗。Amazon 在 2024 年 7 月與美國商業改進局（Better Business Bureau）聯合提起了首宗針對評論掮客 ReviewServiceUSA.com 的訴訟。Trustpilot 在 2024 年移除了 450 萬則假評論——占所有提交內容的 7.4%，高於前一年的 6.1%。Tripadvisor 攔截了 270 萬件詐欺提交，其中有些是 AI 生成的房產照片，製造出「幽靈飯店」，而旅客真的預訂了、現身後卻發現是一塊空地。這樣的規模並不邊緣。根據世界經濟論壇（World Economic Forum），研究人員估計約有 30% 的線上評論是假的，每年讓美國企業損失約 1,520 億美元。
這就是我以為自己理解的問題。而以下就是我搞錯的地方。
那個先是完美運作、然後就失靈的偵測器
我們的第一個版本是一個文字分類器。它讀取評論文字，並為其由機器生成的可能性評分。這是最理所當然要打造的東西，而我想坦白說：我支持它。它的展示效果極為漂亮。在我們的測試集上，它抓出 AI 撰寫評論的準確度，高到會讓你開始在腦海中草擬發布貼文。
接著我們拿它去對付那些經過「人性化工具」處理過的評論。
如今這類工具已有超過 30 種——BypassGPT、Undetectable.ai、StealthWriter、Humanize AI，還有十幾種其他的。它們拿機器生成的文字，把它「弄粗糙」到剛好足以擊破偵測器的程度：剝除那些洩露馬腳的逗號、拼接進連接詞、替換掉分類器學會與 GPT 輸出相關聯的詞彙。我們的準確度並沒有優雅地下滑。它是從懸崖上摔下去的。那些我們原本以高信心抓到的評論，如今以「看起來像真人」的姿態順利通關。
我記得隨之而來的爭論。半數團隊想繼續調校——更多訓練資料、對抗樣本、去追趕那些人性化工具。這是一種合理的直覺，也是一個陷阱。我看過那份研究：在某人測試過的 30 多種人性化工具中，只有 13 種能可靠地產出騙過最佳偵測器的文字。同類中最頂尖的文字分類器 Originality.ai，仍能抓到它們之中的大多數。但當攻擊者可以把一則評論跑過五種人性化工具、再提交分數最乾淨的那一則時，「大多數」就是錯的標準。一個只看文字的偵測器，正身處一場它在結構上早已輸掉的賽跑。
單一信號的偵測器並不是一個弱的偵測器。它是一個你已經明明白白告訴攻擊者該如何擊敗的偵測器。
更深層的問題，是我在讀到那份 Telegram 價目表那天就該看見的。有些最具破壞力的詐欺，根本不是 AI 寫的。當掮客付錢給一整個真人網絡去發文——受利益驅動的人類，也就是昔日 Mechanical Turk 血汗工場的現代版本——那些文字確實是道道地地由真人所寫。沒有任何語言上的破綻可找，因為過程中根本沒有機器參與。一個文字分類器看著一則來自真人的付費評論，看不出任何不對勁，因為在語言的層次上，確實沒有任何不對勁。而這種不對稱正從兩端同時擴大——到 2026 年初，23% 的評論撰寫者承認自己至少偶爾會使用 AI，而只有 31% 的消費者有信心自己能辨認出一則由 AI 撰寫的評論。
就在那時，我們把文字模型從核心位置上扔了出去。並非完全扔掉——它仍然是一個信號——但它不再是唯一的信號。
究竟是什麼能抓到一場協同行動？
拯救了這個專案的重新框定是：一則個別的假評論幾乎不可能抓到，但一場行動會留下個別評論所沒有的指紋。
那 47 則評論即使每一則都乾淨，卻仍共享著某些東西。它們是成群爆發式地湧現。它們引用同一項被抓取的功能。當你把賣家、評論者與產品之間的關係繪製出來，貼出這些評論的帳號會以一個不自然出現的叢集形式亮起來——同一組帳號在同一個時間窗內，評論著同一小組狹窄的產品。這正是那些認真看待詐欺的平台轉向圖方法的原因：Amazon 的技術堆疊在賣家—評論者—產品的網絡上運行深度圖神經網路，正是因為網絡結構會洩露文字永遠不會洩露的協同性。我們也朝同一方向打造——在語言層之上，融合行為信號（一個帳號隨時間的行為方式）、時序信號（評論彼此之間相對何時到達）以及關係信號（誰與誰相連）。
這些信號中沒有任何單獨一項是足夠的。一次爆發可能是一場真正的病毒式爆紅時刻。一個叢集可能是一個真實的粉絲社群。但這種組合——一次爆發、由抓取功能的文字構成、來自一個在關係上可疑的叢集、帶著被刻意設計成看起來不錯開的錯開時序——就是一場付費行動的簽名，而它能在人性化工具下存活，因為人性化工具只重寫文字。
同樣的邏輯延伸到圖片上，而那是無人乾淨俐落地解決過的前沿。幽靈飯店與捏造的產品照正在蔓延，因為 AI 圖片生成變便宜了——而對一個接待業品牌來說，其中的利害關係並不抽象：McAfee 估算 2025 年由 AI 驅動的旅遊詐騙損失約為 130 億美元，平均每名受害者約一千美元，其中很大一部分是透過那些直到入住前都看似真實的商品頁流出的。有一項名為 C2PA 的內容來源標準，會在拍攝當下以密碼學方式為一張圖片簽名——三星的 Galaxy S25 成為第一支原生簽署照片的消費級手機，而 2026 年對那個生態系而言確實是一個轉捩點。但這裡有一個我會提醒任何品牌注意的實務陷阱：平台會在圖片處理過程中剝除這些中繼資料。那個證明一張照片為真的憑證，在它被上傳到最要緊的那個市集的那一刻就被抹除了。來源證明對電商而言是一個真實的工具，卻帶著一個真實的漏洞，而假裝並非如此，等於是在向品牌兜售虛假的安心感。
為什麼平台的工具沒有早就解決這個問題？
這是我最常被問到的問題，而且問得公道。Amazon 每年花費超過 5 億美元，並有 8,000 人在處理假評論。它在 2024 年封鎖了超過 2.75 億則。那還有誰需要去打造任何東西？
因為平台打的是它們的戰爭，不是你的。Amazon 保護的是 Amazon——而且即使花了那麼多錢，仍有 49% 的美國消費者說自己有信心曾在那裡看過假評論。評論管理平台則把同一條界線畫在了另一邊。Bazaarvoice 每月在 23 億次購物工作階段中運行超過 1,000 條詐欺偵測規則，而且它確實很擅長——在它自己的網絡之內。一則關於你產品、掛在 Amazon 上的假評論，對 Bazaarvoice 而言根本是隱形的。更糟的是，聯合供稿是雙面刃：一則通過 Bazaarvoice 攝取的假評論，可以在 48 小時內擴散到 50 多個零售商網站，這意味著補救必須發生在源頭節點，而不是在每一個下游商品頁上打地鼠。
文字偵測器有它們自己的天花板——它們是單一信號，這是我用慘痛代價學到的。像 The Transparency Company 這樣的稽核服務會每日掃查並提出爭議申訴，但它們是針對已知模式調校的，面對那些專門為了躲避它們而適應調整的客製化掮客戰術時就會吃力。而消費者真正信任、會替他們檢查這件事的那一個工具 Fakespot，在營運九年後於 2025 年 7 月關閉——Mozilla 找不到可持續的模式。安全網在攻擊變得更高明的同時，反而縮小了。
沒有任何一家廠商在看守你品牌所生活的整片場域。它們各自守著自己的院子，而詐欺就住在它們之間的那條街上。
那個落差——跨平台的、品牌側的、信號融合的——正是我們著手去占據的東西。不是要取代平台，而是要給一個品牌一個橫跨 Amazon、Google、Yelp、Trustpilot 與 Tripadvisor 的一體化視角，其偵測則圍繞著其產品類別而打造，而非一套通用規則。這正是我們打造的評論誠信與合成內容偵測系統的用途所在。
那位並不想要一個更乾淨評論頁的客戶
我一直在推銷偵測準確度——召回率、精確率、我們能抓到多少假貨。然後我和一位品牌保護主管通了通電話，她在大約兩分鐘內就為我重新框定了整個產品。
她並沒有以準確度開場。她問的是我們能交給 FTC 什麼。
2024 年 10 月，FTC 的《消費者評論與推薦證言規則》（Consumer Reviews and Testimonials Rule）生效，而它所做的事比「禁止假評論」更為微妙。它創造了一種「理應知情」的標準。如果假評論就掛在你的商品頁上，而你沒有一套合理的流程去偵測並回應它們，那麼缺乏偵測系統本身就是違規行為。 罰款為每次違規 $53,088，這是截至 2025 年 1 月依通膨調整後的金額，而且違規持續的每一天都分開計算。一場由 100 則假評論構成、放著不處理的協同行動，就是 530 萬美元的風險曝險。FTC 在 2025 年 12 月依該規則向 10 家公司發出了首批警告信，所以這件事大約在一年前就不再只是理論了。
而且這不只涉及美國品牌。英國的競爭與市場管理局（Competition and Markets Authority）在 2026 年 3 月依據新的《數位市場、競爭與消費者法》（Digital Markets, Competition and Consumers Act）展開了五項調查，罰款最高可達全球營業額的 10%。歐盟《AI 法案》第 50 條要求對 AI 生成內容進行機器可讀的揭露，將於 2026 年 8 月生效。加州的 SB 942 在 2026 年 1 月新增了 AI 內容揭露規定。監管的底線在一夕之間，同時挪動到了每一個品牌腳下。
那位主管教會我的是：偵測是必要的，但並不充分。一個受監管的品牌真正需要的交付成果，是盡職調查的證據 —— 一份稽核日誌，顯示一套合理的偵測與回應流程確實存在且運行過，無論任何單一假評論是否溜了過去。這種東西今天你在貨架上是買不到的；平台不會把它們的偵測資料給你，而那些單點解決方案也不會產出合規等級的紀錄。所以我們把這個系統打造成能把那道軌跡作為第一等的輸出來產出，而不是事後才補上的東西。在「理應知情」規則之下，站得住腳的證物並不是一個毫無瑕疵的評論頁——而是你確實一直在查看的書面證據。
品牌該自建這套系統、購買它，還是等待平台？
人們問我，他們能不能就乾脆等平台迎頭趕上。我誠實的答案是：平台正以它們所能達到的最快速度，去跑一個它們定義為「保護自己」的問題，而監管的時鐘如今正針對著你、獨立地走著。等待是一種立場，而在 2024 年 10 月之後，這是一種被貼上了金額數字的立場。
第二個問題通常是他們能不能在內部自建這套系統。你可以——但看看那些認真的內部專案要花多少錢。Amazon 那個五億美元、8,000 人的運作，是要在規模上做到這件事所需投入的標竿，而大多數品牌並不會為了盯著自己橫跨五個市集的商品頁，就架起那樣的陣仗。實際可行的選項，是一套針對你所屬類別調校的客製系統，或者一堆你自己拼湊起來、指望它們能互相重疊的部分工具。大型顧問公司會把後者包裝在一套框架裡賣給你，而且要在任何技術真正運行之前，先花上六到十二個月。
他們提出的第三件事是軍備競賽——如果人性化工具不斷進步，任何偵測器不都只是暫時的嗎？這是一個正確的擔憂，而它也正是為什麼答案不能是一個文字分類器。一個多信號系統在單一信號被攻擊時，會緩慢地退化，因為攻擊者必須同時擊敗行為、時序與網絡結構，而不只是重寫文字。你不是靠擁有一把更好的槍去贏得軍備競賽。你是靠讓攻擊的成本高於其回報去贏得它。當詐欺被定價為一次按讚五毛錢時，提高一場成功行動的成本，就是整場賽局的全部。
那份 Telegram 價目表，早在任何模型之前就教會了我某件事，而那也是我不斷回頭去想的事。對方把這當成一門有損益表的生意。多年來，品牌卻把它當成一件要被過濾掉的麻煩。能在這個十年結束時仍保住評分完好的品牌，將會是那些開始像攻擊者早已在做的那樣，去對待自己評論生態系的品牌——把它當成一片值得刻意去防守、正被爭奪的基礎設施。這就是我會最先做出的轉變，而這也正是我們打造的系統，從第一行程式碼起就假定的前提。
一則你永遠抓不到的假評論，讓你損失一筆銷售。一套你從未打造的偵測系統，在 2024 年 10 月之後，每天讓你損失 $53,088。這兩者不是同一個問題，而第二個，正是大多數品牌至今還沒為它定價的那一個。
