那個讓我們的AI崩潰的光頭（以及它教給我的關於構建真正實用視覺系統的啟示）
2020年10月，因弗內斯喀里多尼亞薊花與艾爾聯之間的一場蘇格蘭足球比賽，成了我研究過的最具啟發性的AI故障案例。一套旨在追蹤足球並在沒有人工操作員的情況下轉播比賽的自動攝影機系統，在整場比賽中都在深情款款地追蹤著一名站在邊線上的邊裁的光頭。守在電視機前的球迷錯過了每一個進球。互聯網徹底炸開了鍋。
起初，我也笑了。但隨後我便笑不出來了，因為我意識到我的團隊正在構建具有完全相同盲點的系統。
攝影機的AI按照自身的邏輯完美地完成了任務。它在球場泛光燈下發現了一個圓形的淺色物體，並賦予了98%的信心度評分的「足球」標籤。真正的球——快速移動、在陰影中模糊、偶爾被球員遮擋——評分僅在80%左右。系統遵循了數學邏輯。而數學與現實脫節。在偵測模式與理解你所看到的事物之間的鴻溝，正是我過去幾年傾注心血的地方，也是我開始在 Veriprajna 構建物理約束視覺系統的原因。
當AI觀察世界時，它到底看到了什麼？
大多數電腦視覺系統處理圖像的方式，就像一個極其自信的蹣跚學步的幼兒在動物園辨認動物一樣。圓圓發亮的？球。四條腿的？狗。這種相似並非玩笑——現代卷積神經網絡（CNN）將圖像分解為紋理、邊緣和形狀，然後將這些特徵與從訓練資料中學到的模式進行匹配。從本質上講，它們就是紋理匹配機器。
在受控條件下，這種方法的效果好得驚人。但在物理世界開始展現其物理特性的那一刻，它就徹底崩潰了。
目標偵測不等於目標理解。一個看到圓形物體並稱其為球的系統，識別出的僅僅是紋理。而一個拒絕該識別結果、因為該「球」已經在5.5英尺的高度懸停了三分鐘的系統——那才真正理解了某些東西。
因弗內斯的攝影機無法區分頭和球，因為它完全沒有球如何運動的概念。足球遵循拋體運動。它在受到衝擊時加速。它的飛行速度可達每小時80英里。它不可能依附在一個以步行速度移動的人類軀幹上。這些並非深奧的見解——觀看比賽的孩子都會知道。但該AI以電腦視覺界所謂的「單幀獨立推理」方式運作，將每幅圖像視為孤立的快照，對前序發生的事情沒有記憶，對接下來應該發生的事情也沒有預期。
我意識到我們面臨相同問題的那個夜晚
我真希望自己能說，我是透過某種優雅的理論洞察才得出物理約束視覺這一方法的。事實要難看得多。我們當時正在為一家半導體客戶構建缺陷檢測系統，而我們的模型不斷將灰塵顆粒標記為電路缺陷。不是偶爾——而是接連不斷。極高的誤報率徹底摧毀了生產團隊對系統的信任，而他們不信任也是完全正確的。
我記得凌晨兩點坐在檢測結果前，怒火中燒，因為按照我們跟踪的每一項基準指標，我們的模型都是準確的。在標準測試資料上，它識別缺陷的準確率超過90%。但生產環境並非標準測試資料。晶圓上會落上灰塵。檢測工位之間的光照會發生變化。模型看到一個暗斑就稱其為缺陷，就像因弗內斯的攝影機看到一個圓形就稱其為球一樣。
我和技術長（CTO）為了修復方案爭論了一週。他想要更多的訓練資料。我則想改變架構。當我們提出一個簡單的問題時，爭論結束了：「我們的模型知道灰塵顆粒和電路缺陷在多角度成像下的表現不同嗎？」它不知道。真實的缺陷——矽片上的物理凹坑或刮痕——當從不同角度對它成像時，其位置會發生可預測的變化。這就是視差。而停留在表面的灰塵顆粒表現則截然不同。我們當時是在要求一個紋理匹配器去完成物理學家的工作。
那是轉折點。我們不再試圖讓神經網絡變得更聰明，而是開始讓它服從物理定律。
那場意外翻車的技術展示
在半導體項目轉向三個月後，我坐在一家物流公司的會議室裡推介我們的新方法。桌子對面坐著對方的十五個人。我搭建了一個現場展示，展示我們的物理約束追蹤器如何在模擬倉庫中追蹤包裹、在遮擋情況下預測其位置並拒絕虛假偵測。
展示開始時天衣無縫。隨後有人電話響了，螢幕反射的一道光線以恰恰錯誤的角度擊中了我們的攝影機。追蹤器卡頓了一下。邊界框瞬間跳到了天花板上的照明燈具上，並在那裡令人煎熬地停留了三秒鐘，隨後物理層才將其糾正過來。
我站在那裡，看著自己的軟體以我花了數月堅稱不會發生的方式崩潰。房間裡一片寂靜。我恨不得找個地縫鑽進去。
物理層恢復了過來。這正是關鍵所在。但在那三秒鐘裡，我明白了一個基準測試從未教過我的道理：在生產環境中，信任不在於平均準確率。而在於在最糟糕的一幀中會發生什麼。
我大聲說了出來，一半是對房間裡的人說，一半是對自己說：「通用系統現在肯定還在追蹤那個吸頂燈。而我們的系統完成了糾偏。這種糾偏恢復能力才是真正的產品。」坐在桌子對面的CTO緩緩點頭。兩週後他們簽約了。但我那天晚上回到家，重寫了我們的信心度顯示邏輯，使系統能夠即時展示其不確定性——因為我再也不想站在客戶面前假裝數學是魔法了。
為什麼準確率達90%的AI系統會在生產環境中失敗？
有一個陷阱我如今稱之為「90%問題」，我目睹了一家又一家的公司踩進這個坑裡。通用電腦視覺API——就是你可以在一下午內從任何主流雲端服務商那裡快速啟動的那種——能讓你以極低的成本迅速達到90%的準確率。在展示中，它們看起來宛如魔法。然而，商業價值完全存在於最後的10%之中。
最後的10%正是那些「光頭」所在的地方。那些在自駕車看來像牆壁一樣的陰影，在高速公路上引發幽靈煞車。無人收銀商店中顧客的手遮擋住商品的瞬間。那些看起來與無害的2奈米灰塵顆粒一模一樣的罕見半導體缺陷。
在半導體製造中，將缺陷檢測準確率僅提升1%就可帶來5%至10%的良率提升，每年節省數百萬美元。在自駕車領域，特斯拉車主報告了廣泛的幽靈煞車事件，其中視覺系統將陰影和立交橋誤判為障礙物。這些都不是理論風險。它們是眼下正在各行各業發生的生產故障，因為底層的AI缺乏物理直覺。我們的工作透過添加通用API所缺乏的物理層，消除了從90%到99.99%的差距。
我們如何教會系統像物理學家一樣思考
核心理念看似簡單得不可思議：不要把神經網絡的輸出視為事實，而是將其視為必須經過物理定律驗證的帶噪測量值。我在我們研究的互動式版本中詳細闡述了完整的技術架構，但直覺比數學公式更重要。
設想你正在追蹤一個足球。你的攝影機顯示球位於中場，以每秒20公尺的速度向東移動。四十分之一秒後，攝影機顯示「球」現在位於15公尺外的邊線上，以步行速度移動。卡爾曼濾波——一種對物體的位置、運動速度以及對兩者的確定程度保持動態信念的數學框架——會立即拒絕第二次測量值。因為其蘊含的加速度對於足球來說在物理上是不可能的。系統會計算所謂的馬氏距離——本質上是新的測量值與預測值相差多少個標準差。如果它超過3個標準差（3 sigmas），無論神經網絡對那些像素有多自信，該偵測結果都會被直接捨棄。
這就是我所說的物理約束視覺。神經網絡提出假設，物理定律做出裁決。
我們在每一次偵測上都疊加了多個驗證門。運動學門檢查該物體在物理上是否可能出現在網絡所指示的位置。光流門驗證邊界框內的像素運動是否與真實運動物體的預期相符——靜止的邊裁幾乎產生零光流，而飛行中的球則會產生獨特的模式。幾何門檢查物體的視大小是否與其距離攝影機的標稱距離下的3D透視保持一致。
任何未能通過任一驗證門的偵測都會被拒絕。絕無例外，概不覆蓋。
當物體消失時會發生什麼？
通用系統會陷入慌亂。信心度評分瞬間降至零。追蹤器宣布物體「丟失」，要麼卡死，要麼重置。在物理世界中，這是荒謬的。一個以每秒20公尺速度移動的球，不會因為一名球員跑到攝影機前就停止存在。它會繼續移動，因空氣阻力略微減速，並沿著物理學能夠以驚人精度預測的軌跡繼續行進。
我們的系統在物體被遮擋期間會在記憶體中保留該物體，並根據遮擋前的軌跡向前投射其位置。當物體重新出現時，系統已經在正確的位置進行觀察了。我認為這是賦予了AI「客體永久性」（物體恆存）。我兩歲大的侄子在八個月大左右就明白了這一點。而大多數生產環境中的視覺系統至今仍未掌握。
「換個更大的模型不就行了」
人們經常對我說這句話。在2023年的一次融資路演中，一位投資人原話對我說過，他往椅子上一靠，彷彿剛剛解決了我們整個技術難題：「為什麼不直接微調一個基礎模型呢？為什麼要費勁搞所有這些物理機制？」
我停頓了一下回答道：「因為當你的訓練分佈發生偏移時，物理定律並不會改變。」
PINN不僅僅是從資料中學習。它是在受現實約束的資料中進行學習。這其中的差別，就像死記硬背答案與真正理解學科知識之間的差別一樣。
物理資訊神經網絡（PINN）是現代機器學習中最優雅的構想之一。標準神經網絡最小化其預測值與帶標籤訓練資料之間的差距。而PINN增加了第二項懲罰：每當網絡的預測違反物理方程時，它都會受到懲罰。如果它預測的軌跡顯示球在沒有外力的情況下在空中轉彎，控制微分方程就會被打破，損失函數值激增，網絡就會學會避免做出這種預測。
其實際效果是驚人的。PINN所需的訓練資料要少得多，因為物理定律在訓練開始之前就已經排除了大部分解空間。它能夠泛化到從未見過的條件下，因為它已經將規則內化，而不僅僅是死記硬背樣本。在我們從事的體育運動追蹤工作中，這意味著我們可以根據初始軌跡預測指節球（蝴蝶球）的弧線或弧線自由球的軌跡——攝影機能夠提前移動到動作發生處，而不是跟在動作後面追逐。關於PINN與哈密頓神經網絡的完整技術剖析，我在我們的研究論文中進行了更深入的探討。
沒人坦誠面對的自研與外購抉擇
與我交流過的每一位企業領導者都面臨著相同的抉擇：購買現成的視覺API還是定制自研。然而，鮮少有人展開的坦誠對話版本，其實是這樣的。
外購能讓你快速投產上線。API從第一天起就能運作。它能很好地處理標準場景。在電子試算表上，總擁有成本看起來很低。
緊接著，邊緣極端情況接踵而至。誤報越積越多。你僱用人工來審核AI的工作，這完全違背了初衷。你發現供應商的模型無法針對你的特定物理場景進行微調。你意識到你的資料正在流出企業內部。而且你沒有積累任何屬於自己的知識產權。
構建物理約束系統的前期投入更高。這需要扎實的工程研發。但誤報率會下降幾個數量級，因為物理機制過濾掉了僅靠資料無法消除的噪聲。系統運行在你的基礎設施上，使用你的資料，生成歸你所有的模型。對於任何出錯代價高昂的應用來說，長期的總擁有成本都更有利於自研——而根據我的經驗，任何值得自動化的應用都是如此。
我並不是說每家公司都應該從頭自研。我是說，如果你的AI連球和光頭都分不清，那麼訂閱費反而是你付出成本中最微不足道的一部分。
語境即新的準確率
去年我坐在一次學術會議的後排，聽著專家小組就AI是否需要「常識」展開辯論。四位研究員，辯論了四十五分鐘，沒有得出任何定論。我心裡一直在想：我們不需要常識。我們需要的是物理學。常識是模糊的。而物理學是一組你可以用程式碼實現的方程。
AI行業花了十年時間在基準資料集上優化準確率。擁有數十億參數的模型能夠在測試圖像與訓練圖像相似的情況下，以超人的精度識別成千上萬的目標類別。而下一個十年屬於語境。不是更大的模型，而是更聰明的約束。不是更多的參數，而是更多的物理學。
你的AI知道球和頭顱之間的區別嗎？如果它僅依賴像素，答案是「偶爾」。如果它依賴物理定律，答案是「始終」。
我想起那場蘇格蘭足球比賽的次數可能超出了應有的程度。一個光頭男子站在邊線上，做著自己的本職工作，卻意外地暴露了整整一代AI系統的根本脆弱性。錯過了進球的球迷感到沮喪。而我卻心懷感激。那位邊裁在構建真正實用的AI方面教會我的東西，比我讀過的任何論文都要多。
電腦視覺的未來不在於看清更多。而在於理解你所看到的一切。
