דגל ירוק של מנוע ציטוט לא יציל אתכם: איך באמת נראית הזיה של בינה מלאכותית משפטית ב-2026
כששני עורכי דין יצאו מבית המשפט לערעורים של המחוז השישי במרץ 2026 כשהם חייבים יחד 30,000 דולר, לא כל פסקי הדין שצוטטו בכתב הטענות שלהם היו מדומיינים. זהו הפרט שאיש אינו רוצה להתעכב עליו, והוא הסיבה שאני מקדיש את ימיי לבניית מה שאני בונה.
הגעתי לזה מתוך הבעיה עצמה. לפני Veriprajna, עבדתי כעורך דין מתמחה בליטיגציה, והחלק בעבודה שאיש אינו מרומם הוא בדיקת ציטוטים — לשבת ב-11 בלילה עם כתב טענות מסומן בעריכות, להקיף ציטוט, ולשרבט האם פסק הדין הזה באמת אומר את זה? בשוליים. כשהגל הראשון של בינה מלאכותית משפטית הגיע, הנחתי שהוא יגרום לאותו לילה להיעלם. במקום זאת הוא הפך את הלילה למסוכן יותר, כי הכלים נעשו טובים מאוד בייצור ציטוטים שנראים בדוקים. אימות ציטוטים בבינה מלאכותית משפטית התברר כמשהו שאינו תכונה שפשוט מפעילים. זוהי שכבה שמישהו צריך לבנות, וכמעט אף אחד לא בנה.
הנה הטענה שאני רוצה להגן עליה במאמר הזה: ההזיה שתביא להטלת סנקציות על משרד עורכי דין ב-2026 אינה זו שהכלים הנוכחיים שלכם נועדו לתפוס. הכשל המפורסם — פסק הדין הבדוי — נפתר ברובו. הכשל שהולך ומחריף הוא פסק הדין האמיתי, שצוטט בצורה שגויה, עוטה דגל ירוק.
כולם זוכרים את Mata. כמעט אף אחד לא הפיק את הלקח הנכון
אתם מכירים את הסיפור גם אם אינכם יודעים את השם. Mata v. Avianca, 2023: עורך דין ביקש מ-ChatGPT פסקי דין תומכים, והוא הפיק Varghese v. China Southern Airlines — מספר תיק משכנע, בית משפט סביר, ציטוטים פנימיים מפורטים — ופסק הדין לא היה קיים. קנס של 5,000 דולר ומבוכה בשווי של קריירה שלמה באו בעקבותיו.
הלקח שהמקצוע הפיק מ-Mata היה "הבינה המלאכותית ממציאה פסקי דין." ולכן התעשייה בנתה הגנות מפני פסקי דין מומצאים. ל-Thomson Reuters יש את KeyCite. ל-LexisNexis יש את Shepard's, אמת המידה, בת עשרות שנים. Harvey מעגנת את הפלט שלה במאגר הנתונים של LexisNexis. מנועי הציטוט הללו טובים באמת בבעיית Mata: הזינו להם ציטוט שאינו מוביל לשום דבר, והם יגידו לכם שהוא אינו מוביל לשום דבר.
הצרה היא שהמקצוע פתר את בעיית 2023 והניח שפתר גם את זו של 2026.
התבוננו במה שקרה בפועל בניו אורלינס בפברואר 2026. עורך דין ספג סנקציות על הגשת אחד-עשר ציטוטים בדויים או מוצגים באופן מסולף. החלק שאמור להדיר שינה מעיניכם: הוא השתמש גם ב-ChatGPT וגם ב-Westlaw Precision AI. הוא השתמש בכלי המעוגן, הייעודי, הנתמך במנוע ציטוט — ובכל זאת הגיש כתב טענות שהניב סנקציה. "להפחית" אינו "לבטל," והפער בין שתי המילים הללו הוא המקום שבו שוכנת האחריות כעת.
הכשל שהכלי שלכם אינו מסוגל לראות
הרשו לי לתאר את מצב הכשל במדויק, כי הדיוק הוא כל העניין.
הבינה המלאכותית מצטטת פסק דין אמיתי עבור טענה שפסק הדין אינו תומך בה. מספר התיק תקף. פסק הדין קיים. KeyCite מחזיר דגל ירוק. Shepard's מסכים. והניתוח עדיין שגוי — כי הבינה המלאכותית ציטטה את דעת המיעוט כאילו הייתה הלכת הרוב, או ציטטה פסק דין המפרש גרסה של חוק שתוקן לפני שנתיים.
זה מה שמחקר סטנפורד, שעבר ביקורת עמיתים בכתב העת Journal of Empirical Legal Studies ב-2025, מדד בפועל כאשר קבע את שיעור ההזיות של Westlaw Precision על 33% ואת זה של Lexis+ AI על 17%. אנשים קוראים "33% הזיות" ומדמיינים כלי שממציא פסקי דין באחת מכל שלוש שאילתות. זה לא מה שהמספרים הללו מייצגים. הם בעיקר שגיאותניתוח של ציטוטים אמיתיים. כלי האימות שלכם מאשר שפסק הדין קיים. אכן כך. הוא פשוט מעולם לא טען לבדוק מה פסק הדין אומר.
אמחיש זאת, כי זו הדוגמה שלבסוף גרמה לצוות שלי עצמו להפסיק להתווכח. עורך דין מתמחה בליטיגציה מבקש מעוזר בינה מלאכותית לחקור טענות הגנה כנגד תביעה בגין הפרת חובת אמונים לפי דין דלאוור. הכלי מחזיר ניתוח נקי המצטט את Stone v. Ritter (2006) עבור אמת המידה לאחריות פיקוח של דירקטורים. הציטוט אמיתי. תקציר ההלכה מדויק — לשנת 2006. מה שהכלי החמיץ הוא שהחלטת בית המשפט העליון של דלאוור משנת 2019 בעניין Marchand v. Barnhill הרחיבה באופן משמעותי את הלכתCaremark בכל הנוגע לחובת הפיקוח, ופסיקות של בית המשפט לצ'נסרי מאז בנו על גביה אמת מידה של ציות "קריטי למשימה".
Stone v. Ritter עדיין נושא דגל KeyCite ירוק. הוא מעולם לא בוטל. הוא עדיין "הלכה תקפה." וכתב טענות הנשען עליו עבור הגשה ב-2026 עדיין שגוי, כי ההיקף המעשי של ההלכה צומצם על ידי כל מה שבא אחריו — בדיוק סוג ההתפתחות שדגל של מנוע ציטוט אינו בנוי לחשוף.
מנוע ציטוט אומר לכם שפסק דין חי. הוא אינו אומר לכם שפסק הדין עדיין משמעו מה שהבינה המלאכותית שלכם אומרת שהוא.
זה ההבדל בין ציטוטבדוי לבין הזיה הקשרית, והיא ההבחנה החשובה ביותר בכל התחום הזה. עורך הדין הזוטר הבודק את הפלט תחת לחץ מועד לא יתפוס אותה, כי הציטוט נראה נכון. הוא אכן נכון, במובן היחיד שהכלי אי פעם בדק.
טעינו בזה קודם — ואני זה שטען לטובת הגישה הזאת
אני רוצה להיות כן לגבי איך למדתי זאת, כי לא הגעתי לכך בדרך של היגיון. שחררתי את המוצר הלא נכון תחילה.
כשהצוות שלי בנה את בודק האימות הראשון שלנו, טענתי — בסקירת העיצוב שלנו עצמנו, בקול רם, ובמידה של ביטחון — שאם פסק הדין אמיתי, אנחנו בסדר. ולכן צינור העיבוד הראשון שלנו למעשה הריץ מחדש את הלוגיקה של מנוע הציטוט. הוא אישר שכל פסק דין מצוטט קיים ומשך את סטטוס הטיפול שלו. מהיר, נקי, ובפיילוט הוא העביר כתב טענות ישירות אל לוח מחוונים ירוק.
ואז אחד ממשתמשי הפיילוט, ליטיגטור אמיתי, ערער על פסקה שהכלי שלנו בירך עליה. פסק הדין המצוטט היה אמיתי. הבודק שלנו אהב אותו. ההלכה שכתב הטענות ייחס לו הגיעה מהחלק בפסק הדין שלא היה מכריע. למערכת שלנו לא הייתה עמדה בנוגע לכך, כי עיצבתי אותה כך שלא תהיה לה עמדה בנוגע לכך. בניתי מחדש את Shepard's וקראתי לזה אימות.
זה היה הכשל ששילם עבור כל מה שעשינו לאחר מכן. הרצה מהירה יותר של מנוע ציטוט אינה אימות — זו אותה נקודת עיוורון עם ממשק נאה יותר. הפניית הכיוון נכפתה עלינו: היינו צריכים לבנות שכבה שקוראת מעבר אל סטטוס מנוע הציטוט, אל תוך אזכורים מצטטים מאוחרים, ששואלת האם פסקי דין מאוחרים יותר הבחינו או צמצמו הלכה, שמסמנת פסק דין שהטענה המרכזית שלו שונתה באופן מהותי גם אם פסק הדין עצמו נותר הלכה תקפה. זו הבעיה ההנדסית. מנוע הציטוט לעולם לא היה פותר אותה, לא משנה כמה מהר הרצנו אותו.
מדוע רכישת Harvey אינה סוגרת את הפער?
אנשים מניחים שספקיות הפלטפורמות יתקנו זאת, ואני מבין מדוע — הפלטפורמות יוצאות דופן, והכסף מעיד שכולם מסכימים. Harvey הגיעה לשווי של 11 מיליארד דולר במרץ 2026 על בסיס הכנסה שנתית חוזרת של כ-190 מיליון דולר, עם סוכנים מותאמים אישית שמספרם עולה על 25,000 ואימוץ בקרב מחצית מ-AmLaw 100. Thomson Reuters רכשה את Casetext תמורת 650 מיליון דולר ושילבה אותה בזרימות העבודה הסוכניות של CoCounsel. LexisNexis החליפה את Lexis+ AI ב-Lexis+ Protege בפברואר 2026 — ארבעה סוכנים ייעודיים, למעלה מ-300 זרימות עבודה מובנות מראש.
אלה אינם הבעיה. אני אומר למשרדים זאת בפשטות: שמרו על הפלטפורמה שלכם. הפער הוא שאף אחד מהכלים הללו אינו מספק אימות עצמאי כשכבה, והטובים שבהם כנים בכך שאימות הפלט הוא באחריות המשתמש. יש סיבה לכך ש-LexisNexis חזרה בה בשקט מהניסוח "נטול הזיות ב-100%" שלה לאחר שנתוני סטנפורד נחתו.
והפלטפורמות הפכו את בעיית האימות לקשה יותר, לא לקלה יותר, בכך שעברו לגישה סוכנית. כשסוכן ארוך-טווח מריץ זרימת עבודה רב-שלבית של מחקר וניסוח, הפלט אינו פסקה מצוטטת אחת — הוא שרשרת שלהן, כל שלב מזין את הבא, כל אחד מהם מקום שבו שגיאה הקשרית יכולה להיכנס ולהתפשט. כשעורך דין זוטר שולח לי הודעת Slack ב-11 בלילה ושואל אם הפלט של הסוכן בטוח להגשה, התשובה הכנה היא: לא עד שמשהו קרא כל ציטוט אל מול מה שפסק הדין המצוטט באמת קובע, ותיעד איזה שלב של הסוכן הפיק אותו. מסלול הביקורת הזה אינו מותרות. הוא הדבר שצו קבוע של שופט דורש יותר ויותר. וזו אינה זרימת עבודה שולית שאני נערך לקראתה — אימוץ בינה מלאכותית משפטית תאגידית הכפיל את עצמו מ-23% ל-52% בשנה אחת, ו-Gartner צופה ש-40% מיישומי הארגון ישלבו סוכנים ייעודיים למשימה עד 2026; מצב הכשל של שרשרת-הציטוטים מתרחב עם כל אחד מהם.
אז מה בעצם תופס פסק דין אמיתי שצוטט בצורה שגויה?
לא בינה מלאכותית אחרת — סוג אחר של עבודה. שכבת האימות יושבת בין הפלט של הבינה המלאכותית לבין חתימת האדם, והיא עושה את מה שמנוע הציטוט לא יעשה: במקום לעצור בשאלה אם פסק דין הוא עדיין הלכה תקפה, היא קוראת אל תוך האזכורים המצטטים המאוחרים, שואלת האם פסיקות מאוחרות יותר הבחינו או צמצמו את ההלכה, ומסמנת את פסקי הדין שהטענה המרכזית שלהם שונתה באופן מהותי גם כאשר תקציר ההלכה עדיין נקרא נקי. סטטוס הטיפול הוא תחילת הבירור, לא סופו.
מתחת לפני השטח, האחזור חשוב יותר משאנשים מצפים. חיפוש וקטורי — ברירת המחדל ברוב מערכות האחזור-המוגבר — מוצא פסקי דין שמבחינה טקסטואלית דומים לשאילתה. סמכות משפטית אינה מאורגנת לפי דמיון טקסטואלי; היא מאורגנת לפי האופן שבו פסקי דין מצטטים, מבחינים, ומבטלים זה את זה. זה גרף, לא רשימה. אחזור הבנוי על גרף ידע משפטי במקום על אינדקס וקטורי שטוח הוכח כמניב ביצועים טובים מחיפוש וקטורי בכ-14% ברלוונטיות האחזור לעבודה משפטית — ההבדל בין הצפת פסק הדין המכריע לבין הצפת פסק הדין שרק נשמע כאילו הוא מכריע. הגרף הוא הדרך שבה מוצאים את Marchand ששינה בשקט את Stone שכולם עדיין מצטטים.
זוהי השכבה שאנו בונים ב-Veriprajna — צינור אימות הציטוטים, תשתית גרף הידע, ומערכות הממשל שהופכים את פלט הבינה המלאכותית לבטוח להגשה — ואנחנו בונים אותה סביב כל פלטפורמה שמשרד כבר מפעיל, Harvey או Lexis Protege או מודל קוד פתוח, במקום לבקש ממישהו לעקור כלי שעובד.
החלק שאיש אינו שם על שקופית: ממשל
יש בעיה שנייה מתחת לבעיה הטכנית, וזו הבעיה שהופכת סנקציה לתביעת רשלנות מקצועית.
בערך 68% מאנשי המקצוע המשפטיים מודים שהשתמשו בכלי בינה מלאכותית לא מאושר לפחות פעם אחת, ופחות ממשרד אחד מכל חמישה מחזיק במדיניות בינה מלאכותית פורמלית — אפילו כאשר כמעט שבעה מכל עשרה עורכי דין משתמשים כיום בבינה מלאכותית יוצרת לצורכי עבודה, נתח שהוכפל בתוך שנה אחת. כך שברוב המשרדים יש עורכי דין שמזינים ענייני לקוחות לתוך כלים שאיש לא אישר, ללא תיעוד של איזה כלי, ללא שלב אימות, וללא מסלול ביקורת. מבטחי הרשלנות המקצועית שמו לב. הם משלבים את השימוש בבינה מלאכותית בשיקולי הפוליסה, ושימוש בלתי מורשה ללא פיקוח של עורך דין הוא בדיוק הסוג של דבר שמבטל את הכיסוי כאשר תביעה נוחתת.
גם הרצפה הרגולטורית זזה, ורוב המשרדים לא עמדו בה. חוות הדעת הפורמלית 512 של ה-ABA, שפורסמה ביולי 2024, מפרטת שש חובות אתיות לבינה מלאכותית יוצרת — כשירות, סודיות, הגינות כלפי הערכאה, ופיקוח ביניהן — והיא נושאת שני צדדים שאנשים מפספסים. אינכם יכולים לחייב לקוח עבור הזמן שאתם משקיעים בלמידת כלי שתשתמשו בו באופן קבוע. ובית משפט פדרלי כבר קבע שתוצר עבודה שנוצר בידי בינה מלאכותית אינו מוגן בחיסיון עורך דין-לקוח. בינתיים למעלה מ-300 שופטים הוציאו צווים קבועים משלהם בנוגע לבינה מלאכותית, כל אחד עם דרישת גילוי או אישור משלו, פלורידה הוסיפה חובת גילוי בפברואר 2026, ואף משרד שפגשתי אין לו דרך שיטתית לעקוב אחר איזה שופט דורש מה. והרצפה עדיין עולה: חוק הבינה המלאכותית של האיחוד האירופי נכנס לתוקף באוגוסט 2026, חוק הבינה המלאכותית של קולורדו ביוני, והנחיית האחריות למוצר של האיחוד האירופי מתייחסת כעת לבינה מלאכותית כמוצר תחת אחריות מוחלטת — מה שמעביר את החשיפה מעורך דין מתמחה יחיד שספג סנקציה אל המאזן של המשרד.
בינה מלאכותית צללים אינה בעיית משמעת. זהו פער תשתיתי — אנשים עוקפים כלים שאינם מתאימים לאופן שבו הם עובדים.
מערכת ממשל הראויה לשמה אינה רק מתעדת מדיניות ב-PDF שאיש אינו קורא. היא אוכפת את המדיניות בזרימת העבודה, מתעדת כל ציטוט שנוצר בסיוע בינה מלאכותית, מייצרת את ניסוח הגילוי שתחום שיפוט מסוים דורש, ומפיקה את מסלול הביקורת שמאפשר לשותף מפקח לאשר, ביושר, שכל ציטוט נבדק.
השאלות שמשרדים תמיד שואלים אותי
זה בדרך כלל נפתח בגרסה כלשהי של: אם אאמת כל ציטוט ידנית, האם לא זרקתי את היעילות שהבינה המלאכותית נתנה לי? כן — וזו כל הנקודה בבניית האימות לתוך צינור העיבוד במקום להשאיר אותו לעורך דין מתמחה עייף בחצות. בדיקת ציטוטים ידנית של פלט בינה מלאכותית אינה ניתנת להרחבה, ודילוג עליה הוא סיכון הרשלנות המקצועית. השכבה קיימת בדיוק כדי שהמהירות תישמר לצד הבטיחות.
ואז מגיעה גרסת הספקן: האם זה לא מוגזם — כמה פעמים באמת נושכת הזיה הקשרית? מסד נתוני ההזיות של Charlotin חצה 1,222 מקרים מתועדים של הזיות בינה מלאכותית בהגשות לבתי משפט בארה"ב עד תחילת 2026, עלייה מ-729 ומעלה בסוף 2025. העקומה הולכת בכיוון הלא נכון, הסנקציות טיפסו ממכות של 500 דולר לקנסות בני חמש ספרות כדבר שבשגרה, והספירה הזו לוכדת רק את אלה שנתפסו ופורסמו. אני משאיר את מסד הנתונים הזה פתוח בלשונית. המספר מטפס בזמן שאינכם מסתכלים.
ומשותף מנהל, כמעט תמיד: האם משרד מ-Big Four או אינטגרטור מערכות גדול לא יכול פשוט לטפל בכל זה? הם יכולים להגדיר את הפלטפורמה שלכם, והם יגבו 500 אלף עד 2 מיליון דולר כדי לעשות זאת. אבל הגדרת Harvey היא פריסת פלטפורמה — היא אינה בניית שכבת האימות שהפלטפורמה מותירה לכם במכוון. אלה בעיות שונות, ורק אחת מהן היא זו שגורמת לכם לספוג סנקציה.
מה הייתי אומר לעורך הדין המתמחה ב-11 בלילה
שוק הבינה המלאכותית המשפטית מתקדם מכ-5.6 מיליארד דולר ב-2026 לעבר 12.5 מיליארד דולר עד 2030, ומחקר משפטי הוא הנתח הבודד הגדול ביותר שלו. הצמיחה הזו אמיתית והכלים ראויים לה. אבל התעשייה כולה ממטבת עבור פלט — מחקר מהיר יותר, יותר סוכנים, זרימות עבודה אוטונומיות ארוכות יותר — ומתייחסת לאימות כאחריות של מישהו אחר, שמשמעה בפועל אף אחד.
פסק הדין שיגרום להטלת סנקציות עליכם ב-2026 יעבור כל בדיקה שהכלים הנוכחיים שלכם מריצים. הוא יהיה קיים. הוא יישא דגל ירוק. הוא יצוטט עבור משהו שהוא לא בדיוק אומר, והגרסה שלכם שקוראת אותו בחצות תחת לחץ מועד לא תתפוס זאת, כי כל מה שעל המסך אומר שהכול בסדר.
זו אינה סיבה לא לתת אמון בבינה מלאכותית משפטית. זו סיבה לבנות את השכבה האחת שהפלטפורמות השמיטו — שכבת האימות והממשל שקוראת מה פסק הדין באמת קובע, לא רק אם הוא עדיין נושם. המשרדים שיתקינו אותה ישמרו על המהירות. אלה שלא, ימשיכו לגלות, צו הַראה-עילה אחד בכל פעם, מה שדגל ירוק מעולם לא הבטיח להם.