90% מדחיות הכיסוי של ה-AI מבוטלות בערעור. בית משפט הרגע כינה זאת הפרת חוזה.
משפחה שילמה $16,768 מכיסה כדי להשאיר את אמם במיטת בית חולים.
היא סבלה ממתמוגלובינמיה — הפרעת דם שמרעיבה את הגוף מחמצן. האלגוריתם שהכריע בעניין הכיסוי שלה לא ידע זאת, או ליתר דיוק — הוא ידע ולא היה אכפת לו. הוא אומן לחזות את משך האשפוז לפי קבוצת האבחנה שלה, והחולה הממוצע באותה קבוצה היה מוכן לחזור הביתה. כך שהמערכת סימנה אותה לשחרור לפי לוח זמנים אוכלוסייתי, בעוד שרמת החמצן בדמה בפועל סיפרה סיפור אחר. משפחתה מצאה את הכסף. רוב המשפחות אינן יכולות — ורובן אף פעם אפילו לא מנסות: בתביעת UnitedHealth, רק כ-0.2% ממוטבי Medicare ערערו בכלל על הדחיות שלהם.
המקרה הזה ניצב במרכזו של Lokken v. UnitedHealth, תובענה ייצוגית בעניין nH Predict, כלי ה-AI ששימש לחיזוי לוחות זמני החלמה בניהול ניצול (utilization management) ב-Medicare Advantage. והמספר שאמור להקפיא כל מנהל של תוכנית בריאות במקומו הוא זה: בערך 90% מהדחיות שנוצרו על-ידי ה-AI באותה התדיינות בוטלו בערעור — מבין מקצת החברים שטרחו לערער עליהן. כשקראתי זאת לראשונה, האינסטינקט שלי היה זהה לזה של רוב המהנדסים — שיעור ביטול של 90% הוא בעיה של דיוק המודל, משהו שמתקנים עם נתוני אימון טובים יותר וספים הדוקים יותר. טעיתי, ובית המשפט הסביר לי מדוע. שופט פדרלי מתייחס לאותם 90% לא כפגם טכני אלא כראיה להפרת חוזה. מסגור מחדש יחיד זה הוא מה שממשל ה-AI של Medicare Advantage צריך למעשה לתת עליו את הדין, וזו הסיבה שבסופו של דבר הקמתי חברה סביבו.
שיעור ביטול-בערעור של 90% אינו פרמטר כוונון. זו הודאה שהמערכת מעולם לא הכריעה בשאלת ההכרח הרפואי מלכתחילה.
התביעה נסובה סביב משפט בחוזה שלכם, לא סביב פגם במודל שלכם
מה שלקח לי זמן מביך להבין הוא שהחשיפה המשפטית במקרים אלה אינה שוכנת במשקלי המודל. היא שוכנת ב-Evidence of Coverage שלכם.
ה-EOC שלכם — החוזה שכל חבר חותם עליו — מבטיח שהחלטות הכיסוי מתקבלות על-ידי צוות שירותים קליניים ורופאים. זו העסקה. כשהתחלתי לשלוף את נוסח ה-EOC של תוכניות ולהניח אותו לצד תורי ההכרעה האוטומטית (auto-adjudication) בפועל שלהן, הפער כמעט תמיד היה שם, שחור על גבי לבן. החוזה אומר שרופא מכריע. תהליך העבודה מראה אלגוריתם שמדרג את הבקשה ואדם שלוחץ 'אישור' על כל מה שהוא מחזיר. הפרקליט שכנגד אינו זקוק למדען נתונים כדי למצוא את הפער הזה. הוא זקוק לעוזר משפטי ולטוש סימון.
צו הגילוי (discovery) ממרץ 2026 בעניין Lokken (2026 WL 658883) המחיש זאת. בית המשפט העניק לתובעים גישה למסמכי פיתוח AI, למפרטי נתוני אימון ולדוחות ולידציה. אני שומר תדפיס של אותו צו עם סעיף אחד מוקף בעיגול, כי הוא שינה את האופן שבו אני מדבר עם כל תוכנית: תיעוד ה-AI שלכם ניתן כעת לגילוי משפטי. אם המודל שלכם אינו יכול להפיק יומן החלטות מובנה, נתוני אימון עם בקרת גרסאות, ותוצאות ולידציה מתועדות, אינכם יכולים לשחזר מדוע דחיתם תביעה — ואינכם יכולים להגן על מה שאינכם יכולים לשחזר.
הרגע שבו "אדם בתוך הלולאה" (human-in-the-loop) הופך לבדיה
במשך זמן מה הנחתי שהתוכניות שנתבעות הן חריגות פזיזות שמריצות דחיות אוטומטיות לחלוטין. המציאות מטרידה יותר, וזה הפרט שאני פותח בו כיום בכל פעם שמנהל רפואי ראשי אומר לי שהם מוגנים משום שרופא קליני מאשר בחתימתו.
השבר מתרחש בהחלטה תפעולית אחת שאיש מחוץ לחדר לעולם אינו רואה. מנהלי nH Predict צמצמו את השונות המקובלת מתחזית המודל מ-3% ל-1%. על הנייר זה שינוי כוונון. בפועל זה הפך כלי לתמיכה בהחלטות לשומר סף אוטומטי, משום שרופאים קליניים שסטו יותר משיער מהמספר של האלגוריתם היו כעת בחוסר ציות. חלק מאלה שעקפו את המערכת ניצבו בפני צעדים משמעתיים.
זה הרגע שבו האדם בתוך הלולאה חדל להיות אמצעי הגנה והופך להצגה. רופאה שמשרתה בסיכון אם היא חולקת על המודל אינה מפעילה שיקול דעת קליני — היא מחתימה כחותמת גומי. וכל דחייה שזורמת דרך בדיקה למראית עין נושאת את מלוא האחריות החוזית והרגולטורית של דחייה אוטומטית, כי מבחינה תפקודית זה בדיוק מה שהיא.
רצועת השונות קבורה בפרוטוקול ישיבה של ועדה. שם התביעה נזכית או נפסדת, לא בארכיטקטורת המודל.
איני מסוגל לספור את מספר שיחות הממשל שמדלגות על כך לחלוטין. תוכניות מבקרות את המודל שלהן. הן כמעט אף פעם אינן מבקרות את מדיניות תהליך העבודה שסובבת אותו — הסף, כללי העקיפה, המבנה המשמעתי. אותה מדיניות היא שקובעת אם הרופא הקליני שלכם הוא מקבל החלטות או מגן אחריות שלמעשה אינו מגן על דבר.
מדוע בנינו קודם את הדבר הלא נכון
כשהצוות שלי התחיל, עשינו את הדבר המובן מאליו. בנינו ניטור.
זה היה הגיוני על לוח מחיק. השוק מלא ב-AI observability — Fiddler מספקת הסברוּת (explainability) של SHAP ו-LIME עם זיהוי סחף והטיה; ל-Watsonx.governance של IBM יש OpenScale להוגנות; Credo AI ו-Holistic AI מוכרות חבילות מדיניות ולוחות מחוונים לציות שאוספים ראיות באופן אוטומטי. ההיגיון של כל הקטגוריה הוא: יש לכם מודלים בייצור, אתם מוסיפים שכבה שמשגיחה עליהם, וכעת יש לכם ממשל. אז בנינו שכבה שהשגיחה על ה-AI לניהול ניצול של תוכנית פיילוט והפיקה מדדי הוגנות יפהפיים.
אז מנהלת רפואית באותה תוכנית — מישהי שישבה בוועדת ה-UM שלה במשך שנים — הביטה בלוח המחוונים שלנו ושאלה את השאלה ששלחה אותנו בחזרה אל שולחן השרטוט. "זה אומר לי שהמודל מתנהג באופן עקבי. זה לא אומר לי שהמודל בכלל אמור לקבל את ההחלטה הזו. גם nH Predict היה עקבי."
היא צדקה, וזה צרב. בנינו מכשיר מדויק מאוד למדידת דבר פגום מיסודו. nH Predict לא נכשל משום שלא נוטר. הוא נכשל משום שהוא העניק משקל לממוצעי קבוצת אבחנה על פני מדדים קליניים פרטניים — חמצן בדם, זמינות מטפל, אינטראקציות של תחלואה נלווית — בתחום שבו השונות הפרטנית היא עצם ההגדרה של ההכרח הרפואי. ניטור צמוד יותר של אותו מודל היה מפיק תיעוד מסודר של מערכת שעושה בעקביות את הדבר הלא נכון. שיעור הביטול של 90% היה מתועד להפליא.
זה היה הכישלון ששילם עבור כל מה שבנינו לאחר מכן. Observability אומרת לכם אם המודל יציב. היא אינה אומרת לכם אם ההחלטה ניתנת להגנה. אלה בעיות שונות, וכל קטגוריית פלטפורמות הממשל, עבור הקונה שהיה חשוב לי, פתרה את הראשונה וקראה לה השנייה.
מה בעצם צריך ממשל ה-AI של Medicare Advantage לעשות?
אז קרענו את הנחת הניטור והתחלנו מהשאלה היחידה שחשובה באולם בית המשפט: האם אתם יכולים להגן על הדחייה הספציפית הזו של האדם הספציפי הזה?
מסגור מחדש זה משנה את הבנייה לחלוטין. אינכם עוד מכשירים מודל — אתם מהנדסים החלטה כך שבעוד שנים, תחת צו גילוי, היא תשחזר את עצמה. עבור תוכנית Medicare Advantage משמעות הדבר היא ששלושה דברים חייבים להיות נכונים בעת ובעונה אחת, והפיכתם לנכונים היא העבודה ש-Veriprajna עושה בכתובת veriprajna.com/solutions/medicare-advantage-ai-governance.
ראשית, כל החלטה חייבת לשאת את ההסבר שלה עצמה — לא ציון הוגנות גלובלי, אלא רשומה לכל החלטה בנפרד של אילו גורמים קליניים המודל שקלל ומאילו התעלם, בשפה שגם רופא קליני וגם שופט יכולים לקרוא. זה החלק שכולם ממעיטים בערכו, וכאן עליי לבשר בשורות רעות. פלטפורמות התביעות המדור-הישן שרוב התוכניות מריצות עליהן — Facets, QNXT — מעולם לא תוכננו לפלוט רשומת ייחוס-מאפיינים לכל החלטה בנפרד. הן שומרות את התוצאה, לא את ההנמקה. אז הסברוּת אמיתית על ערימת (stack) של Medicare Advantage אינה עניין של בחירת מודל טוב יותר מן המדף. זו middleware: שכבה שלוכדת את קלטי המודל, את המשקלים, ואת נתיב העקיפה הקליני, וכותבת אותם ליומן שנבנה לשרוד גילוי משפטי. זו עבודת אינטגרציה חסרת זוהר, וזה רוב העבודה.
הדרישה הקשה יותר היא שארכיטקטורת הציות חייבת להתמפות לרגולציות המגיעות בעת ובעונה אחת — מה שמביא אותי למלכודת שראיתי תוכנית מתוחכמת נכנסת אליה היישר.
המדד שנראה נקי ואינו כזה
CMS-0057-F, כלל האישור-מראש הסופי, החל לנשוך בינואר 2026 — זמן תגובה של 72 שעות לבקשות מזורזות, שבעה ימים לבקשות רגילות, ללא פתיחה מחדש של אשפוזים מאושרים למעט במקרי הונאה. ואז ב-31 במרץ 2026 הגיע מועד היעד הראשון לדיווח פומבי: תוכניות נדרשו לדווח על שמונה מדדי אישור-מראש ברמת החוזה, כולל שיעורי דחייה, זמני תגובה ושיעורי ביטול-בערעור.
הפרט שחשוב הוא מהסוג שקולטים רק אם קראתם את Federal Register — את התיקונים שבו, לא רק את הכותרת. ביוני 2025, CMS השעתה את הפילוחים ברמת התוכנית ואת דרישות המומחיות בשוויון-הבריאותי בוועדות ה-UM. מה שנשאר פומבי הם מדדים מצרפיים, ברמת החוזה. כך שתוכנית יכולה לפרסם שיעור ביטול-בערעור ברמת החוזה מכובד לחלוטין ולהיראות נקייה — בעוד יומני ההחלטות הפרטניים שלה, אלה שצו גילוי מסוג Lokken חודר אליהם היישר, מספרים סיפור שונה לחלוטין.
המדדים הפומביים הם החלק שאתם בוחרים להראות. יומני ההחלטות הם החלק שבית משפט נוטל. הממשל חייב לנצח בשני, לא בראשון.
ישבתי מול מנהלים שהצביעו על הגשת ה-31 במרץ שלהם כהוכחה שהם מכוסים. ההגשה הכרחית. היא אינה הגנה. עורכי דין התובעים אינם קוראים את לוח המחוונים המצרפי שלכם; הם מוציאים זימון (subpoena) לרשומה שמאחורי דחייה של חבר אחד.
ואז מגיע 1 בינואר 2027, אז ממשקי ה-API של HL7 FHIR לאישור-מראש — CRD, DTR ו-PAS — הופכים לחובה, ויוצרים עקבות עסקה אלקטרוניים מלאים לכל החלטת PA. עקבות אלה הם או הראיה הטובה ביותר שלכם או הגרועה ביותר, בהתאם לחלוטין לשאלה אם ההנמקה נלכדה כשההחלטה התקבלה. אינכם יכולים למלא אותם בדיעבד. יש לי כרגע כרטיס אינטגרציה פתוח מול מופע QNXT שהוא, בעיקרו, הימור על אילו משני העתידים הללו תיפול תוכנית.
הטלאים שאף פלטפורמה אחת לא נבנתה עבורם
והיא חייבת לשרוד מפה רגולטורית שאף מוצר מדף אינו מכסה. בפעם הראשונה שפרשׂתי את חובותיו של לקוח רב-מדינתי אחד על גיליון אלקטרוני יחיד, העמודות חדלו להסכים זו עם זו — וזה במתכוון. הדרישות אינן עקביות בכוונה תחילה.
ה-Texas Responsible AI Governance Act נכנס לתוקף בינואר 2026 עם סמכות רחבה לדרישת-חקירה-אזרחית — וטקסס כבר חשפה את קלפיה כשהסדירה בפשרה את חקירת ה-AI היוצר הראשונה בתחום הבריאות, נגד Pieces Technologies, עוד בספטמבר 2024, בשל טענות דיוק מנופחות. פנסילבניה פנתה לכיוון אחר, עם חקיקה המחייבת בדיקה של ספק אנושי לפני כל דחייה מונעת-AI, גילוי חובה שבכלל נעשה שימוש ב-AI, והצהרות ציות שנתיות. ארגון Medicare Advantage רב-מדינתי ניצב כעת בפני טלאים שבהם כל מדינה רוצה בקרות שקיפות, ביקורת וגילוי שונות. ולכל תוכנית עם פעילות גלובלית, ה-EU AI Act מסווג AI בתחום הבריאות כבסיכון-גבוה תחת Annex III, עם ציות מלא הנדרש עד אוגוסט 2027 וקנסות המגיעים ל-6% מהמחזור השנתי הגלובלי.
זהו בדיוק התפר שאליו נופלות חברות הייעוץ הגדולות. Deloitte ו-Accenture יפרסו פלטפורמה ארוזה — Credo AI או IBM Watsonx — ויקראו לה ממשל. אך פלטפורמה ארוזה אינה מכירה את תצורת ה-Facets הספציפית שלכם, והיא אינה מיישבת בין דרישות החקירה של טקסס לבין חובת הבדיקה-טרם-הדחייה של פנסילבניה לבין דרישת תיק-ניהול-הסיכונים של האיחוד האירופי. ספקי מערכות התביעות ממוקמים גרוע אף יותר: אותן חברות שמתחזקות את Facets ו-QNXT גם מוכרות את תוספי ה-AI עבורן, כך שאין להן בדיוק תמריץ לחשוף פערי ממשל בפלטפורמות שלהן עצמן. אף אחד בנוף הזה לא בנה את הדבר האחד שהקונה נזקק לו — בקרות טכניות ממופות, החלטה אחר החלטה, לכל רגולציה שחלה עליהם בעת ובעונה אחת.
מדוע תוכנית לא יכולה פשוט לקנות תוכנת הסברוּת?
אנשים שואלים אותי שאלה הוגנת: אם הסברוּת וניטור הטיה כבר קיימים, מדוע תוכנית לא יכולה פשוט לקנות Fiddler או להקים causal AI ולסיים עם זה?
שתי סיבות. ספקי הניטור באמת טובים במה שהם עושים — אך כל ההנחה שלהם היא שהמודל בייצור הוא הדבר שראוי לממשל עליו. כאשר ארכיטקטורת ההחלטה של המודל היא הפגם, כפי שהיה עם nH Predict, התבוננות מדוקדקת יותר בו רק מעניקה לכם הקלטה ברזולוציה גבוהה יותר של הנזק. Causal AI — causaLens הוא השם האמין ביותר כאן — היא התשובה הנכונה מבחינה אקדמית, שמדגמנת סיבתיות במקום מתאם, אך היא בוסרית מסחרית ומכוונת בעיקר לשירותים פיננסיים; מודלים סיבתיים ייעודיים-לבריאות עבור החלטות כיסוי עדיין ברובם בשלב מחקרי. וספקי אוטומציית האישור-מראש כמו Cohere Health ממטבים את המשתנה הלא נכון לחלוטין. Cohere תקצץ את עלות הניהול של ה-PA שלכם ב-47%. זה מספר אמיתי ותועלת אמיתית. אך מהירות אינה יכולת-הגנה. דחייה מהירה יותר שאתם עדיין לא יכולים לשחזר בבית המשפט היא נתיב מהיר יותר בדיוק אל אותה האחריות ש-Lokken הגדיר.
הסיבה השנייה היא קנה מידה, וזה החלק שאיני מצליח לשכנע תוכנית לוותר עליו. Gartner צופה ש-80% מהתביעות המרפאתיות יעובדו דרך הכרעה בזמן אמת מבוססת-AI עד 2028. ובכל זאת, רק ל-12% מבתי החולים בארה"ב יש כיום מסגרת ממשל AI פורמלית, לפי ספירת Censinet. נפח החלטות הכיסוי האוטומטיות עומד להתרבות מהר בהרבה מכפי שמישהו בונה את התשתית להגן עליהן. ו-CMS אינו מחכה בנימוס — ביקורות ה-RADV שלו לשנת התשלום 2020 החלו בפברואר 2026 תוך שימוש בזיהוי אנומליות מבוסס-AI כדי לסמן אבחנות בלתי-נתמכות. הרגולטור מבקר את ה-AI שלכם באמצעות AI בעודו דורש מכם לשלוט בו בעצמכם.
התוכניות שזזות ראשונות הופכות זאת ליתרון
אני רוצה לסיים בדבר שאני באמת מאמין בו, לא באזהרה.
כל תוכנית שאני מדבר איתה מתייחסת לממשל כאל עלות — מס על פריסת AI, בלם על האוטומציה הסוכנותית (agentic) שכולם רוצים. אני מבין את המסגור. כלכלת המנהלה אכזרית משני הצדדים: ספקים מוציאים 19.7 מיליארד דולר בשנה על מאבק בדחיות, ותוכניות נושאות בעלות משלהן על כל תביעה שנויה במחלוקת. הפיתוי הוא להפוך לאוטומטיים יותר ולשלוט מעט ככל שהכלל דורש.
אך החשבון הזה רץ לאחור. הדחיות שמבוטלות בערעור מעולם לא היו חיסכון בעלויות — הן היו אחריות שהתוכנית רשמה כהכנסה ותשלם בחזרה עם ריבית בבית המשפט. תוכנית שיכולה להפיק, עבור כל דחייה, רשומה נקייה של אילו גורמים קליניים נשקלו, חתומה בידי רופא קליני שהיה לו באמת החופש לחלוק, ממופה לכל רגולציה שחלה, לא רק נמנעת מהתביעה. היא יכולה לדחות מהר יותר ובביטחון רב יותר, משום שכל החלטה בנויה לשרוד את הביקורת שמגיעה כעת כעניין של שגרה. בנינו את ארכיטקטורת ממשל ה-AI של Medicare Advantage בדיוק עבור תוכנית כזו.
משפחתה של חולת המתמוגלובינמיה לא הפסידה משום שאלגוריתם עשה טעות. הם הפסידו, זמנית, משום שהמערכת לא הצליחה להסביר את עצמה ואף אדם בתוך הלולאה לא היה חופשי לבטל את החלטתה. בנו את המערכת כך שתוכל להסביר את עצמה, ושחררו את האדם לבטל את החלטתה, ושוב אינכם מקווים שצו הגילוי לעולם לא יגיע. אתם מוכנים אליו.
