בריאות ומדעי החיים

בינה מלאכותית קלינית כבר פועלת בתוך מערכות ה-EHR שלכם, שרשרת הקידוד, תור האישורים המוקדמים וצינור גילוי התרופות שלכם — אך שכבת הבטיחות, האימות והתיעוד הרגולטורי החוצצת בין המודל למטופל אינה קיימת במרבית הפריסות. הגישה של Veriprajna היא להנדס את השכבה החסרה הזו: אימות קליני דטרמיניסטי, ניטור מכשירים רציף וממשל מוכן לביקורת המיועדים למערכות בריאות, פארמה ומבטחים.

ל-AI שהקלינאים שלכם כבר משתמשים בו אין שכבת בטיחות

לשני שלישים מבסיס ספקי השירות של Epic יש כעת גישה לתוכן קליני שנוצר על ידי GPT-4. רשמים אוטומטיים (ambient scribes) מנסחים סיכומים, תשובות In Basket נשלחות למטופלים והודעות MyChart זוכות למענה אוטומטי. במחקר שעבר ביקורת עמיתים על פריסות קליניות אמיתיות, 2.9% מסיכומי המפגשים שנוצרו על ידי AI הכילו הזיות או שגיאות עובדתיות — לרבות סטטוסי תרופות שגויים ותאריכי הליכים לא נכונים.

המספר הזה נשמע קטן עד שמביאים בחשבון כי 22.7% מהמטפלים דיווחו שהם מדלגים כליל על הרשומות המלאות לטובת סיכום ה-AI בלבד. שכבת הבטיחות בין ה-LLM למטופל אינה קיימת כיום במרבית שילובי ה-EHR: ארכיטקטורת CDS Hooks של Epic לא תוכננה לאמת בזמן אמת טקסט שנוצר על ידי LLM מול רשימת הבעיות הפעילות, רשימת התרופות ורשימת האלרגיות של המטופל. זהו הפער שהפרויקטים שלנו מוגדרים לסגור — ראו הדגמה חיה של שכבת הבטיחות שלנו ל-AI קליני.

זה אינו עניין תיאורטי. כאשר חוקרים בחנו שישה מודלי LLM מובילים באמצעות תיאורי מקרה קליניים שהכילו ערך מעבדה בודד ומזויף שהושתל, המודלים חזרו על המידע השגוי או הרחיבו עליו בעד 83% מהמקרים. הנחיית הפחתת סיכונים פשוטה הפחיתה את השיעור במחצית אך לא העלימה אותו. בתהליכי עבודה שבהם רישום שנוצר על ידי AI מוזן ישירות למערכות קידוד, מרשמים והזמנות, וחיוב, ערך מעבדה מהוזה או היסטוריית תרופות מפוברקת עלולים להתפשט לאורך כל שרשרת הטיפול לפני שגורם אנושי יתערב.

בעיית הקידוד של $2.3 billion שאיש לא תכנן עבורה

ניתוח נתוני תביעות מסחריות של Blue Cross Blue Shield ממרץ 2026 מצא כי פרקטיקות קידוד מבוססות AI מקושרות לתוספת של $2.3 billion בהוצאות שירותי הבריאות — $663 million באשפוז ו- $1.67 billion במרפאות חוץ. הוויכוח האם מדובר בקידוד-יתר (upcoding) או בשיפור דיוק התיעוד מחטיא את המטרה: אם הרשם האוטומטי שלכם קולט יותר פרטים קליניים אך איש אינו מאמת האם אותם פרטים מדויקים, בניתם מכונה יקרה לייצור תביעות ברמת מורכבות וחומרה גבוהה יותר מאותה מציאות קלינית עצמה.

מטפלים ומבטחים כאחד מסכימים שרשמים אוטומטיים מעלים את העלויות; לאיש מהם אין פתרון, משום שהבעיה נעוצה בין הרשם למקדד — בשכבת אימות שעדיין אינה קיימת. הגישה שלנו היא לבנות את שכבת האימות הזו — לא על ידי החלפת כלי התיעוד האוטומטיים או תחרות במנועי קידוד, אלא על ידי החדרת אימות קליני דטרמיניסטי בין הרישום שנוצר על ידי ה-AI לבין מערכות ההמשך הפועלות על פיו. הבדיקות מתוכננות להיות מבניות, ולא הסתברותיות:

• האם ממצא מתועד זה מופיע ברשומת המטופל?
• האם הערכה זו תואמת את הראיות המתועדות?
• האם רמת מורכבות זו נתמכת על ידי נתוני המפגש?

אלו הם אימותים מבוססי כללים מול עובדות קליניות ידועות, ולא שיפוטים הסתברותיים.

1,451 מכשירי AI באישור ה-FDA ובעיית החזרות יזומות (recalls)

ה-FDA אישר 295 מכשירים רפואיים מבוססי AI בשנת 2025 בלבד — המספר הגבוה ביותר בתולדותיו — מה שהביא את הסך המצטבר ל- 1,451. אולם סקירה של 60 מכשירי AI מאושרים על ידי ה-FDA מצאה 182 החזרות יזומות (recalls), כאשר כמעט מחציתן התרחשו בתוך שנה ממועד האישור. מערכת הניווט TruDI Navigation System רשמה יותר מ-100 תקלות ואירועים חריגים לאחר שילוב AI, בהשוואה לשבעה בלבד קודם לכן. רק 5.2% ממכשירי ה-AI המאושרים דיווחו כלל על נתוני אירועים חריגים — מה שאומר שאנו פועלים בעיוורון מוחלט לגבי בטיחותם לאחר שיווק של 95% הנותרים.

הנחיית ה- PCCP מדצמבר 2024 הסופית פתחה נתיב עבור מכשירי AI אדפטיביים להתפתח לאחר קבלת האישור ללא הגשות חדשות, אך מרבית היצרנים אינם ערוכים ליישם את תשתית הניטור, האימות והתיעוד ש-PCCP דורשת. הגישה שלנו היא לבנות את התשתית הזו: מערכות הניטור הרציף, צינורות אימות הביצועים ומסגרות התיעוד הרגולטורי שנועדו להפוך PCCP מאסטרטגיית הגשה למציאות תפעולית.

פער בממשל: ל-23% יש מסגרות, 78% כבר פורסים

רק 23% ממערכות הבריאות הקימו מבני ממשל AI רשמיים, אך 78% מתכננות לפרוס AI קליני בתוך 24 החודשים הקרובים. שטח הפנים הרגולטורי מתרחב מהר יותר מכפי שמרבית מערכות הבריאות יכולות לאייש ועדות ממשל:

• ה- AMA שחרר את ערכת כלי ממשל ה-AI שלו ב- אוגוסט 2025.
• הארגון Coalition for Health AI (CHAI) פרסם מתווה משותף (Blueprint) עם ה- Joint Commission בספטמבר 2025, ובכך אותת על ציפיות ממשל ליותר מ-22,000 ארגונים מוסמכים.
• תקנת HTI-1 של ONC מחייבת 31 מאפייני מקור עבור התערבויות תומכות החלטה חיזוייות ומחייבת גילוי פומבי של פרקטיקות ניהול סיכוני התערבות.
• סעיף 1557 וכלל אי-האפליה שלו מתרחב לכלי החלטה קליניים מבוססי AI, עם מאי 2025 כמועד אחרון לציות.
• ה-OCR רשם זינוק בפעולות אכיפת AI בשיעור של 340% בשנת 2025.

אנו מתכננים תוכניות ממשל AI העונות בו-זמנית על דרישות ONC, OCR, CMS ו-Joint Commission, גישה המפורטת ב- מחקרנו על חזית ממשל השלמות האלגוריתמית. מערכת בריאות הפורסת רשם אוטומטי של Epic, מודל חיזוי לאלח דם (sepsis) וצ'אטבוט הפונה למטופלים מחזיקה בשלושה פרופילי סיכון AI שונים החולקים נתוני מטופלים. ניהול שלהם בסילואים מבודדים — לפי ספק, לפי מחלקה או לפי דרישת ציות — הוא האופן שבו ארגונים מגיעים למדיניות כפולה וסותרת, הערכות סיכון מתנגשות ופרצות שהרגולטורים מגלים הרבה לפני שוועדת הממשל מספיקה לעשות זאת.

AI בפארמה: 173 תוכניות קליניות, אפס אישורים, פערי אימות אמיתיים

יותר מ- 173 תוכניות תרופות שהתגלו באמצעות AI נמצאות בפיתוח קליני (מחקרנו על גילוי תרופות בלולאה סגורה באמצעות AI). Insilico Medicine פרסמה את הוכחת ההיתכנות הקלינית הראשונה בתעשייה לתרופה שהתגלתה באמצעות AI בכתב העת Nature Medicine ביוני 2025. Recursion עצרה את פיתוח המועמד המוביל שלה REC-994 במאי 2025 לאחר שנתונים ארוכי טווח לא איששו מגמות יעילות מוקדמות. חברות פארמה גדולות התחייבו למיליארדים בשותפויות AI — Novo Nordisk–Valo Health ($2.76B), Eli Lilly–Isomorphic Labs ($1.75B), וכן Bayer–Recursion ($1.5B) — ובכל זאת אף תרופה שהתגלתה באמצעות AI לא קיבלה אישור FDA נכון לתחילת 2026.

פער האימות ב-AI בפארמה אינו בביצועי המודל — אלא בתיעוד הרגולטורי. כאשר AI נוגע בתהליכים הכפופים לרגולציית GxP, כל החלטה אלגוריתמית מחייבת נתיב ביקורת (audit trail) התואם את 21 CFR Part 11 . טיוטת ההנחיות של ה-FDA מ- ינואר 2025 הציגה מסגרת להערכת אמינות מבוססת סיכון, ועקרונות ינואר 2026 המשותפים ל-FDA ול-EMA מדגישים התאמה למטרה וממשל נתונים חזק. הגישה שלנו היא לבנות את תשתית האימות המחברת בין פלטי מודל ה-AI למסגרות התיעוד שרגולטורים בוחנים בפועל: תוכניות להערכת אמינות, הגדרות הקשר השימוש (context of use) ונתיבי ביקורת העוקבים אחר כל החלטה אלגוריתמית מנתוני האימון ועד לנקודת הקצה הקלינית.

חשבון הנפש של מבטחי הבריאות עם ה-AI

סוכנות CMS השיקה את פיילוט WISeR ב- ינואר 2026, במטרה לבחון אישורים מוקדמים מבוססי AI עבור מוטבי Medicare בשש מדינות. בתוך חודשים ספורים דיווחו רופאים על עלייה בסירובים, זמני המתנה ארוכים יותר לסקירות בין עמיתים (peer-to-peer) ועיכובים בנגישות המטופלים לטיפול. המבנה הפיננסי של התוכנית מתגמל ספקים על בסיס נתח מ"החיסכון", ובכך יוצר תמריץ ישיר לדחות בקשות. ארגון ה- EFF הגיש תביעה בדרישה לשקיפות לגבי התמריצים הכספיים של הספקים, וחברי המפלגה הדמוקרטית הגישו הצעת חוק לביטול הפיילוט. במקביל, בתי מחוקקים במדינות השונות פועלים באופן עצמאי:

• טקסס אוסרת על החלטות דחייה אוטומטיות ללא פיקוח אנושי.
• הצעת חוק SB 243 של קליפורניה מסדירה צ'אטבוטים של ליווי מבוססי AI.
• אילינוי ו- נבאדה אסרו לחלוטין על שימוש ב-AI עבור בריאות התנהגותית ונפשית.

עבור מבטחים הפורסים AI בניהול ניצול שירותים (utilization management), השאלה אינה עוד האם הרגולציה תגיע אלא האם המערכת שלכם מסוגלת להציג את נתיב הביקורת, תיעוד הרציונל הקליני ושילוב הפיקוח האנושי שכל רגולציה מתגבשת דורשת. אנו מתכננים מסגרות ציות אלגוריתמיות עבור AI של מבטחים כדי לתעד את רציונל ההחלטה ברמת התביעה הבודדת, לשלב טריגרים לבדיקה אנושית מחייבת ולהפיק את דוחות השקיפות ש-CMS, תובעים כלליים של מדינות ועורכי דין של תובעים ידרשו בסופו של דבר.

מדוע לא חברת ייעוץ גדולה?

ל-Deloitte, Accenture ו-McKinsey יש לכולן מחלקות ייעוץ AI בתחום הבריאות. הן מייצרות מסגרות ממשל, הערכות בגרות ומפות דרכים אסטרטגיות, והן טובות בניהול שינוי ארגוני ובתיאום בין מנהלים. הן אינן בונות מערכות בטיחות קליניות.

כאשר אינטגרציית ה-Epic שלכם זקוקה לשכבת אימות בזמן אמת הבודקת המלצות תרופתיות שנוצרו על ידי AI מול רשימת האלרגיות של המטופל בתוך CDS Hooks, מדובר בבעיה הנדסית הדורשת הן עומק באינפורמטיקה קלינית והן יכולת אינטגרציית מערכות. החברות הגדולות מוציאות את העבודה הזו לקבלני משנה; אנו מתייחסים אליה כהנדסת הליבה של הפרויקט ולא כהעברה לגורם שלישי. כאשר צוות הפארמה שלכם זקוק לנתיבי ביקורת תואמי 21 CFR Part 11 עבור מודל AI בתהליך GxP, הפרויקט מוגדר לספק את הצינור המבצעי בפועל — ולא מצגת PowerPoint המתארת כיצד הצינור אמור להיראות.