ChartSieve / Clinical AI Safety Firewall
ערך ה-HbA1c היה נכון. עדיין היה צורך לעצור את המלצת המטפורמין.
טיוטה בפורטל מטופלים יכולה לצטט את התיק הרפואי במדויק ועדיין להמליץ על הפעולה השגויה. ראו כיצד ChartSieve בודקת את ההמלצה מול רשומת מטופל סינתטית לפני החלטת שחרור מדומה.
צפו בסקירה המודרכת של החברה. כל המקרים והרשומות המוצגים הם סינתטיים.
6.8%
HbA1c צוטט במדויק
מקרה סינתטי A-1002
28
eGFR אחרון שתועד
אותה רשומה סינתטית
HOLD
לבדיקת קלינאי
כלל כלייתי שנאצר
הדגמה הנדסית בלבד. שום מטופל אמיתי, מידע בריאותי מוגן (PHI), מערכת תיק רפואי (EHR), מערכת ספק או זרימת עבודה טיפולית אינם מעורבים.
דפוס הכשל
מספר נכון אינו המלצה בטוחה.
הטיוטה מדייקת בעובדה אחת מתוך התיק הרפואי. בדיקה המבוססת על ערכי מעבדה בלבד הייתה נעצרת שם. בדיקת הבטיחות הייעודית למטופל חייבת לבחון מה הטיוטה מבקשת מהמטופל לעשות.
01 / טיוטה
“המשך מטפורמין”
טיוטת פורטל המטופלים הסינתטית מצטטת את ה-HbA1c 6.8% במדויק, ולאחר מכן ממליצה להמשיך בטיפול התרופתי.
02 / רשומה
eGFR עדכני: 28
הרשומה הסינתטית מציגה גם מגמת עלייה בקריאטינין. ה-eGFR העדכני, ולא המגמה לבדה, הוא שמפעיל את הכלל הכלייתי שנאצר.
03 / שער
עיכוב לבדיקה
שער המדיניות הדטרמיניסטי מחזיר HOLD_FOR_REVIEW בזרימת העבודה המדומה ומציג את הממצא הכלייתי לבודק.
הארכיטקטורה
המודל יכול לייעץ. הוא אינו יכול לאשר את מעבר השער.
ChartSieve מפרידה בין עיגון ברשומה, כללי בטיחות וההחלטה הסופית. גבול זה קריטי כאשר תשובה הנראית סבירה מסווה פעולה לא בטוחה.
שלב 01
עיגון הטענה
קוד דטרמיניסטי משווה טענות שחולצו לגבי מעבדה ותרופות מול נתוני JSON סינתטיים של רשומת מטופל דמויית-FHIR. מקורות מוצגים במידת זמינותם.
שלב 02
החלת כללי בטיחות
מערך כללי בסיס שנאצר בודק את ה-eGFR העדכני ביותר, אלרגיות ומדדים חיוניים. מקרה המטפורמין מניב CONTRAINDICATION_RENAL.
שלב 03
החלטה מחוץ ל-LLM
הודעות ייעוץ של מאמתים עשויות להוסיף הקשר, אך הן אינן יכולות לעקוף את תוצאת RELEASE, HOLD_FOR_REVIEW, או BLOCK של השער הדטרמיניסטי.
הוכחה מתוך ההדגמה
הממצא נשאר מוצמד להחלטה.
אלו הם צילומי מסך מתוך ההדגמה הסינתטית הפועלת, ולא רשומות לקוח או איורים. התצוגה ברוחב מלא שומרת על קריאות הממצא והראיות התומכות.
נתיב ראיות
סיבה לבדיקה, לא רק אור אדום.
תוצאת ההזנה שומרת יחד את ממצא הכלל, ראיות הטענה הזמינות והודעות הייעוץ של המאמת. ה-Safety Receipt כולל תמצית SHA-256 עם חותמת זמן המקוצרת ל-16 תווים הקסדצימליים; אין מדובר בחתימה או ביומן ביקורת בלתי ניתן לשינוי.
מבחן מוגדר ומתוחם
הבנצ'מרק בודק תבניות כללים מוזנות, ולא מוכנות קלינית.
על גבי 34 תוצרים סינתטיים מתויגים וקבועים, ChartSieve עיכבה או חסמה את כל 22 המקרים הלא-בטוחים המוזנים מבלי לעכב את 12 המקרים הבטוחים. קו בסיס מוגדר המבוסס על ערכי מעבדה בלבד תפס 4 מתוך אותם 22 מקרים לא-בטוחים באותה ערכה.
34
תוצרים סינתטיים קבועים
22/22
מקרים לא-בטוחים מוזנים שעוכבו או נחסמו
4/22
נתפסו על ידי קו הבסיס הנאיבי המוגדר
ספירות אלו מגיעות מערכה קטנה שהוזנו בה תבניות כללים ידועות. הן אינן מודדות תוצאות מטופלים, ביצועים בייצור או דיוק קליני כללי.
מעבר למקרה העוגן
אותו גבול בדיקה חל גם על סיכונים מוזנים אחרים.
ההזנה כוללת גם תמיכה בהחלטות קליניות ותצוגת Model Equity. אלו הן דוגמאות ממשל סינתטיות, ולא אבחנות או תצפיות ממערכת בריאות.
פלט ללא התרעה עדיין נבדק.
ציון מודל מוזן של 0.34 נמוך מסף ההתרעה שלו שעומד על 0.40, בעוד שהרשומה הסינתטית מציגה מדדים חיוניים ורמת לקטט מדאיגים. השער מסמן תת-התרעה (under-call) וחשש לחמצון לבדיקה.
תוצאות מצרפיות אינן התמונה המלאה.
יומן סינתטי נפרד של 500 החלטות בודק רגישות של תת-קבוצות מול סף שוויון שנבחר ברמה של 0.80. דגלים אלו מחייבים בדיקה קלינית וסטטיסטית; אין מדובר בהטיה בעולם האמיתי או בממצא משפטי.
מה הדגמה זו עושה ומה אינה עושה
הסקירה המודרכת מציגה מנגנון בדיקה. פריסה בפועל תדרוש אינטגרציה נפרדת, תיקוף קליני ועבודת ממשל.
| שאלה | מוצג כאן | מחוץ להדגמה זו |
|---|---|---|
| הקשר המטופל | רשומות סינתטיות דמויות-FHIR והזנה קבועה | חיבור חי ל-EHR או למכשיר ליד מיטת המטופל |
| החלטת בטיחות | כללים שנאצרו ושער מדיניות דטרמיניסטי | מערך כללים קליני מקיף ומתוחזק או אבחנה |
| זרימת עבודה טיפולית | תוצאות מדומות של שחרור, עיכוב וחסימה | שליחת הודעה או אישור בדיקת קלינאי |
| ראיות | מקורות טענה זמינים וקבלות עם תמצית SHA-256 מקוצרת בהזנה | יומן ביקורת חתום, בלתי ניתן לשינוי וברמת ייצור |
| הערכה ותיקוף | ערכת רגרסיה סינתטית קבועה ובדיקת ממשל של תת-קבוצות | תיקוף קליני פרוספקטיבי או קביעת הוגנות משפטית |
מה הדגמה זו אינה עושה: היא אינה משתמשת במטופלים אמיתיים או ב-PHI, אינה משלבת AI של ספק, אינה שולחת הודעה למטופל, אינה מבצעת מחקר קליני ואינה מבססת עמידה ברגולציה.
שאלות תפעוליות מעבר למקרה
מה קורה אם מאמת AI אינו זמין?
ChartSieve משתמשת בטקסט ייעוץ דטרמיניסטי כאשר הספק החי האופציונלי אינו זמין או כאשר תגובה שמורה במטמון חסרה. שער המדיניות הדטרמיניסטי עדיין מחליט האם הטיוטה הסינתטית משוחררת, מעוכבת לבדיקה או נחסמת. תגובת סוכן לעולם אינה קובעת החלטה זו או עוקפת אותה.
מדוע להציג את מגמת הקריאטינין אם eGFR הוא שמניע את עיכוב המטפורמין?
מגמת העלייה בקריאטינין של המטופל הסינתטי מהווה הקשר תומך לממצא הכלייתי. הכלל הכלייתי שנאצר של ChartSieve משתמש ב-eGFR האחרון שתועד, העומד על 28, כדי לעכב את המלצת המטפורמין. המגמה אינה קובעת את ההחלטה באופן עצמאי.
האם שורות הבנצ'מרק כוללות הודעות ייעוץ של סוכני אימות?
לא. ChartSieve מריצה את הבנצ'מרק על ערכת רגרסיה מתויגת וקבועה נפרדת, ושורות אלו אינן נושאות הודעות ייעוץ של מאמתים. 22 מתוך 22 תפיסות המקרים הלא-בטוחים מודדות את חומת האש הדטרמיניסטית מול תבניות כללים מוזנות, ולא ביצועי סוכנים או תיקוף קליני.
האם קיים מקור ברמת הטענה עבור כל פלט שנבדק?
לא. תוצאות בדיקת ההזנה כוללות מקורות טענה במידת זמינותם, לצד ממצאי כללים והודעות ייעוץ של מאמתים. ChartSieve אינה מבטיחה מקור לכל טענה או תוצר בהזנה סינתטית זו. על הבודקים להבחין בין מקור מוצג לבין טענה ללא תמיכה.
האם תצוגת Model Equity מוכיחה שמודל ספסיס הוא מוטה?
לא. Model Equity בודקת 500 החלטות ספסיס סינתטיות לרגישות של תת-קבוצות ומסמנת יחסי שוויון הנמוכים מסף 0.80 שנבחר. זוהי בדיקת ממשל על נתונים מוזנים, ולא ממצא על מודל אמיתי שנפרס או קביעת הוגנות משפטית. תוצאות תת-הקבוצות ידרשו בדיקה קלינית וסטטיסטית.
האם גילוי ה-AI בהדגמה מהווה תקשורת תואמת רגולציה עם מטופל?
לא. טיוטת פורטל סינתטית ששוחררה מקבלת מחרוזת גילוי AI להמחשה המפנה ל-AB 3030. ההדגמה אינה משלימה את זרימת העבודה הנוספת של תקשורת ומגע אנושי הנדרשת לצורך ציות, ושום מטופל או צוות טיפול אמיתי אינם מקבלים את ההודעה.
Technical Research
המחקר שמאחורי הדגמה זו — הארכיטקטורה, תכנון האימות והמתווה הארגוני.
שלבו בדיקות ייעודיות לרשומה בשיח התכנון הארכיטקטוני
נוכל לבחון היכן טיוטה נכנסת לזרימת העבודה הטיפולית שלכם ואילו ראיות קלינאי יצטרך בשער בדיקה.
ChartSieve היא הדגמה סינתטית. פריסה אמיתית דורשת אינטגרציה, כללים קליניים מתוחזקים, תיקוף מקומי ובדיקה אנושית אחראית.
הערכת זרימת עבודת בטיחות
- ✓ מיפוי נתיב מטיוטה לבדיקה
- ✓ דרישות ראיות מרשומת המטופל
- ✓ תכנון בעלות על כללים והסלמה
- ✓ שאלות הערכה לפני פריסה
תכנון יישום מבוקר
- ✓ גבולות אינטגרציה
- ✓ מפרט שער דטרמיניסטי
- ✓ ראיות לבדיקת קלינאי
- ✓ הערכת בטיחות והוגנות מתמשכת
