ChartSieve / Clinical AI Safety Firewall
كانت قيمة HbA1c صحيحة. ومع ذلك كان يجب إيقاف نصيحة metformin.
يمكن لمسودة بوابة المرضى أن تقتبس من السجل بشكل صحيح ومع ذلك توصي بإجراء خاطئ. تعرف على كيفية فحص ChartSieve للتوصية مقابل سجل مريض اصطناعي قبل اتخاذ قرار إطلاق مُحاكى.
شاهد العرض التوضيحي للشركة. جميع الحالات والسجلات المعروضة اصطناعية.
6.8%
HbA1c مقتبس بشكل صحيح
الحالة الاصطناعية A-1002
28
آخر معدل eGFR مسجل
السجل الاصطناعي نفسه
HOLD
لمراجعة الطبيب السريري
قاعدة كلوية منتقاة
عرض هندسي تجريبي فقط. لا يشارك أي مريض حقيقي أو معلومات صحية محمية (PHI) أو سجل صحي إلكتروني (EHR) أو نظام مورد أو سير عمل رعاية.
نمط الفشل
الرقم الصحيح ليس توصية آمنة.
تصيب المسودة في حقيقة واحدة من السجل. الفحص المقتصر على القيم المخبرية فقط سيتوقف عند هذا الحد. يجب أن يفحص فحص الأمان الخاص بالمريض ما تطلبه المسودة من المريض فعله.
01 / المسودة
“الاستمرار في تناول metformin”
تقتبس مسودة بوابة المرضى الاصطناعية معدل HbA1c 6.8% بشكل صحيح، ثم توصي بالاستمرار في تناول الدواء.
02 / السجل
آخر معدل eGFR: 28
يُظهر السجل الاصطناعي أيضاً اتجاهاً تصاعدياً في مستوى creatinine. إن أحدث معدل eGFR، وليس هذا الاتجاه بمفرده، هو ما يحرّك القاعدة الكلوية المنتقاة.
03 / البوابة
تعليق للمراجعة
تُعيد بوابة السياسات الحتمية HOLD_FOR_REVIEW في سير العمل المُحاكى وتَعرض النتيجة الكلوية للمُراجع.
المعمارية
يمكن للنموذج تقديم المشورة. ولا يمكنه تجاوز البوابة.
يفصل ChartSieve بين إرساء السجلات، وقواعد الأمان، والقرار النهائي. وتكتسب هذه الحدود أهميتها عندما تحجب إجابة مقبولة ظاهرياً إجراءً غير آمن.
الخطوة 01
إرساء الادعاء
تقارن الشيفرة الحتمية ادعاءات الفحوصات المخبرية والأدوية المستخرجة مع ملف JSON لسجل مريض اصطناعي شبيه بـ FHIR. وتظهر المصادر حيثما تتوفر.
الخطوة 02
تطبيق قواعد الأمان
تفحص مجموعة القواعد الأولية المنتقاة أحدث معدل eGFR، والحساسيات، والعلامات الحيوية. وتُسفر حالة metformin عن CONTRAINDICATION_RENAL.
الخطوة 03
اتخاذ القرار خارج نموذج اللغة الكبير (LLM)
قد تضيف إرشادات المدقق سياقاً، لكنها لا تستطيع تجاوز نتيجة RELEASE، HOLD_FOR_REVIEW، أو BLOCK الخاصة بالبوابة الحتمية.
إثبات من العرض التجريبي
تبقى النتيجة مرفقة بالقرار.
هذه لقطات من العرض التجريبي الاصطناعي قيد التشغيل، وليست سجلات عملاء أو رسوماً توضيحية. يُبقي العرض بالاتساع الكامل النتيجة والأدلة الداعمة مقروءة.
مسار الأدلة
سبب للمراجعة، وليس مجرد ضوء أحمر.
تحتفظ نتيجة الموجز بنتيجة القاعدة، وأدلة الادعاء المتاحة، وإرشادات المدقق معاً. ويتضمن إيصال الأمان Safety Receipt الخاص بها ملخص SHA-256 مختوماً بطابع زمني ومقتطعاً إلى 16 حرفاً ست عشرياً؛ وهو ليس توقيعاً أو سجل تدقيق غير قابل للتغيير.
اختبار محدود النطاق
يختبر المعيار القياسي أنماط القواعد الأولية المزروعة، وليس الجاهزية السريرية.
على 34 عنصراً اصطناعياً ثابتاً وموسوماً، علّق ChartSieve أو حظر جميع الحالات غير الآمنة المزروعة البالغ عددها 22 دون تعليق الحالات الآمنة البالغ عددها 12. ورصد خط أساس محدد يقتصر على القيم المخبرية فقط 4 من تلك الحالات غير الآمنة الـ 22 على المجموعة نفسها.
34
عناصر اصطناعية ثابتة
22/22
حالات غير آمنة مزروعة عُلّقت أو حُظرت
4/22
رصدها خط الأساس البسيط المحدد
هذه الأعداد مأخوذة من مجموعة صغيرة مزروعة بأنماط قواعد معروفة. وهي لا تقيس نتائج المرضى أو الأداء الفعلي المنشور أو الدقة السريرية العامة.
ما وراء الحالة المرجعية
تنطبق حدود الفحص نفسها على المخاطر المزروعة الأخرى.
يتضمن الموجز أيضاً دعم القرار السريري وعرض Model Equity. هذه أمثلة حوكمة اصطناعية وليست تشخيصات أو ملاحظات من منظومة صحية.
المخرجات الخالية من التنبيه تظل خاضعة للفحص.
درجة النموذج المزروعة البالغة 0.34 تقل عن عتبة التنبيه البالغة 0.40، بينما يُظهر السجل الاصطناعي علامات حيوية ومستوى لاكتات مقلقين. وتضع البوابة علامة تنبيه لنقص التنبيه ومخاوف الأكسجة للمراجعة.
النتائج الإجمالية ليست المشهد كاملاً.
يفحص سجل اصطناعي منفصل مكوّن من 500 قرار حساسية المجموعات الفرعية مقابل عتبة تكافؤ مختارة تبلغ 0.80. تدعو علامات التنبيه إلى مراجعة سريرية وإحصائية؛ وليست انحيازاً في العالم الحقيقي أو حكماً قانونياً.
ما يقوم به هذا العرض التجريبي وما لا يقوم به
يُظهر العرض التوضيحي آلية فحص. وسيتطلب النشر الفعلي عملاً منفصلاً في التكامل والتحقق السريري والحوكمة.
| السؤال | المعروض هنا | خارج هذا العرض التجريبي |
|---|---|---|
| سياق المريض | سجلات اصطناعية شبيهة بـ FHIR وموجز ثابت | اتصال حي بالسجل الصحي الإلكتروني (EHR) أو بأجهزة بجانب السرير |
| القرار النهائي للأمان | قواعد منتقاة وبوابة سياسات حتمية | مجموعة قواعد سريرية شاملة ومُصانة أو تشخيص |
| سير عمل الرعاية | نتائج إطلاق وتعليق وحظر مُحاكاة | إرسال رسالة أو تأكيد مراجعة الطبيب السريري |
| الأدلة | مصادر الادعاءات المتاحة وإيصالات ملخص SHA-256 المقتطعة في الموجز | تسجيل تدقيق موقّع وغير قابل للتغيير ومناسب لبيئات الإنتاج |
| التقييم | مجموعة انحدار اصطناعية ثابتة وشاشة حوكمة للمجموعات الفرعية | تحقق سريري استباقي أو تحديد قانوني للعدالة |
ما لا يقوم به هذا العرض التجريبي: إنه لا يستخدم مرضى حقيقيين أو معلومات صحية محمية (PHI)، ولا يدمج ذكاءً اصطناعياً من موردين، ولا يرسل رسائل للمرضى، ولا يُجري دراسة سريرية، ولا يُثبت امتثالاً تنظيمياً.
أسئلة تشغيلية تتجاوز نطاق الحالة
ماذا يحدث إذا كان مدقق الذكاء الاصطناعي غير متاح؟
يستخدم ChartSieve نصاً إرشادياً حتمياً عندما يكون المزود المباشر الاختياري غير متاح أو عند غياب الرد المخزن مؤقتاً. وتظل بوابة السياسات الحتمية هي التي تقرر ما إذا كانت المسودة الاصطناعية ستُطلق، أو تُعلّق للمراجعة، أو تُحظر. ولا يحدد رد الوكيل ذلك القرار أو يتجاوزه أبداً.
لماذا يتم إظهار اتجاه creatinine إذا كان معدل eGFR هو ما يحرّك تعليق metformin؟
يُعد الاتجاه التصاعدي لمستوى creatinine لدى المريض الاصطناعي سياقاً داعماً للنتيجة الكلوية. وتستخدم القاعدة الكلوية المنتقاة في ChartSieve أحدث معدل eGFR مسجل والبالغ 28 لتعليق التوصية بـ metformin. ولا يحدد هذا الاتجاه الحكم بشكل مستقل.
هل تتضمن صفوف المعيار القياسي إرشادات وكيل التدقيق؟
لا. يُشغّل ChartSieve المعيار القياسي على مجموعة انحدار ثابتة وموسومة منفصلة، ولا تحمل تلك الصفوف إرشادات المدقق. إن رصد 22 من أصل 22 حالة غير آمنة يقيس جدار الحماية الحتمي مقابل أنماط القواعد المزروعة، وليس أداء الوكلاء أو التحقق السريري.
هل يوجد مصدر على مستوى الادعاء لكل مخرج يتم فحصه؟
لا. تتضمن نتائج فحص الموجز مصادر الادعاءات حيثما تتوفر، إلى جانب نتائج القواعد وإرشادات المدقق. لا يضمن ChartSieve وجود مصدر لكل ادعاء أو عنصر في هذا الموجز الاصطناعي. ويجب على المراجعين التمييز بين المصدر المعروض والادعاء غير المدعوم.
هل يثبت عرض Model Equity أن نموذج sepsis منحاز؟
لا. يفحص Model Equity عدد 500 قرار sepsis اصطناعي لمعرفة حساسية المجموعات الفرعية ويضع علامات تنبيه على نسب التكافؤ التي تقل عن عتبة 0.80 المختارة. إنه فحص حوكمة على بيانات مزروعة، وليس نتيجة حول نموذج فعلي منشور أو تحديداً قانونياً للعدالة. وستحتاج نتائج المجموعات الفرعية إلى مراجعة سريرية وإحصائية.
هل يُعد إفصاح الذكاء الاصطناعي في العرض التجريبي تواصلاً متوافقاً مع المرضى؟
لا. تتلقى مسودة البوابة الاصطناعية المُطلقة نص إفصاح توضيحي عن الذكاء الاصطناعي يشير إلى AB 3030. لا يستكمل العرض التجريبي سير عمل التواصل الإضافي والاتصال البشري المطلوب للامتثال، ولا يتلقى أي مريض حقيقي أو فريق رعاية هذه الرسالة.
الأبحاث التقنية
الأبحاث الكامنة وراء هذا العرض التجريبي — المعمارية، وتصميم التحقق، والمخطط المؤسسي.
أدرج الفحوصات الخاصة بالسجلات في صلب حوار التصميم
يمكننا فحص الموضع الذي تدخل فيه المسودة سير عمل الرعاية لديك وما هي الأدلة التي سيحتاجها الطبيب السريري عند بوابة المراجعة.
ChartSieve هو عرض هندسي تجريبي اصطناعي. ويتطلب النشر الفعلي تكاملاً وقواعد سريرية مُصانة وتحققاً محلياً ومراجعة بشرية خاضعة للمساءلة.
تقييم سير عمل الأمان
- ✓ تخطيط مسار المسودة حتى المراجعة
- ✓ متطلبات أدلة سجل المريض
- ✓ ملكية القواعد وتصميم التصعيد
- ✓ أسئلة التقييم قبل النشر
تصميم التنفيذ الخاضع للحوكمة
- ✓ حدود التكامل
- ✓ مواصفات البوابة الحتمية
- ✓ أدلة مراجعة الطبيب السريري
- ✓ تقييم مستمر للأمان والعدالة
