Recorrido sintético | Controles de responsabilidad para IA

Una consulta de jubilación de $480k. El modelo no pudo autorizar su propia respuesta.

Una solicitud basada en guion pregunta si se debe transferir un saldo de jubilación de $480k a un único token cripto. ForenChain retiene una recomendación específica mediante una compuerta de políticas determinista, emite información general y registra el motivo.

Siga la decisión Inspeccione la evidencia

Vea el recorrido narrado. Cada solicitud y registro mostrado es sintético.

28/28

Acciones esperadas coincidentes

Conjunto etiquetado sintético fijo

18/18

Casos de alto riesgo con cobertura transformados o bloqueados

Mismo conjunto sintético fijo

2/2

Casos fuera de cobertura enviados a revisión humana

Mismo conjunto sintético fijo

Estos son resultados de regresión del conjunto de reglas local, no precisión en el mundo real, rendimiento en despliegue ni una conclusión legal.

El problema de la revisión

La pregunta llega después de que la respuesta sale

Una respuesta de IA orientada al cliente puede ser cuestionada mucho después de haber sido enviada. Un registro exclusivo de salidas muestra el texto, pero no qué control evaluó la solicitud, por qué se permitió la emisión o si el registro de decisión conservado cambió.

ForenChain separa la clasificación de asesoramiento de la autorización, conserva la decisión de política junto con la respuesta y expone los límites de su registro de evidencia local.

Una compuerta de políticas entre el asesoramiento y la emisión

La solicitud sintética de jubilación hace visible este límite.

Clasificar

Una señal de asesoramiento

El clasificador propone una intención, un nivel de riesgo y una confianza. Comprobaciones de entrada sin procesar buscan de forma independiente señales estrictas bajo los paquetes de políticas representativos cargados.

Autorizar

Una acción determinista

El paquete de orientación financiera devuelve TRANSFORM. El código retiene una recomendación de asignación específica y la sustituye por información general. El clasificador no puede autorizar la emisión por sí solo.

Registrar

Una decisión verificable

La acción y la política se anexan a un registro SQLite local. Cada hash de registro SHA-256 incorpora el hash anterior y los campos canónicos del registro.

Un escenario sintético · dos registros de decisión

Siga una emisión. Luego pruebe el registro.

Los dos primeros fotogramas muestran una decision #7 sintética local y su panel de evidencia. El tercero prueba un record #3 inicial independiente para la misma solicitud de jubilación basada en guion. No altera la decision #7.

01 / Emisión

El asesoramiento específico no sale

El paquete de políticas financieras devuelve TRANSFORM. El código sustituye la respuesta por información general y un descargo de responsabilidad antes de que se emita.

La traza hace visibles la clasificación, la política, la autorización y el compromiso.

Abrir el fotograma a tamaño completo para leer la respuesta y la traza

02 / Evidencia

La autorización es inspeccionable

El panel de decisión vincula la solicitud basada en guion con su acción transformada y el control aplicado. Ofrece hechos técnicos para su revisión, no una conclusión legal.

Un revisor posterior puede examinar la ruta que produjo el texto emitido.

Abrir el fotograma a tamaño completo para inspeccionar los detalles de la decisión

03 / Comprobación de alteración

La acción anterior se modifica

Una edición simulada cambia el record #3 inicial de TRANSFORM a ALLOW sin recalcular su hash. El verificador local señala ese primer enlace roto.

Esto detecta la edición local mostrada; la custodia independiente sigue siendo un trabajo aparte.

Abrir el fotograma a tamaño completo para inspeccionar el indicador de enlace roto

Cuatro rutas de emisión, un único límite de autoridad

La compuerta configurada, y no el clasificador de asesoramiento, elige entre estas acciones para las solicitudes sintéticas mostradas.

Acción	Ruta demostrada
ALLOW	Una solicitud general sin señales de alto riesgo puede ser emitida.
TRANSFORM	La solicitud de asignación de jubilación recibe información general en lugar de una recomendación específica.
BLOCK	La solicitud de dirección personal se retiene bajo el paquete de datos personales cargado.
HUMAN_REVIEW	La solicitud sobre medicación expone un área de políticas no cargada y registra una decisión de escalamiento.

Lo que esta demo no hace: No se ejecuta contra el sistema de un cliente, no establece custodia independiente de la evidencia ni determina un resultado legal.

Preguntas que planteará un equipo de revisión

¿Puede el modelo emitir una respuesta de riesgo si etiqueta la solicitud como inofensiva?

En esta demostración, el clasificador asesora pero no autoriza la emisión. Comprobaciones en código plano examinan las señales de entrada sin procesar frente a los paquetes de políticas representativos cargados, y la compuerta determinista establece la acción final. Este es un control acotado para los paquetes mostrados, no una garantía de que se detectará cada solicitud de riesgo.

¿Qué se registra cuando la compuerta transforma una respuesta?

El registro local almacena la solicitud, la clasificación, el control coincidente, la acción de emisión y la respuesta en un registro de decisión vinculado por hash. En el ejemplo sintético de jubilación, el paquete de orientación financiera devuelve TRANSFORM y el texto emitido contiene información general en lugar de una recomendación de asignación específica. El registro ayuda al revisor a reconstruir la ruta de decisión demostrada.

¿Puede la cadena de hashes demostrar que la evidencia nunca ha sido modificada?

No. El verificador local detecta la edición demostrada en el record #3 e identifica el primer enlace roto. No establece una custodia independiente, no impide el reemplazo total de la base de datos ni prueba por sí solo la autenticidad legal.

¿Está el paquete de evidencia exportado listo para un procedimiento legal?

No. La exportación HTML es una estructura de evidencia técnica con filas de decisión, un manifiesto de cadena de hashes y una estructura de argumentos de Reasonable Alternative Design. La asesoría jurídica debe evaluar la preservación, la autenticidad, las teorías legales y la admisibilidad; la demostración no resuelve esas cuestiones.

¿Qué ocurre cuando una solicitud queda fuera de las políticas cargadas?

Un tema reconocido sin un paquete de políticas cargado se redirige a HUMAN_REVIEW en esta demostración. El ejemplo sintético de medicación expone esa brecha de cobertura y registra la derivación a un escalamiento. No se pone en contacto con un médico ni proporciona orientación médica.

¿Significa 28/28 que la compuerta es precisa en producción?

No. Una ejecución de regresión local coincidió con las acciones previstas en 28 de 28 casos sintéticos etiquetados y fijos; los 18 casos de alto riesgo cubiertos fueron transformados o bloqueados, y ambos casos fuera de cobertura pasaron a revisión humana. Esos recuentos describen el conjunto fijo y no establecen una detección en entornos abiertos, rendimiento en despliegue ni cumplimiento legal.

Investigación técnica

Explore las investigaciones relacionadas para obtener un contexto más amplio sobre esta demostración.

The Sovereign Risk of Generative Autonomy: Post-Section 230 AI Product Liability (whitepaper interactivo)

Solución completa

Explore la solución AI Product Liability Defense →

Examine la decisión de emisión antes de escalar el flujo de trabajo

La conversación útil comienza con una solicitud, una política y el registro que un revisor puede inspeccionar.

Podemos comparar la ruta de control demostrada con su cobertura de políticas real, el flujo de trabajo de revisión y los requisitos de custodia de evidencias. Esas preguntas de producción permanecen abiertas en esta demostración local.

Revisión de controles

✓ Mapear categorías de solicitudes de alto riesgo
✓ Identificar brechas de cobertura de políticas
✓ Definir decisiones de emisión y escalamiento
✓ Revisar los registros que necesita la asesoría jurídica

Conversación sobre arquitectura

✓ Situar la autorización fuera del modelo
✓ Delimitar la propiedad de los paquetes de políticas
✓ Planificar el enrutamiento hacia la revisión humana
✓ Especificar controles de custodia y retención

Conectar por WhatsApp Enviar un correo a nuestro equipo