De los modelos estocásticos al aseguramiento determinista: un marco estratégico para la inteligencia artificial crítica para la seguridad

El panorama contemporáneo de la inteligencia artificial está actualmente bisecado por un malentendido fundamental de la profundidad técnica. En un lado de esta división se encuentra la rápida proliferación de capas de interfaz generativa —a menudo caracterizadas como «envoltorios» de modelos de lenguaje grandes (LLM)— que priorizan el despliegue rápido y la fluidez conversacional. En el lado opuesto está la disciplina rigurosa de la ingeniería de IA profunda, un campo definido por la integración de la verificación formal, la resiliencia de la fusión de sensores y las arquitecturas de seguridad deterministas. Para los líderes empresariales que navegan esta transición, la distinción ya no es meramente académica. A medida que los sistemas autónomos pasan de entornos digitales a despliegues físicos de alto riesgo, las limitaciones de los enfoques probabilísticos basados en «envoltorios» han quedado expuestas por una serie de fallos de gran visibilidad.

Los incidentes que involucran a Uber Advanced Technologies Group (ATG), GM Cruise, Tesla y Waymo sirven como datos empíricos críticos para este análisis. Estos eventos representan más que accidentes aislados; son indicadores sistémicos de fragilidad arquitectónica. El acuerdo de $8.5 millones que involucró a Uber ATG tras la fatalidad de Tempe en 2018, la revocación del permiso de operación de GM Cruise en California en 2023 y las investigaciones en curso de la National Highway Traffic Safety Administration (NHTSA) sobre el sistema Full Self-Driving (FSD) de Tesla son todos síntomas de una «brecha percepción-lógica».¹ Este informe analiza estos fallos para establecer un nuevo paradigma para la IA crítica para la seguridad —uno que posiciona a Veriprajna no como un facilitador de interfaces estocásticas, sino como un proveedor de autonomía profunda y verificable.

La fragilidad arquitectónica de la percepción estocástica: lecciones de Uber ATG

La colisión de marzo de 2018 en Tempe, Arizona, que involucró a un vehículo de prueba de Uber ATG, sigue siendo el estudio de caso fundacional sobre la fragilidad de la clasificación. Si bien la narrativa en aquel momento se centró intensamente en la distracción del operador humano de seguridad, los hallazgos de la National Transportation Safety Board (NTSB) revelaron un fallo mucho más profundo en la capacidad del software para mantener una representación estable del mundo físico.³

Oscilación de clasificación y el fallo de la permanencia del objeto

El sistema de Uber ATG registró por primera vez a la peatona, Elaine Herzberg, aproximadamente 5.6 segundos antes del impacto.⁵ A una velocidad de 43 mph, el vehículo se encontraba a casi 378 feet de distancia, lo que proporcionaba una ventana amplia para que un sistema estándar de frenado automático de emergencia (AEB) interviniera.⁷ Sin embargo, la lógica de percepción del sistema se caracterizaba por la «oscilación de clasificación». En los segundos previos al choque, el software reclasificó repetidamente a la peatona: primero como un «objeto desconocido», luego como un «vehículo» y, finalmente, como una «bicicleta».⁶

Cada reclasificación no era meramente un cambio de etiqueta; era un reinicio de la trayectoria predicha del objeto. En los sistemas probabilísticos que carecen de consistencia temporal, la IA trata cada fotograma o clúster de fotogramas como un evento casi independiente. Como el sistema no pudo asentarse en una identidad persistente para el objeto, no pudo calcular una predicción de trayectoria fiable hasta que fue demasiado tarde. El sistema determinó que se necesitaba frenado de emergencia solo 1.3 segundos antes del impacto —un punto en el que las leyes de la física hacían inevitable una colisión.³

Deuda técnica y la eliminación de la redundancia de seguridad

Un elemento crítico del fallo de Uber ATG fue la desactivación intencional de los sistemas de seguridad nativos del vehículo. Para evitar un «comportamiento errático del vehículo» y proporcionar un viaje más suave al sistema autónomo, Uber había deshabilitado las funciones de evitación de colisiones y AEB instaladas de fábrica en el Volvo XC90.⁴ El equipo de ingeniería optó por confiar enteramente en un sistema propietario en desarrollo que aún no estaba verificado para una intervención de alta confianza.

Componente del fallo	Mecanismo técnico	Implicación estratégica
Pipeline de percepción	Oscilación de clasificación (Unknown -> Vehicle -> Bike)	La pérdida de la permanencia del objeto deshabilita la predicción de trayectoria.6
Supresión de la lógica	Desactivación manual del AEB de fábrica de Volvo	Eliminación de las capas de seguridad codificadas de forma fija en favor de código experimental.4
Interfaz HMI	Dependencia excesiva de un monitor humano distraído	Fallo al no considerar la «complacencia por automatización».3
Motor de predicción	Supuesto de trayectoria estática para actores dinámicos	Incapacidad para modelar cruces peatonales no estándar.5

Este proceso de toma de decisiones ilustra una tendencia peligrosa en el desarrollo de IA: el sacrificio de las capas de seguridad deterministas en aras de un rendimiento «suave» en un modelo estocástico. El acuerdo de $8.5 millones por el accidente de 2018 refleja no solo una responsabilidad legal, sino un fallo en la gestión de las «limitaciones funcionales» del sistema de conducción automatizada.⁴ La ingeniería de IA profunda, tal como la defiende Veriprajna, argumenta en contra de esta jerarquía, abogando por una arquitectura «seguridad primero» en la que la capa de percepción está ligada por restricciones formales que no pueden ser anuladas por una política experimental.

Diagnóstico erróneo y el fallo de la lógica posimpacto: la crisis de Cruise de 2023

En octubre de 2023, un robotaxi de GM Cruise en San Francisco atropelló y arrastró a una peatona durante 20 feet, lo que llevó a la suspensión total de las operaciones sin conductor de la empresa en California.⁹ Este incidente fue más allá del problema de la evitación inicial de colisiones hacia el territorio del «razonamiento posimpacto» —un dominio en el que los envoltorios de LLM típicos y las API simples de percepción fallan por completo.

La falacia del atropello frontal frente al impacto lateral

El incidente de Cruise fue iniciado por un tercero: un Nissan conducido por un humano atropelló a una peatona, lanzándola a la trayectoria del vehículo de Cruise.⁹ El automóvil de Cruise golpeó a la peatona y se detuvo inicialmente. Sin embargo, como la lógica de «detección de impacto» del sistema era insuficientemente granular, diagnosticó erróneamente la colisión. A pesar de que la peatona quedó atrapada bajo el vehículo, los sensores del sistema no reconocieron un atropello frontal y, en su lugar, categorizaron el evento como una colisión de impacto lateral.¹

Este diagnóstico erróneo activó una maniobra preprogramada de «condición de riesgo mínimo» (MRC). El sistema estaba diseñado para apartarse al lado de la carretera tras un impacto lateral para evitar bloquear el tráfico.¹¹ Como la capa de percepción había «olvidado» a la peatona después del impacto, el vehículo comenzó a apartarse, arrastrando a la víctima 20 feet a aproximadamente 7 mph.⁹ El arrastre cesó solo cuando el vehículo detectó un «deslizamiento excesivo de las ruedas», que interpretó como un fallo mecánico en lugar de una obstrucción humana.¹¹

La transparencia como requisito técnico

El fallo de Cruise fue tanto un fallo organizacional como técnico. Las investigaciones revelaron que la alta dirección estaba «obcecada en corregir la narrativa mediática inexacta» y no fue transparente con los reguladores respecto al arrastre.⁹ Los empleados de Cruise admitieron «dejar que el video hablara por sí mismo» durante reuniones con el DMV, sabiendo que los problemas de conectividad a internet a menudo impedían que se reprodujera la porción de «arrastre» del video.⁹

Esto pone de relieve una lección crítica para la consultoría de IA profunda: la seguridad de un sistema autónomo es inseparable de su transparencia. El enfoque de Veriprajna enfatiza el desarrollo de «auditorías de seguridad explicables», en las que cada decisión tomada por la IA, especialmente posimpacto, se registra en un formato determinista a prueba de manipulación que los reguladores pueden auditar en tiempo real. La posterior multa penal de $500,000 por presentar informes falsos a la NHTSA subraya el alto coste de tratar la seguridad de la IA como un problema de marketing en lugar de uno de ingeniería.¹

El dilema de «solo visión» y los límites del sensado probabilístico: Tesla FSD

El sistema Full Self-Driving (FSD) de Tesla se ha convertido en el centro de una investigación regulatoria masiva, con la NHTSA abriendo más de 40 investigaciones sobre accidentes entre 2024 y 2025.² Estas investigaciones, en particular las identificadas como PE24-031 y PE25-012, se centran en el fallo del sistema en el «teatro de capacidades» —un rendimiento óptimo en condiciones claras que se colapsa ante los «casos límite» ambientales.¹³

Sensibilidad ambiental e incumplimiento de señales

Las investigaciones de la NHTSA han identificado patrones específicos en los que el sistema de solo visión de Tesla no cumple las leyes básicas de seguridad vial:

1. Fallo de semáforo: En 18 quejas separadas, los vehículos con FSD habilitado no permanecieron detenidos ante luces rojas o no detectaron en absoluto el estado de la señal.¹²
2. Maniobras en sentido contrario: Se ha observado que el sistema entra en carriles de tráfico opuestos o ejecuta giros desde carriles de solo paso, ignorando marcas viales y señalización claras.²
3. Saturación por baja visibilidad: Una colisión fatal significativa en 2023 ocurrió durante un estado de «deslumbramiento solar sobre asfalto mojado», en el que el sistema no detectó a un peatón.¹⁴

La dependencia de Tesla de una arquitectura de «solo visión» —renunciando al LiDAR y al radar— crea una vulnerabilidad fundamental a la «saturación del sensor». En condiciones de niebla, polvo o residuos en suspensión, la relación señal-ruido óptica cae por debajo del umbral requerido para una navegación segura.¹³ Si bien Tesla utiliza «redes de ocupación» para predecir la geometría 3D del mundo a partir de imágenes 2D, los informes de la NHTSA sugieren que estas predicciones siguen siendo demasiado probabilísticas para usarse como capa primaria de seguridad.¹⁵

Formalizar el entorno de conducción

Para ir más allá del modelo de fallo de Tesla, la ingeniería de IA profunda utiliza «envolventes impulsadas por peligros». En lugar de «funcionalidades» vagas, el sistema debe definir dominios de diseño operacional (ODD) explícitos. Si el «porcentaje de saturación por deslumbramiento» o el «índice de retrodispersión por niebla» supera un umbral verificado, el sistema debe iniciar una transición a prueba de fallos.¹⁴

Modo de fallo investigado	Frecuencia/impacto	Causa técnica
Incumplimiento de luz roja	18+ quejas	Fallo de detección del estado de la señal en la pila de visión.12
Violación de marcas de carril	4+ informes SGO	Incapacidad para distinguir carriles de solo giro frente a carriles de paso.12
Accidente por baja visibilidad	Fatalidades (2023-2024)	Saturación del sensor óptico (deslumbramiento/niebla/polvo).13
Entrada en carril contrario	2 informes SGO	Fallo en la reconstrucción 3D de la geometría del carril.12

La filosofía de Veriprajna es que la autonomía no puede construirse sobre software de «mejor esfuerzo». Los 2.9 millones de vehículos afectados por la investigación de la NHTSA de 2025 representan un riesgo a escala de flota que solo puede mitigarse mediante la implementación de «puertas de aseguramiento» —bloqueos de software que impiden que la IA tome decisiones de alto riesgo cuando el nivel de confianza de su sistema de percepción cae por debajo de un punto determinista.²

Bloqueo multiagente y resiliencia sociotécnica: la experiencia de Waymo

Waymo suele considerarse el referente de seguridad, habiendo registrado más de 56 millones de millas con tasas de lesiones significativamente más bajas que las de los conductores humanos.¹⁷ Sin embargo, a medida que el sistema escala, se ha encontrado con una nueva clase de fallo: la «fricción sociotécnica». Esto involucra no solo cómo conduce la IA, sino cómo interactúa con el entorno social humano, complejo y a menudo hostil.

Bloqueos en intersecciones y fallos de comunicación

Durante un apagón de 2025 en Los Ángeles, docenas de robotaxis de Waymo quedaron atascados en una serie de intersecciones a oscuras. El «Waymo Driver», programado para tratar las señales apagadas como paradas de cuatro vías, se vio desbordado por el pico concentrado de solicitudes de «asistencia remota».¹⁸ Como los vehículos no pudieron comunicarse entre sí de manera efectiva, entraron en un estado de «bloqueo multiagente», en el que los robotaxis bloqueaban a otros robotaxis, creando un atasco que el centro de mando central no pudo resolver.¹⁸

Este fallo pone de relieve la «trampa de la independencia» —la suposición de que un vehículo autónomo puede operar de forma segura como un agente solitario sin un sistema más amplio y coordinado.¹⁸ La ingeniería de IA profunda debe contemplar la pérdida de comunicación inalámbrica y la necesidad de protocolos «V2V» (Vehicle-to-Vehicle) y «V2I» (Vehicle-to-Infrastructure) que permitan a la flota resolver los interbloqueos de forma autónoma.²⁰

La necesidad del «modo de escape de peligro»

Quizá la amenaza emergente más significativa para las operaciones autónomas sea la agresión pública. A principios de 2025, varios vehículos de Waymo fueron atacados por multitudes durante disturbios civiles en Los Ángeles, con manifestantes que cortaron neumáticos e incendiaron vehículos.²¹ Los vehículos, programados para una «seguridad pasiva», simplemente se detuvieron cuando fueron rodeados por personas.

Esto ha llevado a la propuesta de desarrollo de un «modo de escape de peligro». Un sistema de este tipo usaría el conjunto de sensores de 360 grados para detectar la «agresión humana maliciosa» y cambiar la directiva del vehículo de «cumplimiento pasivo» a «escape activo».²¹ Si bien el vehículo nunca debe programarse para causar daño, los proveedores de IA profunda argumentan que debería ser capaz de cometer infracciones de tráfico menores (como circular por una acera o atravesar un semáforo en rojo) para proteger a sus pasajeros y escapar de una situación volátil.²¹ Esto exige un replanteamiento radical del «motor ético» de la IA —una tarea que va mucho más allá de las capacidades de un envoltorio de LLM.

La solución técnica: vista de pájaro (BEV) y redes de ocupación

Para abordar los fallos de seguimiento observados en los casos de Uber y Cruise, la industria se está desplazando hacia la percepción en vista de pájaro (BEV). Los sistemas estándar por cámara procesan imágenes individuales, lo que provoca pérdida de datos durante el «empalme». En contraste, la percepción BEV transforma los datos de cámaras de múltiples vistas y LiDAR en una cuadrícula 3D unificada vista desde arriba.²²

Redes de ocupación frente a la fusión de sensores estándar

La fusión de sensores tradicional intenta «emparejar» píxeles 2D con puntos 3D, un proceso computacionalmente costoso y propenso a errores de proyección. Veriprajna aboga por las «redes de ocupación» —una arquitectura que predice la «probabilidad de ocupación» de cada vóxel en un volumen 3D.¹⁶

1. Permanencia del objeto: Como las redes de ocupación rastrean el volumen en lugar de solo «etiquetas», el sistema sabe que un espacio está ocupado incluso si no puede decidir si el objeto es un peatón o una bicicleta. Esto habría evitado el cambio de clasificación de Uber ATG.¹⁶
2. Fidelidad geométrica: Las redes de ocupación capturan estructuras verticales y escombros en la calzada que a menudo ignoran los mapas BEV 2D. Esto habría permitido al vehículo de Cruise «ver» a la peatona debajo de su chasis durante la maniobra posimpacto.¹⁶
3. Consistencia espaciotemporal: Usando arquitecturas «BEVFormer», el sistema puede emplear «autoatención temporal» para recordar dónde estaba un objeto incluso durante oclusiones temporales (p. ej., un peatón que camina detrás de un camión estacionado).²⁴

$$X_{BEV} = f_{transformer}(I_1, I_2, ..., I_n, L_{cloud})$$

En este modelo, la arquitectura Transformer no sirve como herramienta conversacional, sino como un motor de razonamiento espacial que fusiona datos heterogéneos en un «lienzo compartido» singular.²³ Esto es ingeniería de IA profunda: el uso de arquitecturas de frontera para resolver problemas fundamentales de física en la navegación.

Verificación formal: el estándar de Veriprajna para la IA de alto aseguramiento

El diferenciador más significativo entre un «envoltorio» y una «solución» es la aplicación de métodos formales. Las pruebas tradicionales de software se basan en escenarios de «caja negra»; si el sistema pasa N pruebas, se asume que es seguro. En los sistemas críticos para la seguridad, sin embargo, exigimos una demostración matemática de corrección.

Resolutores SMT y razonamiento a nivel de red

Herramientas como Marabou y α,β-CROWN permiten a los ingenieros verificar las propiedades de las redes neuronales profundas. Al representar la red como un conjunto de restricciones lineal a tramos, podemos determinar si existe alguna entrada que pueda conducir a una salida insegura.²⁵

Una «propiedad de seguridad» podría definirse como sigue:

Para todas las entradas x dentro del rango de «baja visibilidad», la salida y (comando de frenado) nunca debe ser menor que k.

$$\forall x \in X_{fog} \Rightarrow f(x) \geq Braking_{min}$$

Si un resolutor SMT como Marabou devuelve un «contraejemplo», ha identificado una perturbación específica, a menudo imperceptible, que haría fallar a la IA. Esto permite a Veriprajna «endurecer» el modelo durante la fase de entrenamiento, un proceso conocido como «entrenamiento consciente de la verificación».²⁸

Poda para la verificabilidad

Un desafío mayor en la verificación formal es la «maldición de la dimensionalidad». Las redes grandes son demasiado complejas para que los resolutores actuales las analicen de forma exhaustiva. Veriprajna aborda esto mediante la «poda de neuronas». Al eliminar neuronas redundantes y no linealidades que no contribuyen a la precisión del modelo, producimos un «modelo podado» que es matemáticamente más fácil de verificar sin sacrificar el rendimiento.²⁹

Técnica de verificación	Metodología	Beneficio
Ajuste de cotas	Análisis simbólico de los rangos de activación neuronal	Reduce el espacio de búsqueda para los resolutores SMT.25
Análisis de alcanzabilidad	Cálculo del conjunto de todas las salidas alcanzables para un conjunto de entradas	Garantiza que la IA permanecerá dentro de un «politopo seguro».28
Aproximación lineal a tramos	Sustitución de activaciones complejas por segmentos basados en ReLU	Habilita demostraciones de verificación correctas y completas.27
Filtro formal de seguridad	Monitorización en tiempo de ejecución de los comandos de la IA frente a una línea base verificada	Proporciona una «recuperación segura» si la IA principal se comporta de forma irracional.31

El horizonte regulatorio: SOTIF e ISO/PAS 8800

Para las empresas, el cumplimiento de las normas internacionales emergentes ya no es opcional. El panorama ha pasado de la «autoevaluación voluntaria» a la adhesión obligatoria a un marco de seguridad por niveles.⁵

ISO 26262 frente a ISO 21448 (SOTIF)

Si bien ISO 26262 aborda la «seguridad funcional» (p. ej., un sensor que falla o un chip que se cortocircuita), no puede dar cuenta de las limitaciones inherentes de la IA.³⁴ Esta brecha la cubre ISO 21448, la norma de «seguridad de la funcionalidad prevista» (SOTIF). SOTIF está diseñada específicamente para abordar peligros que ocurren cuando el sistema funciona exactamente como está programado pero se encuentra con un entorno «desconocido/inseguro».³⁴

El objetivo de un compromiso con Veriprajna es maximizar el cuadrante «conocido/seguro» del sistema de IA de un cliente. Esto implica:

1. Análisis de peligros y riesgos (HARA): Identificar riesgos que no son fallos, como la mala interpretación del sensor en lluvia intensa.³⁶
2. Identificación de condiciones desencadenantes: Mapear sistemáticamente los estados ambientales que conducen a errores de percepción.³⁶
3. V&V (verificación y validación): Usar simulaciones de alta fidelidad para «inyectar» casos límite que serían demasiado peligrosos para probar en vías públicas.³⁶

ISO/PAS 8800: el futuro de la integración de la IA

A finales de 2024, ISO/PAS 8800 se ha convertido en la norma primaria de «seguridad funcional para la IA en vehículos de carretera».³⁷ Proporciona las primeras directrices globales para gestionar el ciclo de vida de la IA, desde la «adquisición de datos» hasta la «monitorización posdespliegue».³³ Veriprajna garantiza que las arquitecturas de nuestros clientes no solo sean conformes, sino que estén «preparadas para el futuro» frente al rigor creciente de las normas globales de gobernanza de la IA, como la Ley de IA de la UE y el Marco de gestión de riesgos de IA del NIST.³³

El camino estratégico hacia adelante: el mandato de IA profunda de Veriprajna

La transición de una cultura de «envoltorio» a una cultura de «IA profunda» es un viaje de la esperanza probabilística al aseguramiento determinista. El acuerdo de $8.5 millones de Uber, la suspensión de Cruise y las 40+ investigaciones de Tesla no son razones para abandonar la IA; son razones para ingeniarla correctamente.

El modelo de consultoría de Veriprajna se sustenta en tres pilares que abordan los modos de fallo específicos identificados en este informe:

1. Resiliencia de la percepción: Trasladar a los clientes de la percepción 2D por cámara a redes de ocupación BEV basadas en Transformer para asegurar la permanencia del objeto y la estabilidad del seguimiento.¹⁶
2. Toma de decisiones verificada: Implementar verificación formal basada en SMT para demostrar que las arquitecturas de control impulsadas por IA nunca violarán las propiedades centrales de seguridad.²⁵
3. Endurecimiento sociotécnico: Desarrollar «modos de escape» sofisticados y marcos de comunicación V2X para gestionar la realidad de los disturbios civiles y el bloqueo multiagente.¹⁸

A medida que el coste global de una sola filtración de datos alcanza los $4.44 millones y el coste de una fatalidad autónoma entra en las decenas de millones en daños legales y operativos, el envoltorio «barato» se convierte en el error más caro que una empresa puede cometer.¹⁴ Veriprajna aporta la experiencia de ingeniería profunda requerida para construir IA que no solo funciona en el laboratorio: pervive en el mundo.

La elección para la empresa moderna es clara: seguir envolviendo cajas negras probabilísticas y gestionar las consecuencias inevitables, o asociarse con Veriprajna para construir un futuro de autonomía verificable y de alto aseguramiento. La era de la IA estocástica está terminando; la era de la ingeniería de IA profunda ha comenzado.

Obras citadas

1. Cruise Admits To Submitting A False Report To Influence A Federal Investigation And Agrees To Pay $500000 - Department of Justice, consultado el 9 de febrero de 2026, https://www.justice.gov/usao-ndca/pr/cruise-admits-submitting-false-report-influence-federal-investigation-and-agrees-pay
2. NHTSA Opens Probe into 2.9M Teslas Over FSD Violations - Autobody News, consultado el 9 de febrero de 2026, https://www.autobodynews.com/news/nhtsa-opens-probe-into-2-9m-teslas-over-fsd-violations
3. HWY18MH010.aspx - NTSB, consultado el 9 de febrero de 2026, https://www.ntsb.gov/investigations/Pages/HWY18MH010.aspx
4. NTSB Shares Investigation Findings and Recommendations Regarding March 2018 Uber ATG Fatality | Eckert Seamans, consultado el 9 de febrero de 2026, https://www.eckertseamans.com/legal-updates/ntsb-shares-investigation-findings-and-recommendations-regarding-march-2018-uber-atg-fatality
5. H-19-047 - Accident Data - NTSB, consultado el 9 de febrero de 2026, https://data.ntsb.gov/carol-main-public/sr-details/H-19-047
6. NTSB releases preliminary report on fatal Uber self-driving car crash - Metro Magazine, consultado el 9 de febrero de 2026, https://www.metro-magazine.com/news/ntsb-releases-preliminary-report-on-fatal-uber-self-driving-car-crash
7. Death of Elaine Herzberg - Wikipedia, consultado el 9 de febrero de 2026, https://en.wikipedia.org/wiki/Death_of_Elaine_Herzberg
8. New Details Emerge Regarding Uber Self-Driving Vehicle Accident in Tempe, Arizona, consultado el 9 de febrero de 2026, https://schwedlawfirm.com/blog/new-details-emerge-regarding-uber-self-driving-vehicle-accident/
9. A Root Cause Analysis of a Self-Driving Car Dragging a Pedestrian, consultado el 9 de febrero de 2026, https://www.computer.org/csdl/magazine/co/2024/11/10720344/215PD0vqgTe
10. Notes on Cruise's pedestrian accident - Dan Luu, consultado el 9 de febrero de 2026, https://danluu.com/cruise-report/
11. Lessons from the Cruise Robotaxi Pedestrian Dragging Mishap, consultado el 9 de febrero de 2026, http://users.ece.cmu.edu/~koopman/pubs/Koopman2024_CruiseMishap_IEEEReliabilityMagazine.pdf
12. Office of Defects Investigation (ODI) Resume - nhtsa, consultado el 9 de febrero de 2026, https://static.nhtsa.gov/odi/inv/2025/INOA-PE25012-19171.pdf
13. US regulators launch investigation into self-driving Teslas after series of crashes, consultado el 9 de febrero de 2026, https://www.theguardian.com/technology/2025/oct/09/tesla-cars-self-driving-us-regulators-investigation
14. Tesla FSD Safety Issues: NHTSA Probes & AI Driving Future (Part 6) - PRIZ Guru, consultado el 9 de febrero de 2026, https://www.priz.guru/tesla-fsd-safety-issues-nhtsa-probes-ai-driving-future-part-6/
15. AI & Robotics | Tesla, consultado el 9 de febrero de 2026, https://www.tesla.com/AI
16. A Survey on Occupancy Perception for Autonomous Driving: The Information Fusion Perspective - arXiv, consultado el 9 de febrero de 2026, https://arxiv.org/html/2405.05173v2
17. New Study: Waymo is reducing serious crashes and making streets safer for those most at risk, consultado el 9 de febrero de 2026, https://waymo.com/blog/2025/05/waymo-making-streets-safer-for-vru
18. On Waymo's Traffic Jams - Stanford Center for Internet and Society, consultado el 9 de febrero de 2026, https://cyberlaw.stanford.edu/blog/2025/12/on-waymos-traffic-jams/
19. Self-driving cars may create more traffic congestion than they solve, expert says - KJZZ, consultado el 9 de febrero de 2026, https://www.kjzz.org/the-show/2026-01-07/self-driving-cars-may-create-more-traffic-congestion-than-they-solve-expert-says
20. A Systematic Literature Review on Vehicular Collaborative Perception – A Computer Vision Perspective - arXiv, consultado el 9 de febrero de 2026, https://arxiv.org/html/2504.04631v2
21. When Robotaxis Get Attacked: Do Waymo Cars Need a 'Danger Escape Mode'?, consultado el 9 de febrero de 2026, https://aragonresearch.com/robotaxis-attack-waymo-cars-danger-escape-mode/
22. MIC-BEV: Multi-Infrastructure Camera Bird's-Eye-View Transformer with Relation-Aware Fusion for 3D Object Detection - arXiv, consultado el 9 de febrero de 2026, https://arxiv.org/html/2510.24688v1
23. [AV Vol.3] BEVFusion: Unifying Vision in Autonomous Driving Systems - Medium, consultado el 9 de febrero de 2026, https://medium.com/demistify/av-vol-3-bevfusion-unifying-vision-in-autonomous-driving-systems-b2190f877c9b
24. A Transformer-based Temporal Feature Fusion Approach for Autonomous Driving BEV Perception | Request PDF - ResearchGate, consultado el 9 de febrero de 2026, https://www.researchgate.net/publication/395804054_A_Transformer-based_Temporal_Feature_Fusion_Approach_for_Autonomous_Driving_BEV_Perception
25. The Marabou Framework for Verification and Analysis of Deep Neural Networks - Stanford Center for AI Safety, consultado el 9 de febrero de 2026, https://aisafety.stanford.edu/marabou/MarabouCAV2019.pdf
26. Marabou 2.0: A Versatile Formal Analyzer of Neural Networks - arXiv, consultado el 9 de febrero de 2026, https://arxiv.org/html/2401.14461v1
27. Marabou 2.0: A Versatile Formal Analyzer of Neural Networks - Stanford CS Theory, consultado el 9 de febrero de 2026, https://theory.stanford.edu/~barrett/pubs/WIZ+24.pdf
28. Creating a Formally Verified Neural Network for Autonomous Navigation: An Experience Report - CSE CGI Server, consultado el 9 de febrero de 2026, https://cgi.cse.unsw.edu.au/~eptcs/paper.cgi?FMAS2024.12.pdf
29. Verification of Neural Networks for Safety and Security-critical Domains - CEUR-WS.org, consultado el 9 de febrero de 2026, https://ceur-ws.org/Vol-3345/paper10_RiCeRCa3.pdf
30. Formal Verification of Neural Networks for Safety-Critical Tasks in Deep Reinforcement Learning, consultado el 9 de febrero de 2026, https://proceedings.mlr.press/v161/corsi21a/corsi21a.pdf
31. Formal Methods for Trustworthy AI-based Autonomous Systems - NII Shonan Meeting, consultado el 9 de febrero de 2026, https://shonan.nii.ac.jp/docs/No.178.pdf
32. Formal Verification of Neural Networks-Based Control Architecture for Safety-Critical Autonomous Systems - Frontiers, consultado el 9 de febrero de 2026, https://www.frontiersin.org/research-topics/74336/formal-verification-of-neural-networks-based-control-architecture-for-safety-critical-autonomous-systems
33. Implementing Responsible AI for Automotive Vehicle Safety - LHP Engineering Solutions, consultado el 9 de febrero de 2026, https://www.lhpes.com/blog/implementing-responsible-ai-for-automotive-vehicle-safety
34. Functional Safety vs. SOTIF: What Is the Difference and Where Do They Overlap? - MES, consultado el 9 de febrero de 2026, https://model-engineers.com/en/blog/functional-safety-vs-sotif-differences-overlaps/
35. The Necessity of a Holistic Safety Evaluation Framework for AI-Based Automation Features, consultado el 9 de febrero de 2026, https://arxiv.org/html/2602.05157v1
36. What is SOTIF? (ISO 21448) - Visure Solutions, consultado el 9 de febrero de 2026, https://visuresolutions.com/automotive/iso-21448/
37. Safety-Related Systems in Road Vehicles with Artificial Intelligence Are Addressed in ISO/PAS 8800:2024 | UL Solutions, consultado el 9 de febrero de 2026, https://www.ul.com/sis/blog/safety-related-systems-road-vehicles-artificial-intelligence-are-addressed-isopas-88002024
38. ISO 26262, SOTIF and simulation | Applied Intuition, consultado el 9 de febrero de 2026, https://www.appliedintuition.com/blog/iso26262-sotif-simulation
39. Introducing ISO/PAS 8800 – Functional Safety for AI in Road Vehicles | SGS Georgia, consultado el 9 de febrero de 2026, https://www.sgs.com/en-ge/news/2025/04/safeguards-04625-introducing-iso-pas-8800-functional-safety-for-ai-in-road-vehicles
40. NIST vs ISO - Compare AI Frameworks - ModelOp, consultado el 9 de febrero de 2026, https://www.modelop.com/ai-governance/ai-regulations-standards/nist-vs-iso
41. AI Safety vs AI Security in LLM Applications: What Teams Must Know - Promptfoo, consultado el 9 de febrero de 2026, https://www.promptfoo.dev/blog/ai-safety-vs-security/