Gobierno y sector público
Sistemas de IA para gobiernos federales, estatales y locales que superan el escrutinio de la APA, la entrega de solicitudes FOIA y los desafíos constitucionales del debido proceso.
Cuando una agencia federal implementa IA para la adjudicación de beneficios, ejerce una autoridad soberana — y cada resultado queda sujeto a la exigencia de toma de decisiones motivada de la Administrative Procedure Act, la Due Process Clause y la ley que regula dicho programa. El criterio arbitrary-and-capricious de la APA exige que una agencia explique no solo qué decidió, sino por qué, de modo que un sistema de IA cuyas conclusiones no puedan ser examinadas de forma sustantiva no supera la prueba legal fundamental para la actuación gubernamental.
La IA gubernamental opera bajo restricciones que los despliegues comerciales no enfrentan
Como señalan los académicos de Yale Journal on Regulation: las agencias pueden mostrar lo que produjo la herramienta, pero no por qué esos resultados reflejan el juicio razonado que exige la APA. Esa brecha es donde radica la exposición legal.
Las cifras de adopción muestran lo rápido que avanza la IA en el gobierno y lo poco que la gobernanza le sigue el ritmo. La GAO informó en julio de 2025 que los casos de uso federales de IA casi se duplicaron de 571 en 2023 a 1.110 en 2024, y los casos de uso de IA generativa se multiplicaron por nueve de 32 a 282. En el mismo lapso, la fuerza laboral federal se redujo un 12% entre septiembre de 2024 y enero de 2026, pasando de 2.313.216 a 2.035.344 empleados civiles.
Las agencias están implementando más IA con menos personas para supervisarla. La auditoría de la GAO de abril de 2026 sobre adquisiciones de IA en el DoD, DHS, GSA y VA reveló que ninguna contaba con políticas que obligaran a los funcionarios a recopilar lecciones aprendidas de las contrataciones de IA. Mientras tanto, el Departamento de Defensa solicitó $13.4 mil millones para IA y autonomía solo para el año fiscal 2026.
La exposición constitucional está documentada, no es hipotética
Tres despliegues demuestran lo que sucede cuando la IA gubernamental actúa sin validación, fundamentación o monitoreo de equidad — cada uno ya litigado, auditado o clausurado.
MiDAS de Michigan: 40.000 acusaciones falsas de fraude
El sistema de desempleo MiDAS de Michigan acusó falsamente a 40.000 residentes de fraude en prestaciones entre 2013 y 2015. El Auditor General de Michigan revisó 22.000 determinaciones de MiDAS y descubrió que el 93% no involucraba fraude en realidad. Las víctimas sufrieron embargos salariales; algunas perdieron sus viviendas; otras cayeron en bancarrota. El estado llegó a un acuerdo en la demanda colectiva Bauserman v. UIA por $20 millones en enero de 2024, compensando a unos 3.000 demandantes. El sistema fue desarrollado por el contratista Fast Enterprises por $47 millones — el costo del fracaso superó el costo de haberlo construido correctamente.
Chatbot MyCity de Nueva York: asesoramiento ilegal a ciudadanos
El chatbot MyCity de NYC dijo a dueños de negocios que podían quedarse con las propinas de los trabajadores, violando la Sección 196-d de la Ley Laboral de Nueva York. Dijo a propietarios que podían rechazar inquilinos con vales de vivienda — ilegal en la ciudad de Nueva York desde 2008 — y afirmó que no había regulaciones que obligaran a aceptar efectivo, contradiciendo una ley municipal de 2020. El alcalde Mamdani lo clausuró.
El Proyecto de Ley S7263 del Senado de Nueva York, que llegó al calendario del pleno del Senado en febrero de 2026, crearía un derecho privado de acción por daños causados por el asesoramiento profesional de chatbots. Cuando un sistema gubernamental brinda a un ciudadano una orientación legal errónea — el modo de fallo que nuestra investigación sobre el cumplimiento de citas estatutarias para IA gubernamental aborda —, no se trata de un problema de experiencia de usuario, sino de una potencial violación de derechos civiles.
Vigilancia policial predictiva: un bucle de sesgo que se autorrefuerza
El inspector general de LAPD encontró que la mitad de las personas señaladas por el programa predictivo del departamento tenían escasos o nulos vínculos con los delitos priorizados. Chicago suspendió su programa de policía predictiva después de que una auditoría externa hallara que carecía de impacto preventivo y generaba discriminación policial. Ambos departamentos entrenaron algoritmos con datos contaminados por décadas de prácticas policiales discriminatorias: arrestos sesgados generan datos de entrenamiento sesgados que producen predicciones sesgadas que conducen a más arrestos sesgados — la brecha de integridad algorítmica que nuestra investigación sobre arquitecturas de IA confiables describe.
El panorama regulatorio cambia trimestralmente
La política federal sobre IA cambió tres veces en catorce meses. Las directrices OMB M-25-21 y M-25-22 reemplazaron a las normas de la era Biden M-24-10 y M-24-18 en abril de 2025, cambiando el enfoque de la mitigación de riesgos a la aceleración de la adopción. La orden ejecutiva del presidente Trump de diciembre de 2025 afirmó la preeminencia federal sobre las leyes estatales de IA y estableció un AI Litigation Task Force para impugnar las regulaciones estatales sobre bases constitucionales.
Los estados avanzaron en la dirección opuesta. Los legisladores presentaron más de 1.000 proyectos de ley sobre IA en 2025. La Ley de IA de Colorado, que exige evaluaciones de impacto algorítmico para decisiones de alto riesgo, se pospuso para el 30 de junio de 2026. La Ley de Transparencia en IA Fronteriza de California entró en vigor el 1 de enero de 2026. NASCIO informó que la IA se convirtió en la prioridad número uno de los CIO estatales para 2026, superando a la ciberseguridad por primera vez en 20 años de historia del estudio.
El resultado es un mosaico de cumplimiento sin un estándar uniforme. Una agencia estatal que opera en múltiples jurisdicciones necesita una matriz, no una sola política. Una agencia federal debe rastrear directivas de la OMB, requisitos de NIST AI RMF 600-1 para IA generativa, el estado de autorización FedRAMP de sus proveedores de IA y el inventario de casos de uso de su propio Chief AI Officer. Una agencia que desplegó IA en enero de 2025 bajo los lineamientos M-24-10 vio reemplazados esos lineamientos en abril. La verdadera pregunta no es «qué marco seguir», sino «cómo construir sistemas que sigan siendo defendibles a medida que los marcos cambian bajo nuestros pies».
FedRAMP es el guardián, y todavía se está poniendo al día
La mayoría de los proveedores de IA carecen de autorización FedRAMP, y el proceso tradicional toma 24 meses o más. La GSA lanzó la iniciativa FedRAMP 20x en marzo de 2025 para reducir ese plazo a semanas, y en agosto de 2025 comenzó a priorizar los servicios en la nube de IA. La Estrategia OneGov de la GSA incorporó a OpenAI, Anthropic y Google al Multiple Award Schedule a precios nominales — $1/año para ChatGPT y Claude, 47 centavos para Gemini.
| Proveedor / servicio | Estado FedRAMP |
|---|---|
| Servicios Microsoft AI | FedRAMP High confirmado para todos los servicios de IA (diciembre de 2025) |
| IBM watsonx | Autorización FedRAMP recibida (abril de 2026) |
| Google Gemini | Único proveedor con autorización FedRAMP (mediante su oferta de estaciones de trabajo) al momento de los acuerdos GSA OneGov |
| OpenAI (ChatGPT) / Anthropic (Claude) | Añadidos al GSA Multiple Award Schedule, pero Ask Sage impugnó la falta de autorización FedRAMP para la infraestructura en la nube pública de OpenAI |
El acceso a los modelos ya no es el cuello de botella — la GSA resolvió eso, y las agencias ahora pueden acceder a modelos de frontera por menos de un dólar. El cuello de botella radica en lo que se interpone entre el modelo y la decisión gubernamental: la capa de explicabilidad que satisface la APA, la pista de auditoría que sobrevive a las solicitudes FOIA, la arquitectura de validación que detecta citas legales alucinadas antes de que lleguen a un ciudadano, y el monitoreo de equidad que evita que un sistema de beneficios replique la tasa del 93% de falsos positivos de Michigan. Construir sobre esos modelos sistemas que soporten el escrutinio constitucional es el trabajo real.
Por qué las consultoras y plataformas habituales dejan vacíos
Booz Allen Hamilton genera más de $600 millones anuales a partir de proyectos federales de IA y emplea a 2.200 especialistas en IA. Los contratos federales de Palantir casi se duplicaron a $970.5 millones en 2025, y su Army Enterprise Agreement de 10 años y $10 mil millones la posiciona como infraestructura fundamental en lugar de un proveedor reemplazable. Deloitte, Accenture y SAIC mantienen grandes divisiones para el sector público, aportando escala, personal con acreditación de seguridad y vehículos de contratación establecidos.
La brecha es la independencia arquitectónica. Cuando Palantir se convierte en el núcleo de integración de datos, la agencia pierde la capacidad de evaluar alternativas; cuando un gran integrador de sistemas diseña su marco de gobernanza de IA, ese marco presupone su pila tecnológica preferida. La GAO descubrió que ninguna de las principales agencias auditadas estaba recopilando lecciones aprendidas de las contrataciones de IA, por lo que los errores de adquisición se acumulan en cada ciclo de compra. El MIT constató que el 95% de las organizaciones que invierten en IA generativa no obtenían ningún retorno — y las agencias federales enfrentan el mismo desafío con menos personal técnico para diagnosticar el porqué.
Nuestro enfoque: La capa entre el modelo y la obligación constitucional
Nuestro enfoque se centra en la arquitectura de verificación, gobernanza y explicabilidad que se sitúa entre la plataforma o modelo que una agencia ya utiliza y las obligaciones constitucionales, estatutarias y regulatorias que diferencian la IA gubernamental de la IA comercial. Un proyecto se diseña y ejecuta para entregar:
- Verificación determinista de citas para chatbots gubernamentales y resoluciones administrativas que hacen referencia a leyes y normativas — consulte nuestra demostración práctica de un asistente de IA gubernamental.
- Pistas de auditoría conformes con la APA diseñadas para documentar no solo lo que la IA decidió sino el porqué, en términos que un oficial de FOIA pueda presentar y un juez pueda evaluar.
- Monitoreo de equidad algorítmica destinado a detectar patrones discriminatorios antes de que se conviertan en responsabilidad bajo la Sección 1983.
- Implementación de NIST AI RMF que traslada la orientación abstracta del marco a la arquitectura del sistema real de la agencia.
La metodología está diseñada para operar dentro de los límites existentes de FedRAMP, sobre el acceso a modelos de GSA OneGov y junto con cualquier integrador que mantenga el contrato principal. Ser agnósticos respecto al proveedor significa que no competimos con las herramientas que su agencia ya posee — el objetivo es hacer que esas herramientas sean legalmente defendibles.
Conclusiones clave
- La IA gubernamental responde al criterio arbitrary-and-capricious de la APA, al Debido Proceso y a los estatutos de cada programa — un sistema cuyo razonamiento no puede examinarse no supera la prueba legal básica para la actuación de una agencia.
- La exposición está documentada: MiDAS de Michigan (40.000 acusaciones falsas, 93% sin fraude, acuerdo de $20M en Bauserman ), el chatbot MyCity de NYC (asesoramiento ilegal, responsabilidad bajo S7263) y la suspensión de la policía predictiva en LAPD y Chicago.
- El marco normativo cambia trimestralmente — directrices OMB M-25-21/M-25-22, orden de preeminencia federal de diciembre de 2025, más de 1.000 proyectos de ley estatales, la Ley de IA de Colorado de junio de 2026 y la Ley de IA Fronteriza de California —, lo que exige sistemas defendibles frente a cambios de normativas.
- El acceso FedRAMP está prácticamente resuelto (20x, GSA OneGov, precios de modelos por menos de un dólar); el desafío no resuelto radica en la capa superior de explicabilidad, auditoría, validación y equidad.
- Independiente de proveedores por diseño: nuestro enfoque consiste en construir la arquitectura de verificación y gobernanza entre su modelo y sus obligaciones legales, sin competir con sus proveedores establecidos.
Gobierno y sector público
VerResponsabilidad y Barreras de Protección de la IA Empresarial | Veriprajna
En diciembre de 2023, un chatbot aceptó vender un Chevy Tahoe de 76.000 $ por 1 $. En enero de 2024, un chatbot de una empresa de paquetería escribió un poema calificando a su propia empresa de inútil. En febrero de 2024, un chatbot de duelo inventó un plazo de reembolso que no existía, y un tribunal declaró responsable a la aerolínea.
VerIA gubernamental que cita la ley, no la inventa | Veriprajna
El chatbot MyCity de Nueva York les dijo a los propietarios que podían rechazar los vales de la Sección 8. Les dijo a los negocios que podían saltarse la prohibición de no aceptar efectivo. Les dijo a los empleadores que podían quedarse con las propinas de los trabajadores.
Preguntas Frecuentes
¿Cómo hacemos que las decisiones gubernamentales asistidas por IA sean defendibles bajo la Administrative Procedure Act?
El criterio arbitrary-and-capricious de la APA exige que las agencias expliquen no solo qué decidieron, sino por qué. Para las decisiones asistidas por IA, esto significa construir una pista de auditoría que rastree cada resultado hasta las entradas, la lógica del modelo y los fundamentos normativos que lo produjeron. Construimos capas de explicabilidad que generan documentación de decisiones en términos que un tribunal de revisión pueda evaluar, capturando la cadena de razonamiento desde la entrada de datos a través de la salida del modelo hasta el juicio humano. El objetivo es un expediente que satisfaga tanto el requisito de toma de decisiones razonada de la APA como las obligaciones de presentación de FOIA sin requerir que el revisor comprenda la arquitectura subyacente del modelo.
¿Qué ocurrió con el sistema de desempleo MiDAS de Michigan y cómo evitamos el mismo fallo?
El sistema MiDAS de Michigan acusó falsamente a 40.000 residentes de fraude en el seguro de desempleo entre 2013 y 2015. El Auditor General de Michigan descubrió que el 93% de las determinaciones señaladas no eran en realidad fraude. Las víctimas sufrieron embargos salariales y pérdidas de vivienda. El estado resolvió la demanda por 20 millones de dólares en enero de 2024. El fallo central fue la adjudicación automática sin validación: el sistema marcaba cualquier discrepancia de datos como fraude y exigía al solicitante responder en un plazo de 10 días o afrontar sanciones. La prevención requiere reglas de validación deterministas que señalen discrepancias para revisión humana en lugar de auto-adjudicar, monitoreo continuo de precisión frente a resultados comprobados y salvaguardias constitucionales que garanticen notificación y oportunidad de ser escuchado antes de cualquier acción adversa.
¿Puede un ciudadano demandar a nuestra agencia bajo la Sección 1983 por una decisión algorítmica discriminatoria?
Sí. La Sección 1983 establece responsabilidad personal para los funcionarios estatales que priven a las personas de derechos constitucionales bajo apariencia de autoridad legal. Las decisiones algorítmicas que producen resultados dispares por motivos raciales o de otras clases protegidas son vulnerables a impugnaciones de protección igualitaria. Los programas de policía predictiva en Chicago y Los Ángeles se suspendieron después de que las auditorías hallaran sesgo racial sin beneficio preventivo. Los sistemas de adjudicación de beneficios que replican sesgos históricos en los datos de entrenamiento enfrentan la misma exposición. La defensa radica en una equidad demostrable: evaluaciones de impacto algorítmico, monitoreo continuo de sesgo, pruebas contrafácticas y documentación de que el sistema fue diseñado y validado para evitar resultados discriminatorios.
¿Cómo desplegamos IA cuando la mayoría de los proveedores carecen de autorización FedRAMP?
La iniciativa FedRAMP 20x de la GSA (marzo de 2025) está reduciendo los plazos de autorización de más de 24 meses a semanas. La Estrategia OneGov de la GSA incorporó a OpenAI, Anthropic y Google al Multiple Award Schedule en agosto de 2025. Microsoft logró FedRAMP High para todos los servicios de IA en diciembre de 2025. IBM watsonx recibió autorización en abril de 2026. El camino práctico es diseñar su sistema en torno a modelos que cuenten con autorización FedRAMP o estén en la vía 20x, utilizar GSA OneGov para el acceso a modelos y construir la capa de gobernanza, validación y explicabilidad sobre ellos. Ayudamos a las agencias a redactar paquetes ATO para sistemas de IA que utilizan estos puntos finales autorizados cumpliendo al mismo tiempo con los requisitos de límite FISMA propios de la agencia.
El chatbot de Nueva York dio asesoramiento ilegal a los ciudadanos. ¿Cómo prevenimos la responsabilidad por chatbots gubernamentales?
El chatbot MyCity de NYC dijo a los empleadores que podían quedarse con las propinas de los trabajadores (violando la Ley Laboral de NY 196-d), dijo a los propietarios que podían rechazar a inquilinos con vales de vivienda (ilegal desde 2008) y negó las regulaciones de aceptación de efectivo vigentes desde 2020. El Proyecto de Ley S7263 del Senado de Nueva York crearía un derecho privado de acción por asesoramiento de chatbots que cause daños. La prevención es la fundamentación determinista: cada afirmación que haga el chatbot sobre leyes, regulaciones o políticas debe validarse contra el texto real de la autoridad citada antes de su entrega. Construimos sistemas de verificación de citas que verifican cada referencia legal en bases de datos regulatorias verificadas, devolviendo solo respuestas validadas y derivando a revisión humana cuando el sistema no puede verificar una afirmación.
¿Qué exige NIST AI RMF 600-1 para nuestro despliegue de IA generativa?
NIST AI 600-1 (publicado en julio de 2024) añade más de 200 acciones específicas para riesgos de IA generativa en cuatro áreas: gobernanza, procedencia del contenido, pruebas previas al despliegue y divulgación de incidentes. Identifica doce categorías específicas de riesgo de GenAI con sus correspondientes mitigaciones. Las adquisiciones federales esperan cada vez más una gobernanza alineada con NIST. El desafío radica en trasladar la orientación abstracta del marco a la arquitectura del sistema real. Construimos planes de implementación de NIST AI RMF que conectan cada acción aplicable con controles técnicos específicos, requisitos de documentación y procedimientos de monitoreo en su despliegue, generando artefactos que satisfacen tanto el marco como los requisitos ATO de su agencia.
¿Cómo construimos un marco de gobernanza de IA estatal sin financiamiento específico?
La encuesta de NASCIO de 2026 muestra la IA como la prioridad número uno de los CIO estatales por primera vez, con más del 90% de los CIO ejecutando pilotos de GenAI. Sin embargo, los legisladores estatales presentaron más de 1.000 proyectos de ley sobre IA en 2025, los requisitos de evaluación de impacto algorítmico de Colorado entran en vigor en junio de 2026 y la orden ejecutiva de preeminencia de la administración Trump agrega incertidumbre sobre el cumplimiento federal. El enfoque práctico comienza con un inventario de casos de uso de IA en todas las agencias, un marco de clasificación de riesgos que concentre el esfuerzo de gobernanza en aplicaciones de alto impacto (beneficios, licencias, aplicación de la ley) y una matriz de cumplimiento que confronte los requisitos estatales con la orientación federal. Construimos estos marcos para que el personal existente pueda mantenerlos sin requerir un equipo dedicado a la gobernanza de IA, empleando monitoreo automatizado donde sea factible.
¿Cómo evitamos el bloqueo de proveedores al nivel de Palantir en plataformas gubernamentales de IA?
Los contratos federales de Palantir casi se duplicaron a 970.5 millones de dólares en 2025, y su Army Enterprise Agreement de 10 años y 10.000 millones de dólares la convierte en infraestructura fundamental a gran escala. El riesgo de dependencia no es únicamente financiero. Cuando un proveedor define cómo se llevan a cabo las investigaciones, cómo se priorizan los objetivos y cómo se justifican las decisiones, la agencia pierde la capacidad de evaluar alternativas o mantener una supervisión independiente. La prevención exige una separación arquitectónica: la capa de capacidad de IA debe ser distinta de la capa de integración de datos, la capa de gobernanza y la capa de apoyo a la toma de decisiones. Construimos arquitecturas independientes de proveedores donde los modelos y plataformas son componentes intercambiables, no dependencias estructurales, de modo que la agencia conserva la capacidad de cambiar de proveedor sin reconstruir el sistema.
Construya su IA con confianza.
Colabore con un equipo que cuenta con amplia experiencia en la creación de la próxima generación de IA empresarial. Permítanos ayudarle a diseñar, construir e implementar una estrategia de IA en la que pueda confiar.
Veriprajna consultora de Deep Tech está especializada en la creación de sistemas de IA críticos para la seguridad en los sectores de salud, finanzas y ámbitos regulatorios. Nuestras arquitecturas se validan conforme a protocolos establecidos, con documentación de cumplimiento integral.