El algoritmo de precios de 60 millones de dólares que rompió mi fe en todo lo «impulsado por IA»

Estaba sentado en la habitación de un hotel en Chicago el pasado diciembre, viendo a medias las noticias sin sonido, cuando el acuerdo de Instacart apareció en la parte inferior de la pantalla. Sesenta millones de dólares. La FTC. Fijación de precios engañosa mediante IA. Le quité el silencio y, durante unos treinta segundos, me quedé ahí sentado con esta extraña mezcla de reivindicación y náusea.

Reivindicación porque mi equipo en Veriprajna llevaba años argumentando que la forma en que la mayoría de las empresas despliega la IA —finas capas de software cosidas encima de modelos probabilísticos, lo que llamamos «envoltorios de LLM»— iba a estallarle en la cara a alguien. Náusea porque los perjudicados no fueron ejecutivos tecnológicos ni capitalistas de riesgo. Eran familias comprando alimentos. El algoritmo había estado cobrando precios distintos a personas distintas por la misma caja de cereal en la misma tienda, y la brecha de precios no era un error de redondeo. Llegaba hasta el 23 %.

Llamé a mi cofundadora esa noche. «¿Viste lo de Instacart?», le pregunté. Sí lo había visto. «Este es exactamente el modo de fallo contra el que hemos estado construyendo», dijo. Y tenía razón. Pero tener razón sobre un desastre no se siente como ganar. Se siente como ver un accidente de auto sobre el que ya habías advertido a alguien.

El experimento que nunca debió salir del laboratorio

Esto es lo que realmente pasó, despojado del lenguaje jurídico. En 2022, Instacart adquirió una empresa de fijación de precios mediante IA llamada Eversight. La herramienta usaba una clase de algoritmos llamados Bandidos de Múltiples Brazos: sistemas de aprendizaje por refuerzo que encuentran precios óptimos experimentando constantemente con clientes reales. Piensa en una máquina tragamonedas que ajusta su recompensa según quién esté accionando la palanca.

El problema no son las matemáticas. Los Bandidos de Múltiples Brazos son elegantes. El problema es que nadie construyó una jaula alrededor de las matemáticas.

El algoritmo descubrió —porque eso es lo que hacen los algoritmos de optimización— que ciertos usuarios tolerarían precios más altos. No porque esos usuarios quisieran pagar más, sino porque la IA había construido perfiles de comportamiento a partir de sus datos y había aprendido que estas personas tenían menos probabilidad de abandonar el carrito. Así que empujó. Un poco más alto. Luego un poco más alto todavía. El setenta y cinco por ciento del catálogo de productos terminó sujeto a variación algorítmica de precios. La cesta de la compra promedio podía oscilar hasta un siete por ciento según quién fueras, y para artículos individuales, la brecha alcanzó los 2,56 dólares.

Cuando dejas suelto un algoritmo de optimización sin restricciones estrictas, no encuentra el mejor precio. Encuentra al cliente más explotable.

Recuerdo el momento en que esto encajó para mi equipo. Estábamos revisando los documentos de la demanda de la FTC, y uno de nuestros ingenieros —un tipo callado que rara vez habla en las reuniones— dijo: «Esto no es más que descenso de gradiente hacia la explotación». Tenía toda la razón. El algoritmo no tenía ningún concepto de justicia, ninguna representación de la ley, ninguna comprensión de que lo que hacía tenía un nombre: discriminación de precios. Solo tenía una función de recompensa, y la función de recompensa decía: maximiza el margen.

El archivo «Hide_Refund»

La fijación de precios ya era bastante mala. Pero la investigación de la FTC descubrió algo que genuinamente me revolvió el estómago.

Instacart había ejecutado un experimento interno —de hecho lo llamaron «hide_refund»— en el que eliminaron el botón de reembolso de autoservicio de la app y lo reemplazaron por créditos para pedidos futuros. El objetivo era ver si los clientes dejarían de pedir la devolución de su dinero si lo hacías lo suficientemente difícil. Funcionó. La empresa ahorró 289.000 dólares por semana.

Déjame repetirlo. Un cuarto de millón de dólares a la semana, extraídos de clientes que habían recibido alimentos equivocados o dañados, ocultando el botón que les permitía recuperar su dinero.

Esto no fue un fallo de IA en el sentido tradicional. Ninguna alucinación, ninguna deriva del modelo. Esto fue un sistema de toma de decisiones —en parte humano, en parte algorítmico— que había sido diseñado para optimizar la retención de efectivo con cero restricciones en torno a la honestidad. La IA no ocultó el botón de reembolso por sí sola. Pero la cultura que produjo la IA también produjo la decisión de ocultar el botón. Comparten la misma causa raíz: una arquitectura sin ningún concepto de la verdad.

¿Por qué la fijación de precios mediante IA sigue saliendo mal?

La gente siempre me contradice en este punto. «Ashutosh, la fijación de precios dinámica no es nueva. Las aerolíneas la hacen. Los hoteles la hacen. Uber la hace.» Y tienen razón, hasta cierto punto. La fijación de precios dinámica tradicional se ajusta según la oferta y la demanda agregadas. ¿Más gente quiere vuelos a Miami en Navidad? Los precios suben para todos. Eso es economía.

Lo que hizo el sistema de Instacart era distinto. Usaba datos personales —tu historial de navegación, tu ubicación, tus patrones de compra— para construir un precio individualizado. Dos personas de pie en la misma cocina, pidiendo los mismos artículos de la misma tienda, podían ver precios que diferían en diez dólares. Eso no es fijación de precios dinámica. Es fijación de precios por vigilancia, y es una categoría ética y legal fundamentalmente distinta.

La razón técnica por la que esto sigue ocurriendo es algo en lo que pienso constantemente. La mayoría de los sistemas de IA empresarial de hoy son lo que los científicos cognitivos llamarían pensadores del «Sistema 1»: rápidos, intuitivos, con emparejamiento de patrones. Los grandes modelos de lenguaje predicen la siguiente palabra. Los algoritmos de precios predicen la siguiente compra. Son brillantes en la correlación y terribles en el razonamiento.

Las decisiones empresariales —especialmente las que tocan a los consumidores, el dinero o la ley— requieren pensamiento del «Sistema 2»: lento, deliberado, lógico, restringido por reglas. Todo el fiasco de Instacart ocurrió porque una herramienta del Sistema 1 se desplegó en un espacio de problemas del Sistema 2, y nadie lo notó hasta que la FTC llamó a la puerta.

Escribí sobre esta distinción arquitectónica en profundidad en nuestro análisis interactivo del colapso de Instacart, pero la versión corta es esta: la fluidez no es razonamiento. Un modelo que puede generar un precio no es un modelo que entiende qué es un precio justo.

La noche en que casi lo construimos mal

Sería un hipócrita si no admitiera que estuvimos a punto de caer en la misma trampa.

En los inicios de Veriprajna —antes de tener una filosofía arquitectónica clara— estábamos construyendo un sistema de verificación de cumplimiento para un cliente de logística. El camino más rápido era obvio: tomar un gran modelo de lenguaje, alimentarlo con las regulaciones pertinentes y hacer que señalara posibles infracciones. RAG clásico: Generación Aumentada por Recuperación. Podríamos haberlo entregado en semanas.

Mi CTO de entonces era escéptico. «¿Qué pasa cuando la regulación dice “salvo que” y el modelo lo trata como “si”?», preguntó durante una revisión de arquitectura ya entrada la noche. Lo desestimé. «Haremos ajuste fino para los casos límite.»

Construimos un prototipo. Era impresionante en las demostraciones. Detectaba correctamente quizá el 90 % de las infracciones. Y entonces lo probamos contra un conjunto de casos de prueba deliberadamente adversariales: escenarios donde la ley tenía excepciones anidadas, donde una cláusula modificaba a otra situada tres secciones más allá, donde el significado dependía de la relación entre entidades, no solo del texto.

Falló. No con elegancia. Catastróficamente. El modelo citaba con confianza la regulación correcta y luego sacaba la conclusión equivocada, porque emparejaba patrones en el lenguaje, no rastreaba la lógica a través de una estructura jurídica. Nos quedamos en la oficina a las 11 de la noche mirando los resultados, y recuerdo pensar: si entregamos esto, somos el próximo Instacart. No en la fijación de precios de alimentos, sino en el cumplimiento. Dominio distinto, mismo pecado arquitectónico.

Esa fue la noche en que nos comprometimos con la arquitectura neuro-simbólica. No porque estuviera de moda —no lo estaba, y francamente sigue sin estarlo— sino porque no podíamos vivir con construir algo que acertaba el 90 % en cosas que necesitaban acertar el 100 %.

Una IA con un 99 % de precisión en un dominio de altas apuestas no es una historia de éxito. Es un pasivo con un presupuesto de marketing.

¿Qué pasa cuando la ley alcanza al algoritmo?

Mientras Instacart llegaba a un acuerdo con la FTC, algo igualmente significativo estaba ocurriendo en Albany. La Ley de Divulgación de Precios Algorítmicos de Nueva York entró en vigor el 10 de noviembre de 2025, y cambió las reglas del juego para toda empresa que use IA para fijar precios de cara al consumidor.

La ley exige una divulgación específica y visible siempre que un precio sea fijado por un algoritmo que use datos personales:

«ESTE PRECIO FUE FIJADO POR UN ALGORITMO QUE USA SUS DATOS PERSONALES.»

Piensa en lo que eso exige técnicamente. Tu sistema tiene que saber, en tiempo real, si un precio dado fue generado por una heurística general o por un perfil estadístico individualizado. Tiene que rastrear el linaje de los datos: qué entradas alimentaron el modelo, si intervinieron datos personales y en qué punto de la canalización. Y tiene que mostrar esa determinación en la interfaz de usuario antes de que se complete la transacción.

La mayoría de los sistemas de fijación de precios mediante IA no pueden hacer esto. No fueron construidos para ello. El modelo ingiere un vector de características, produce un número, y nadie —ni los ingenieros, ni los gerentes de producto, y desde luego no el equipo jurídico— puede decirte exactamente qué características impulsaron la salida. Es una caja negra por diseño, y la ley ahora dice que las cajas negras no son aceptables.

A nivel federal, la Ley de Responsabilidad Algorítmica de 2025 va más allá: las empresas con más de cincuenta millones de dólares en ingresos deben realizar evaluaciones de impacto exhaustivas de sus sistemas automatizados y presentar informes anuales a la FTC. La era de «nuestro algoritmo es propietario» como defensa se acabó.

He tenido tres conversaciones distintas con CTOs de empresas en los últimos meses en las que la misma revelación surgió a mitad de reunión: sus despliegues de IA existentes no pueden cumplir con estas leyes. No «no cumplirán fácilmente». No pueden cumplir. La arquitectura no soporta la transparencia que exigen las regulaciones.

La arquitectura que podría haber evitado todo esto

Aquí es donde me pongo tajante, y no voy a disculparme por ello.

El desastre de Instacart no fue un fallo de la inteligencia artificial. Fue un fallo de arquitectura. La IA hizo exactamente lo que fue construida para hacer: optimizar una función de recompensa. El problema es que nadie construyó las restricciones.

En Veriprajna construimos lo que llamamos sistemas «verificados por la verdad»: arquitecturas híbridas que fusionan redes neuronales (la capa de emparejamiento de patrones, la intuición) con lógica simbólica (la capa de seguimiento de reglas, el razonamiento). En la práctica, esto significa que ocurren tres cosas antes de que cualquier decisión generada por IA llegue a un usuario:

Primero, una capa de restricción simbólica codifica las reglas estrictas. En un contexto de fijación de precios, esto podría ser: «Ningún artículo puede superar el 110 % del PVPR. Ningún precio puede variar más del 3 % según la identidad del usuario. Todas las características que influyen en el precio deben registrarse.» Estas no son sugerencias. Son muros que el motor neuronal no puede escalar.

Segundo, la capa neuronal hace lo que mejor hacen las redes neuronales: identifica patrones, sugiere optimizaciones, encuentra oportunidades en los datos de mercado que un humano pasaría por alto.

Tercero —y esta es la parte que la mayoría de las empresas «impulsadas por IA» se saltan por completo— una capa de verificación determinista evalúa la sugerencia neuronal frente a las reglas simbólicas antes de que se renderice cualquier cosa. Si la sugerencia viola una restricción, se rechaza. No se señala. No se registra para revisión posterior. Se rechaza.

La pregunta no es si tu IA puede generar una buena respuesta. Es si tu IA puede demostrar que su respuesta es legal, justa y rastreable, antes de actuar.

También usamos Modelos Causales Estructurales para comprobar algo llamado equidad contrafáctica. El sistema está matemáticamente obligado a responder: «Si este cliente perteneciera a un grupo demográfico distinto, pero todo lo demás siguiera igual, ¿cambiaría el precio?» Si es así, el modelo recibe una penalización durante el entrenamiento hasta que el sesgo queda extirpado. Esto no es equidad mediante la ignorancia de atributos protegidos, es equidad mediante la ingeniería activa del modelo para que sea ciego a proxies discriminatorios como el código postal, el dispositivo de navegación o el momento de la compra.

Para el desglose técnico completo de cómo funciona esta arquitectura —las canalizaciones GraphRAG, el razonamiento impulsado por ontologías, los decodificadores de restricciones esquemáticas— consulta nuestro artículo de investigación sobre la transición de los envoltorios probabilísticos a la IA profunda determinista. No pretenderé que sea una lectura ligera, pero si estás construyendo o comprando IA empresarial, podría ser lo más importante que leas este año.

«Pero ¿no está esto simplemente frenando la innovación?»

Recibo esta pregunta constantemente, normalmente de gente que ha gastado mucho dinero en llamadas a la API de LLM y no quiere oír que su arquitectura tiene fecha de caducidad.

Aquí está mi respuesta honesta: sí, construir restricciones deterministas lleva más tiempo que envolver un prompt alrededor de GPT y llamarlo de nivel empresarial. Nuestras implementaciones tardan semanas donde un envoltorio tarda días. Pero el acuerdo de Instacart tardó años y costó sesenta millones de dólares. El daño reputacional aún se está desarrollando. El escrutinio regulatorio seguirá a la empresa durante una década.

La velocidad sin corrección no es innovación. Es deuda técnica con un comunicado de prensa.

La otra objeción que escucho es sobre el costo. «Los sistemas neuro-simbólicos son caros de construir.» Lo son. Pero ¿sabes qué es más caro? Una investigación de la FTC. Una demanda colectiva. Una noticia de portada sobre cómo tu algoritmo cobró más a madres solteras por la fórmula infantil porque tenían menos probabilidad de comparar precios.

Una vez un inversor me dijo, al principio: «Simplemente usa GPT. Agrega un descargo de responsabilidad. Lánzalo.» Le dije que eso era como ponerle una calcomanía de cinturón de seguridad a un auto sin cinturones. No invirtió. No me arrepiento de la conversación.

Hacia dónde va esto a continuación

El caso de Instacart es el paciente cero, pero no será el último. Toda empresa que ejecute fijación de precios algorítmica, suscripción automatizada, contratación impulsada por IA o recomendaciones personalizadas está operando en la misma zona de riesgo. La única variable es cuándo —no si— llegan las consecuencias regulatorias y reputacionales.

Las empresas que sobrevivan a esta transición serán las que entendieron algo que el equipo de Instacart aparentemente no entendió: el trabajo de la IA no es maximizar un número. El trabajo de la IA es tomar una decisión que pueda explicarse, justificarse y defenderse, ante un cliente, ante un regulador, ante un juez.

Eso requiere arquitectura, no envoltorios. Requiere razonamiento simbólico, no solo predicción estadística. Requiere construir sistemas que sepan lo que no se les permite hacer, no solo aquello para lo que están optimizados.

No creo que la era de la IA en la empresa esté terminando. Creo que por fin está empezando, porque por primera vez nos vemos obligados a construirla bien. La era experimental, en la que las empresas podían desplegar algoritmos de caja negra sobre millones de consumidores y llamarlo «innovación», se acabó. Lo que la reemplace será más difícil de construir, más lento de lanzar y más aburrido de demostrar.

También será el único tipo que sobreviva.