Por qué dejé de confiar en la IA y empecé a construir Oráculos

El correo llegó a las 11:47 PM de un martes. Un fabricante de baterías con el que habíamos estado hablando acababa de retirar de la línea un lote de celdas. No porque hubieran fallado una prueba, sino porque su herramienta de cribado de materiales asistida por IA había aprobado un electrolito candidato que, cuando un químico humano finalmente hizo los cálculos, resultó ser termodinámicamente inestable por encima de los 150°C. El material se habría descompuesto dentro de un paquete de baterías. La descomposición habría liberado calor. El calor habría desencadenado lo que la industria llama eufemísticamente "fuga térmica" — y lo que el resto de nosotros llamamos un incendio.

Nadie salió herido. Pero me quedé sentado en mi escritorio mirando ese correo y pensando en la palabra "plausible". La IA no se había equivocado de ninguna manera obvia. La estructura molecular que recomendó parecía razonable. La energía de formación que predijo estaba en el rango correcto. Era plausible. Simplemente no era verdadera.

Esa distinción — entre lo plausible y lo verdadero — es la línea de falla que atraviesa toda la industria de la IA en este momento. Y es la razón por la que construí Veriprajna.

La economía de los wrappers tiene un problema de verdad

Esto es lo que la mayoría de la gente no percibe sobre la ola actual de productos de IA: la gran mayoría de ellos son delgadas capas de interfaz — "wrappers" — que se sitúan sobre grandes modelos de lenguaje de propósito general. El LLM predice el siguiente token más probable. El wrapper hace que parezca una aplicación. El usuario asume que está obteniendo respuestas. Está obteniendo probabilidades.

Para escribir textos de marketing o resumir notas de reuniones, esto está bien. Las probabilidades son suficientes. Pero las empresas con las que trabajo no tienen el lujo de lo "suficientemente bueno". Fabrican baterías que van en vehículos eléctricos. Producen contenido de audio que se transmite globalmente. Para ellas, una respuesta que es 99% plausible pero 1% físicamente imposible no es un error de redondeo. Es un evento térmico o una demanda por derechos de autor.

Cuando tu IA es responsable de algo que puede incendiarse o hacer que te demanden, "estadísticamente probable" no es lo mismo que "correcto".

He empezado a llamar a esto la bifurcación de la IA. Por un lado, la economía de los wrappers: rápida, accesible, construida sobre predicción estocástica. Por el otro, lo que hacemos en Veriprajna: IA profunda, donde cada resultado se valida contra reglas inmutables antes de que un humano lo vea siquiera. Física. Lógica. Procedencia. Las cosas a las que no les importa la distribución de tus datos de entrenamiento.

¿Qué sucede cuando la IA predice química que no entiende?

Déjame concretar esto con el problema de las baterías, porque me atormenta.

Las baterías de iones de litio fallan mediante una secuencia determinista de descomposiciones químicas. Comienza alrededor de los 80–100°C cuando la capa protectora del ánodo — llamada Interfase de Electrolito Sólido — se descompone. A los 110–135°C, el separador se derrite y el electrolito comienza a descomponerse en gases inflamables. Por encima de los 200°C, el cátodo colapsa, libera oxígeno y se produce la combustión.

El electrolito es la variable crítica. Los electrolitos líquidos tradicionales — típicamente hexafluorofosfato de litio disuelto en disolventes de carbonato — son químicamente inestables a temperaturas elevadas. Son literalmente la fuente de combustible en el evento de combustión. Para prevenir la fuga térmica, especialmente en aplicaciones de alto voltaje o alta temperatura, necesitamos electrolitos con energías de descomposición que los mantengan estables mucho más allá de ese umbral de 200°C.

El problema es encontrarlos. El espacio químico de posibles cristales inorgánicos contiene unas 10^100 combinaciones estimadas. Durante décadas, los científicos de materiales han explorado este espacio de la manera en que Edison probaba filamentos: plantear la hipótesis de una estructura, sintetizarla en un laboratorio, probarla, esperar meses por los resultados. Y la intuición humana nos sesga hacia modificaciones de familias conocidas — granates, perovskitas — en lugar de aventurarnos en territorio composicional genuinamente novedoso.

Así que la industria recurrió a la IA. Tiene sentido. Pero aquí es donde salió mal para muchos equipos: apuntaron un LLM al problema. Un LLM que había "leído" millones de artículos de química podía predecir estructuras moleculares, pero predice tokens, no densidades electrónicas. No tiene ningún concepto de las reglas de valencia, ninguna comprensión de las fuerzas mecánico-cuánticas. Puede alucinar una estructura cristalina que se ve bien sobre el papel pero que viola las leyes de la física de maneras que solo aparecen cuando intentas construirla.

Esto es lo que sucedió con ese correo de altas horas de la noche. La IA propuso un candidato. El candidato era plausible. No era real.

La arquitectura Oráculo: cómo lo resolvemos realmente

Después de ese incidente, mi equipo y yo tuvimos una conversación larga e incómoda sobre lo que realmente estábamos construyendo. ¿Estábamos construyendo una IA que genera respuestas? ¿O una IA que descubre la verdad?

Elegimos la verdad. Y la verdad requiere un Oráculo.

Nuestra arquitectura para el descubrimiento de materiales combina GNoME de Google DeepMind — Graph Networks for Materials Exploration — con una rigurosa validación mediante Teoría del Funcional de la Densidad. La idea clave es esta: no usamos la IA para responder la pregunta. Usamos la IA para proponer candidatos de un vasto espacio de búsqueda, y luego validamos cada uno de ellos contra las leyes de la física antes de que llegue a ninguna parte.

GNoME trata las estructuras cristalinas como grafos: los átomos son nodos, los enlaces químicos son aristas. A diferencia de un LLM que procesa texto lineal, GNoME entiende la geometría y la topología en 3D. Está construido para ser lo que los físicos llaman E(3)-equivariante, lo que significa que sus predicciones no cambian si rotas el cristal en el espacio. Eso no es una característica que se añade encima. Es una restricción matemática incorporada en la arquitectura. El modelo no puede violar la simetría rotacional.

Pero incluso GNoME es probabilístico. Predice energías de formación — la energía requerida para ensamblar un cristal a partir de sus elementos — pero esas predicciones conllevan incertidumbre. Un cristal puede parecer estable para la red neuronal y aun así ser termodinámicamente no competitivo frente a otras fases posibles.

Así que construimos la capa Oráculo.

¿Por qué importa la validación DFT para la seguridad de las baterías?

La Teoría del Funcional de la Densidad es un método mecánico-cuántico que aproxima la solución de la ecuación de Schrödinger. Calcula la densidad electrónica y la energía total con alta precisión. Es computacionalmente costosa — un solo cálculo puede tomar cientos de horas de CPU — pero no alucina. Resuelve ecuaciones. La respuesta o es correcta o es un error numérico que puedes cuantificar y acotar.

Ejecutamos una estrategia de validación escalonada. Los campos de fuerza de aprendizaje automático se encargan de la relajación geométrica inicial, filtrando los candidatos que están obviamente rotos. Luego los cálculos a nivel PBE realizan un cribado de alto rendimiento. Los supervivientes se validan con r²SCAN, un funcional meta-GGA que predice con precisión las constantes de red y las energías de formación para sistemas fuertemente enlazados. Los metales de transición reciben una corrección Hubbard U adicional para manejar los errores de autointeracción en los orbitales d.

Me doy cuenta de que acabo de arrojarte mucha jerga de física. El punto es más simple que los detalles: tenemos múltiples capas de simulación física cada vez más costosa y precisa, y cada candidato debe sobrevivir a todas ellas antes de que lo recomendáramos para una batería.

La métrica que más importa es lo que llamamos "Distancia a la Envolvente" (Distance to Hull). Imagina graficar cada material posible en un espacio composicional dado en un gráfico: la composición en un eje, la energía en el otro. Los materiales estables forman un límite inferior, una "envolvente convexa". Cualquier cosa por encima de esa envolvente se descompondrá espontáneamente en los materiales que la forman. Un material con distancia cero a la envolvente es el estado fundamental termodinámico. Un material con una distancia mayor a 100 meV/átomo casi con certeza se va a desintegrar — y en una batería, desintegrarse significa liberar calor.

A la envolvente convexa no le importa la puntuación de confianza de tu red neuronal. Un material o es termodinámicamente estable o no lo es.

El volante de inercia que se vuelve más inteligente de la noche a la mañana

Lo que hace que esto sea más que una tubería de un solo disparo es el bucle de aprendizaje activo. GNoME genera miles de estructuras candidatas. Seleccionamos las que el modelo cree que son más prometedoras y las que le resultan más inciertas — explotación y exploración simultáneamente. Esas van al clúster de DFT. Las energías verdaderas regresan y se incorporan al conjunto de entrenamiento de GNoME. El modelo se reentrena. Su física interna se corrige.

Recuerdo la primera vez que vimos subir la tasa de aciertos — el porcentaje de materiales propuestos por la IA que realmente resultaban ser estables tras la validación DFT. La búsqueda aleatoria tradicional se sitúa por debajo del 1%. El aprendizaje automático estándar te lleva quizás al 50%. Tras varios ciclos de aprendizaje activo, nuestra tubería impulsada por GNoME superaba el 80%.

Mi cofundador miró el panel y dijo: "Ya no está adivinando. Está aprendiendo lo que la estabilidad significa". Ese fue el momento en que supe que teníamos algo. No porque el número fuera impresionante de forma aislada, sino porque el sistema estaba convergiendo hacia la realidad física a través de la iteración, no de la memorización.

Escribí sobre esta arquitectura con más profundidad en la versión interactiva de nuestra investigación, si quieres ver el flujo de trabajo completo.

El otro tipo de explosión: los derechos de autor en el audio generativo

Ahora déjame contarte sobre un dominio completamente diferente donde la misma filosofía arquitectónica — proponer, luego validar — nos salvó de un tipo distinto de desastre.

Una empresa de medios se acercó a nosotros para generar contenido de audio a escala. Tenían una biblioteca enorme de música y grabaciones de voz con licencia. Querían usar IA para crear nuevo contenido a partir de esta biblioteca — locuciones localizadas, bandas sonoras remezcladas, ese tipo de cosas. Habían estado experimentando con herramientas de audio generativo listas para usar.

Hice una sola pregunta: "¿Pueden demostrar, para cualquier resultado dado, exactamente qué fuentes con licencia contribuyeron a él?"

Silencio.

Este es el problema de la caja negra en los medios generativos. Los modelos de difusión — la arquitectura detrás de la mayoría de los generadores de audio e imágenes de IA — se entrenan con conjuntos de datos masivos extraídos de internet. Cuando generan un resultado, recorren un espacio latente de alta dimensión para sintetizar algo nuevo. El resultado es una amalgama matemática de los datos de entrenamiento. No puedes rastrear qué ejemplos de entrenamiento influyeron en qué partes del resultado.

Para un consumidor que juega con herramientas de música con IA, esto es una curiosidad. Para una empresa de medios global, es un riesgo legal existencial. Si una pista de audio generada contiene un bucle de cuatro compases idéntico a una canción con derechos de autor, la empresa es responsable de la infracción — incluso si nadie lo pretendía. Los tribunales están litigando activamente si entrenar con datos protegidos por derechos de autor constituye uso legítimo (Andersen v. Stability AI, New York Times v. OpenAI). Una empresa cuya tubería de contenido dependa de estas herramientas podría despertarse una mañana y encontrar toda su biblioteca de activos legalmente contaminada.

Una empresa de medios que no puede demostrar la procedencia de su contenido generado por IA está construyendo sobre arena — arena legal que se mueve cada vez que un tribunal emite un fallo.

¿Cómo se construye un audio con IA que puede demostrar su propia inocencia?

Rechazamos por completo el paradigma de "generar a partir de ruido". En su lugar, construimos lo que considero una generación aumentada por recuperación para audio — el mismo movimiento conceptual que RAG trajo al texto, pero aplicado al sonido.

La tubería tiene dos fases: deconstrucción y reconstrucción.

Para la deconstrucción, usamos Hybrid Transformer Demucs — un modelo de separación de fuentes que toma audio mezclado y lo aísla en stems individuales: voces, batería, bajo, otros instrumentos. La arquitectura es una U-Net con conexiones de salto (que preservan el detalle de alta frecuencia que de otro modo se perdería en la compresión) y un codificador Transformer en el cuello de botella que usa autoatención para analizar toda la secuencia de audio. Procesa el audio simultáneamente en el dominio del tiempo y en el dominio de la frecuencia, fusionando información de ambos.

Ejecutamos Demucs sobre todo el archivo con licencia del cliente. Miles de horas de audio mezclado, separadas en stems limpios y aislados, cada uno etiquetado e indexado por características de audio — timbre, tono, ritmo. Habíamos convertido su catálogo anterior de una colección de canciones terminadas en una enorme biblioteca de bloques de construcción.

Para la reconstrucción — específicamente para el contenido de voz — usamos conversión de voz basada en recuperación (Retrieval-Based Voice Conversion). Esto es fundamentalmente diferente de la conversión de texto a voz o de la generación de voz basada en difusión. RVC es de voz a voz: toma una grabación de entrada (digamos, un director creativo leyendo un guion en su teléfono) y transforma el timbre para que coincida con una voz objetivo con licencia, mientras preserva la entonación y el ritmo de la interpretación original.

El mecanismo crítico está en el nombre: recuperación. Usamos HuBERT para extraer características de contenido independientes del hablante a partir de la entrada. Luego, para cada fotograma, consultamos un índice FAISS de vectores de características derivados de las grabaciones del actor de voz con licencia. Recuperamos los detalles acústicos que mejor coinciden — la respiración, la resonancia, la calidad vocal específica — de grabaciones autorizadas reales. El resultado suena como la voz objetivo porque extrajimos puntos de datos específicos de su índice con licencia, no porque una red neuronal haya soñado una aproximación.

No puedo exagerar cuánto importa esto legalmente. En un modelo deepfake, la voz objetivo vive como pesos opacos de red neuronal. En nuestro sistema, cada detalle acústico se remonta a una grabación específica, con marca de tiempo y licencia. La cadena de titularidad es ininterrumpida.

El papeleo que viaja con el sonido

Generar audio con procedencia limpia es necesario pero no suficiente. El activo necesita llevar su propia prueba. Implementamos el estándar C2PA — Coalition for Content Provenance and Authenticity — que incrusta datos de procedencia a prueba de manipulaciones directamente en los archivos multimedia usando criptografía de clave pública.

Cada archivo de audio que generamos se entrega con un manifiesto firmado: el hash de la pista guía de entrada, el ID del modelo de voz con licencia, la secuencia completa de acciones de procesamiento y la versión de la herramienta. Cualquier usuario posterior — una plataforma de streaming, una emisora — puede validar la firma y confirmar que el activo se construyó enteramente a partir de fuentes autorizadas.

También adaptamos el Índice de Similitud Estructural para el control de calidad del audio. Al comparar los espectrogramas de la guía de entrada y del resultado, detectamos los casos en que la IA ha distorsionado la interpretación — se saltó una palabra, cambió el ritmo, alucinó una pausa. Cualquier cosa por debajo de un umbral SSIM de 0.95 se marca automáticamente para revisión humana.

Para el desglose técnico completo de ambas arquitecturas, la de materiales y la de audio, consulta nuestro artículo de investigación.

¿Y si simplemente usamos mejores prompts?

La gente cuestiona este enfoque. Me dicen que estamos sobreingenierizando el problema. "Solo usa un modelo mejor". "Solo haz un ajuste fino con los datos de tu dominio". "Solo añade un descargo de responsabilidad".

Un inversor me dijo, sin rodeos: "Solo usa GPT con un buen prompt de sistema y ahórrate el costo de infraestructura". Le pregunté si pondría a su familia en un vehículo eléctrico cuyo electrolito de batería hubiera sido seleccionado por un prompt de sistema. Cambió de tema.

La objeción más profunda es sobre el costo y la complejidad. Sí, ejecutar cálculos DFT en un clúster de HPC es más caro que llamar a una API. Sí, construir una base de datos de stems indexada con FAISS y firma C2PA es más difícil que apuntar un modelo de difusión a un prompt de texto. Pero la pregunta no es si la validación determinista es más cara que la generación probabilística. La pregunta es si es más cara que una retirada de baterías del mercado. O que una demanda por derechos de autor que invalide toda tu biblioteca de contenido.

Otros preguntan si este enfoque escala. Lo hace — para eso está el volante de inercia del aprendizaje activo. El sistema se vuelve más eficiente con cada ciclo. La tasa de aciertos sube. El costo por candidato validado baja. La base de datos de stems crece. No solo estás resolviendo el problema de hoy; estás construyendo un motor que se compone.

El fin del turismo de la IA

Creo que estamos en un punto de inflexión. La era de experimentar con la IA — chatbots en el vestíbulo, copilotos en la barra lateral, wrappers en todo — está terminando. No porque esas herramientas no sean útiles, sino porque las empresas que más importan ahora intentan poner la IA en el núcleo de sus operaciones. En el laboratorio de I+D. En el estudio de producción. En los sistemas donde el fallo tiene consecuencias medidas en eventos térmicos y litigios, no en respuestas incómodas de chatbots.

En esos entornos, la tolerancia a la alucinación es cero. No baja. Cero.

La arquitectura que hemos construido en Veriprajna — para baterías, para audio, para cada dominio donde la verdad es innegociable — se basa en un solo principio: el poder generativo de la red neuronal debe estar estrictamente subordinado al poder de verificación del Oráculo. La IA propone. La física decide. La IA ensambla. La procedencia demuestra. La capacidad creativa de estos modelos es extraordinaria. Pero la creatividad sin responsabilidad no es más que adivinación sofisticada.

Para el fabricante de baterías, una alucinación es un incendio. Para la empresa de medios, una alucinación es una demanda. La única arquitectura viable restringe la generación con verificación — cada vez, sin excepción.

No creo que el futuro de la IA pertenezca a los modelos que generan los resultados más convincentes. Creo que pertenece a los sistemas que pueden demostrar que sus resultados son verdaderos. Las restricciones no limitan la inteligencia. Crean realidad.