Construimos un detector de reseñas falsas que funcionaba perfecto, hasta que alguien lo pasó por BypassGPT

Lo primero que quebró mi confianza no fue una reseña falsa. Fue una lista de precios.

Un intermediario en un canal de Telegram —uno de los abiertos, más de 13.000 miembros, sin contraseña, sin disimulo— había publicado un menú. Cincuenta centavos por un voto positivo. Cinco dólares por una reseña de una cuenta con una insignia de "Compra verificada". Descuentos por volumen. Las cuentas en oferta no eran perfiles desechables recién creados que un filtro de spam pudiera detectar dormido; tenían dos, tres, cuatro años de antigüedad, con historiales de compra reales y el tipo de actividad irregular que deja un humano. Yo había pasado semanas asumiendo que la detección de reseñas falsas era un problema difícil de aprendizaje automático. Al mirar ese menú, comprendí que era un problema difícil de aprendizaje automático que el otro bando financiaba mejor que la mayoría de las marcas a las que atacaba.

Ese fue el momento en que dejé de pensar en las reseñas falsas como texto malo y empecé a pensar en ellas como una economía coordinada. Todo lo que finalmente construimos en Veriprajna —y todo lo que primero hice mal— surgió de ese cambio.

El fraude dejó de ser un problema de calidad el día en que se convirtió en una mercancía con precio. No puedes superar a un mercado a base de filtros.

Un ataque de 47 reseñas que supera todas las herramientas que posees

Permíteme describir cómo es en realidad un ataque moderno, porque la brecha entre cómo la gente imagina las reseñas falsas y cómo funcionan realmente es la mayor parte de la razón por la que las herramientas existentes fallan.

Un competidor quiere hundir tu producto. Contrata a un intermediario a través de uno de esos grupos de Telegram. El intermediario controla un establo de cuentas antiguas y comprometidas y las despliega contra una sola ficha de producto. A lo largo de 72 horas, 47 reseñas de cinco estrellas caen sobre el producto competidor —el tuyo permanece limpio, el suyo asciende—. El texto de las reseñas lo escribió GPT-4 y luego pasó por una herramienta como BypassGPT para vencer a los detectores basados en perplejidad que buscan la escritura automática "demasiado pulida". Cada reseña menciona una característica específica del producto extraída de la propia sección de preguntas y respuestas de la ficha. Los horarios de publicación se escalonan en tres zonas horarias para que nada se agrupe.

Cada reseña individual parece legítima. Superan los filtros de contenido de las principales plataformas de reseñas. Pasan GPTZero. Las cuentas son lo bastante antiguas para esquivar cualquier heurística de "cuenta nueva". Tu equipo de protección de marca no nota nada, hasta que tus números se mueven, y lo hacen: una estrella fraudulenta adicional puede elevar la demanda de un competidor un 38%, y las reseñas negativas falsas pueden recortar los ingresos de un objetivo hasta en una cuarta parte, todo mientras tu calificación promedio absorbe el daño en silencio.

Esto no es un experimento mental. Amazon presentó su primera demanda conjunta con el Better Business Bureau contra el intermediario de reseñas ReviewServiceUSA.com en julio de 2024. Trustpilot eliminó 4,5 millones de reseñas falsas en 2024 —el 7,4% de todo lo enviado, frente al 6,1% del año anterior—. Tripadvisor interceptó 2,7 millones de envíos fraudulentos, algunos de ellos fotos de propiedades generadas por IA que creaban "hoteles fantasma" que los viajeros llegaban a reservar y, al presentarse, encontraban un solar vacío. La escala no es marginal. Los investigadores estiman que alrededor del 30% de las reseñas en línea son falsas, lo que cuesta a las empresas estadounidenses unos 152.000 millones de dólares al año, según el Foro Económico Mundial.

Así que ese es el problema que creía entender. Aquí es donde me equivoqué.

El detector que funcionó perfectamente, y luego dejó de hacerlo

Nuestra primera versión era un clasificador de texto. Leía el texto de la reseña y puntuaba la probabilidad de que fuera generado por una máquina. Es lo obvio que construir, y quiero ser honesto: yo lo respaldé. La demostración fue preciosa. En nuestro conjunto de pruebas detectaba reseñas escritas por IA con el tipo de precisión que te hace empezar a redactar mentalmente el anuncio de lanzamiento.

Luego lo ejecutamos contra reseñas que habían pasado por un humanizador.

Ahora hay más de 30 de estas herramientas: BypassGPT, Undetectable.ai, StealthWriter, Humanize AI y una docena más. Toman texto generado por máquina y lo alteran lo justo para burlar a un detector: eliminando las comas reveladoras, insertando palabras de enlace, reemplazando el vocabulario que los clasificadores aprenden a asociar con la salida de GPT. Nuestra precisión no se degradó con elegancia. Se desplomó. Las reseñas que habíamos estado detectando con alta confianza ahora pasaban tranquilamente como "parece humano".

Recuerdo la discusión que siguió. La mitad del equipo quería seguir ajustando: más datos de entrenamiento, ejemplos adversarios, perseguir a los humanizadores. Es un instinto razonable y es una trampa. Yo había revisado la investigación: de más de 30 herramientas humanizadoras que alguien había probado, solo 13 producían de forma fiable texto que engañaba a los mejores detectores. El clasificador de texto de referencia, Originality.ai, todavía atrapa a la mayoría. Pero "la mayoría" es el listón equivocado cuando un atacante puede pasar una reseña por cinco humanizadores y enviar la que obtenga la puntuación más limpia. Un detector basado solo en texto está en una carrera que estructuralmente ya ha perdido.

Un detector de una sola señal no es un detector débil. Es un detector del que le has explicado al atacante exactamente cómo derrotarlo.

El problema más profundo era uno que debí haber visto el día en que leí aquella lista de precios de Telegram. Parte del fraude más dañino no está escrito por IA en absoluto. Cuando un intermediario paga a una red de personas reales para publicar —humanos incentivados, la versión moderna de la vieja granja de Mechanical Turk—, el texto es genuinamente humano. No hay ningún indicio lingüístico que encontrar, porque no hay máquina en el proceso. Un clasificador de texto que examina una reseña pagada de una persona real no ve nada malo, porque en el plano del lenguaje no hay nada malo. Y la asimetría se ensancha por ambos extremos: a principios de 2026, el 23% de quienes escriben reseñas admitía usar IA al menos a veces, mientras que solo el 31% de los consumidores confiaba en poder detectar una reseña escrita por IA.

Fue entonces cuando descartamos el modelo de texto como pieza central. No del todo —sigue siendo una señal—, pero dejó de ser la señal.

¿Qué atrapa realmente una campaña coordinada?

El replanteamiento que salvó el proyecto: una reseña falsa individual es casi imposible de atrapar, pero una campaña deja huellas que las reseñas individuales no dejan.

Esas 47 reseñas comparten algo incluso cuando cada una está limpia. Llegan en una ráfaga. Hacen referencia a la misma característica extraída. Las cuentas que las publicaron, cuando mapeas las relaciones entre vendedores, reseñadores y productos, se iluminan como un grupo que no ocurre de forma natural: el mismo conjunto de cuentas reseñando el mismo y reducido conjunto de productos en la misma ventana temporal. Por esto las plataformas que se toman en serio el fraude pasaron a los métodos de grafos: la infraestructura de Amazon ejecuta redes neuronales de grafos profundas sobre la red de vendedor-reseñador-producto precisamente porque la estructura de la red delata una coordinación que el texto nunca revelará. Nosotros construimos en la misma dirección: fusionando señales de comportamiento (cómo actúa una cuenta a lo largo del tiempo), señales temporales (cuándo llegan las reseñas unas respecto a otras) y señales relacionales (quién está conectado con quién) sobre la capa lingüística.

Ninguna de ellas por sí sola es suficiente. Una ráfaga puede ser un momento viral genuino. Un grupo puede ser una comunidad real de fans. Pero la combinación —una ráfaga, de texto que extrae características, desde un grupo relacionalmente sospechoso, con una sincronización escalonada diseñada para parecer no escalonada— es la firma de una campaña pagada, y sobrevive al humanizador porque el humanizador solo reescribe las palabras.

La misma lógica se extiende a las imágenes, que es la frontera que nadie ha resuelto con limpieza. Los hoteles fantasma y las fotos de productos fabricadas se propagan porque la generación de imágenes por IA se abarató, y para una marca de hostelería lo que está en juego no es abstracto: McAfee cifró las pérdidas por estafas de viajes impulsadas por IA en unos 13.000 millones de dólares en 2025, cerca de mil dólares por víctima, gran parte de ello canalizado a través de fichas que parecían reales hasta el momento del check-in. Existe un estándar de procedencia de contenido, C2PA, que firma criptográficamente una imagen en el momento de la captura: el Galaxy S25 de Samsung se convirtió en el primer teléfono de consumo en firmar fotos de forma nativa, y 2026 es genuinamente un punto de inflexión para ese ecosistema. Pero aquí está la trampa operativa sobre la que advertiría a cualquier marca: las plataformas eliminan los metadatos durante el procesamiento de la imagen. La credencial que demuestra que una foto es real se borra en el instante en que se sube al mercado donde más importa. La procedencia es una herramienta real con un agujero real para el comercio electrónico, y fingir lo contrario le vende a una marca una falsa tranquilidad.

¿Por qué las herramientas de las plataformas no resolvieron ya esto?

Esta es la pregunta que más me hacen, y es justa. Amazon gasta más de 500 millones de dólares al año y tiene a 8.000 personas trabajando en las reseñas falsas. Bloqueó más de 275 millones de ellas en 2024. ¿Por qué necesitaría alguien construir nada?

Porque las plataformas libran su guerra, no la tuya. Amazon protege a Amazon, y aun con ese gasto, el 49% de los consumidores estadounidenses dice estar seguro de haber visto reseñas falsas allí. Las plataformas de gestión de reseñas tienen la misma frontera trazada en sentido inverso. Bazaarvoice ejecuta más de 1.000 reglas de detección de fraude a lo largo de 2.300 millones de sesiones de compra al mes, y es genuinamente buena en ello, dentro de su propia red. Una reseña falsa sobre tu producto alojada en Amazon es sencillamente invisible para Bazaarvoice. Peor aún, la sindicación corta por ambos lados: una reseña falsa que supera la ingesta de Bazaarvoice puede propagarse por más de 50 sitios minoristas en 48 horas, lo que significa que la remediación tiene que ocurrir en el nodo de origen, no jugando al golpea-al-topo en cada ficha derivada.

Los detectores de texto tienen su propio techo: son una sola señal, como aprendí por las malas. Los servicios de auditoría como The Transparency Company hacen barridos diarios y presentan disputas, pero están ajustados a patrones conocidos y tienen dificultades frente a las tácticas personalizadas de los intermediarios que se adaptan específicamente para eludirlos. Y la única herramienta en la que los consumidores realmente confiaban para comprobar esto por ellos, Fakespot, cerró en julio de 2025 tras nueve años: Mozilla no pudo encontrar un modelo sostenible. La red de seguridad se encogió justo cuando los ataques mejoraban.

Ningún proveedor vigila todo el campo donde vive tu marca. Cada uno guarda su propio patio, y el fraude vive en la calle que hay entre ellos.

Esa brecha —multiplataforma, del lado de la marca, con señales fusionadas— es lo que nos propusimos ocupar. No para reemplazar a las plataformas, sino para darle a una marca una única vista a través de Amazon, Google, Yelp, Trustpilot y Tripadvisor a la vez, con una detección construida en torno a su categoría de producto en lugar de un conjunto de reglas genérico. Eso es para lo que el sistema de integridad de reseñas y detección de contenido sintético que construimos fue creado.

El cliente que no quería una página de reseñas más limpia

Yo había estado promocionando la exactitud de detección: recall, precisión, cuántas falsas atraparíamos. Luego tuve una llamada con una responsable de protección de marca que me replanteó todo el producto en unos dos minutos.

Ella no empezó por la exactitud. Preguntó qué podíamos entregarle a la FTC.

En octubre de 2024 entró en vigor la Regla sobre Reseñas y Testimonios de Consumidores de la FTC, e hizo algo más sutil que "las reseñas falsas están prohibidas". Creó un estándar de "debería haberlo sabido". Si hay reseñas falsas en tus fichas y no tienes un proceso razonable para detectarlas y responder a ellas, la ausencia de un sistema de detección es en sí misma la infracción. La sanción es de $53,088 por infracción, ajustada por inflación a enero de 2025, y cada día que una infracción continúa cuenta por separado. Una campaña coordinada de 100 reseñas falsas, sin abordar, supone una exposición de 5,3 millones de dólares. La FTC envió sus primeras cartas de advertencia bajo la regla a 10 empresas en diciembre de 2025, así que esto dejó de ser teórico hace aproximadamente un año.

Y no son solo las marcas estadounidenses. La Autoridad de Competencia y Mercados del Reino Unido abrió cinco investigaciones en marzo de 2026 bajo la nueva Ley de Mercados Digitales, Competencia y Consumidores, con sanciones de hasta el 10% de la facturación global. El Artículo 50 de la Ley de IA de la UE, que exige la divulgación legible por máquina del contenido generado por IA, entra en vigor en agosto de 2026. La SB 942 de California añadió requisitos de divulgación de contenido de IA en enero de 2026. El suelo regulatorio se movió bajo todas las marcas a la vez.

Lo que esa responsable me enseñó es que la detección es necesaria pero no suficiente. El entregable que una marca regulada realmente necesita es evidencia de diligencia debida —un registro de auditoría que muestre que existió y se ejecutó un proceso razonable de detección y respuesta, sin importar qué reseña falsa individual se colara. Eso no se puede comprar hoy en un estante; las plataformas no te darán sus datos de detección, y las soluciones puntuales no generan registros con grado de cumplimiento. Por eso construimos el sistema para producir ese rastro como un resultado de primera clase, no como una ocurrencia tardía. El artefacto defendible bajo una regla de "debería haberlo sabido" no es una página de reseñas impecable, es la prueba documentada de que estabas buscando.

¿Debería una marca construir esto, comprarlo o esperar a las plataformas?

La gente me pregunta si puede simplemente esperar a que las plataformas se pongan al día. Mi respuesta honesta: las plataformas corren tan rápido como pueden sobre un problema que han definido como protegerse a sí mismas, y el reloj regulatorio corre ahora sobre ti, por separado. Esperar es una postura, y después de octubre de 2024 es una postura con una cifra en dólares adjunta.

La segunda pregunta suele ser si pueden construir esto internamente. Puedes, pero mira lo que cuestan los programas internos serios. La operación de Amazon, de quinientos millones de dólares y 8.000 personas, es el referente de lo que hace falta para hacer esto a escala, y la mayoría de las marcas no montan eso para vigilar sus propias fichas en cinco mercados. Las opciones realistas son un sistema personalizado ajustado a tu categoría o un conjunto de herramientas parciales que unes con la esperanza de que se solapen. Las grandes consultoras te venderán lo segundo envuelto en un marco de trabajo, de seis a doce meses antes de que cualquier tecnología funcione de verdad.

Lo tercero que plantean es la carrera armamentística: si los humanizadores siguen mejorando, ¿no es temporal cualquier detector? Es la preocupación correcta, y es exactamente por eso que la respuesta no puede ser un clasificador de texto. Un sistema multiseñal se degrada lentamente cuando se ataca una señal, porque el atacante tiene que vencer el comportamiento, la sincronización y la estructura de la red simultáneamente, no solo reescribir palabras. Una carrera armamentística no se gana teniendo una pistola mejor. Se gana haciendo que el ataque cueste más que el beneficio. Cuando el fraude tiene un precio de cincuenta centavos por voto positivo, elevar el coste de una exitosa campaña es todo el juego.

La lista de precios de Telegram me enseñó algo antes que cualquier modelo, y es a lo que sigo volviendo. El otro bando trata esto como un negocio con cuenta de resultados. Durante años las marcas lo trataron como una molestia que había que filtrar. Las marcas que salgan de esta década con sus calificaciones intactas serán las que empezaron a tratar su ecosistema de reseñas como ya lo hacen los atacantes: como una infraestructura en disputa que vale la pena defender a propósito. Ese es el cambio que yo haría primero, y es el que el sistema que construimos asume desde la primera línea de código.

Una reseña falsa que nunca atrapas te cuesta una venta. Un sistema de detección que nunca construiste, después de octubre de 2024, te cuesta $53,088 al día. No son el mismo problema, y el segundo es al que la mayoría de las marcas todavía no le han puesto precio.