Google SAFE: cómo combate Google el spam creado con IA
Google SAFE: así funciona su nuevo sistema contra el “AI slop” y qué significa realmente para el SEO.
La inteligencia artificial generativa ha cambiado radicalmente la economía del spam. Ya no hace falta crear manualmente miles de piezas de contenido ni repetir exactamente el mismo patrón: un sistema automatizado puede producir innumerables variaciones, distribuirlas entre distintas cuentas y modificar continuamente prompts, formatos y comportamientos para intentar escapar de los detectores.
Google está investigando precisamente este problema. Un paper publicado por investigadores de Google describe SAFE (Scaled Abuse Forensics Examiner), una arquitectura multiagente diseñada para automatizar investigaciones forenses sobre contenido sintético producido de forma coordinada.
Y hay una diferencia importante respecto a cómo se ha contado esta noticia en algunos sitios: SAFE no es simplemente un detector de textos o contenidos creados con IA. Su planteamiento se parece mucho más a un equipo de investigadores que cruza contenido, comportamiento, infraestructura y relaciones entre cuentas para determinar si existe detrás una operación coordinada.
Para quienes trabajamos en SEO, la investigación resulta especialmente interesante porque muestra hacia dónde está evolucionando la detección de abuso a gran escala. Pero también conviene separar cuidadosamente lo que el paper demuestra de lo que podemos inferir sobre Google Search.
El problema que Google quiere resolver: el “synthetic gap”
Los investigadores utilizan un concepto bastante gráfico: synthetic gap. Se refieren al intervalo que existe entre la aparición de una nueva técnica de abuso basada en IA generativa y el momento en que las plataformas consiguen desarrollar una contramedida eficaz.
Ese intervalo se ha convertido en un problema porque los atacantes pueden modificar continuamente sus prompts y sus sistemas de generación. Cuando un determinado patrón empieza a ser detectado, pueden crear miles de nuevas variaciones destinadas a esquivar clasificadores estáticos sin cambiar realmente el objetivo de la operación.
Google describe redes coordinadas capaces de distribuir contenido sintético a una escala que hace inviable depender exclusivamente de revisiones humanas. El problema, por tanto, no consiste únicamente en reconocer si una pieza concreta ha sido generada mediante IA, sino en detectar operaciones completas que se adaptan continuamente a los sistemas defensivos.
Y ahí es donde entra SAFE.
El matiz más importante del paper: SAFE no empieza analizando un contenido aislado
La lectura del paper original revela un detalle que me parece especialmente importante para entender correctamente el sistema.
El Root Agent de SAFE recibe como entrada un “candidate cluster of channels”, es decir, un conjunto de canales que previamente han sido considerados candidatos a formar parte de una operación sospechosa. A partir de ahí, el sistema distribuye la investigación entre diferentes agentes especializados y combina sus resultados para decidir si ese cluster representa actividad orgánica o un ataque sintético coordinado.
Esto cambia bastante la imagen mental que podemos hacernos de SAFE.
No estamos necesariamente ante un gigantesco modelo que analiza individualmente todo lo que se publica preguntándose “¿esto está escrito por una IA?”. SAFE se describe más bien como una capa de investigación forense que entra en acción sobre clusters sospechosos y trata de reunir evidencias alrededor de ellos.
Dicho de otra forma, la pregunta deja de ser únicamente: “¿Este contenido parece generado por IA?” y se acerca mucho más a: “¿Qué relación existe entre estos actores, qué patrones de comportamiento comparten y qué evidencias tenemos de que forman parte de una operación automatizada?”
Para entender la dirección que puede tomar la lucha contra el spam, esta segunda pregunta me parece bastante más interesante.
SAFE funciona como un equipo de investigadores especializados
La arquitectura es jerárquica. Existe un Root Agent, que actúa como orquestador, y varios subagentes especializados en diferentes tipos de evidencia.
El Root Agent no se limita a recopilar respuestas. El paper explica que también evalúa los resultados de los agentes, sintetiza el contexto y combina las evidencias relacionadas con contenido, comportamiento y relaciones entre cuentas antes de emitir el veredicto final.
Por debajo encontramos tres grandes especialistas: el Content Understanding Agent, el Behavior Understanding Agent y el Channel Cluster Understanding Agent.
La consecuencia es interesante: ninguna señal parece tener que funcionar necesariamente de manera aislada. SAFE puede construir su conclusión combinando distintas dimensiones de una misma operación.
El Content Understanding Agent no solo intenta detectar “contenido IA”
El agente encargado de entender el contenido tiene dos funciones diferenciadas que en algunas explicaciones sobre SAFE se mezclan.
Para detectar violaciones conocidas, Google describe un LLM especializado mediante Low-Rank Adaptation (LoRA). Para identificar casos que consiguen evitar los clasificadores existentes pero siguen infringiendo el “espíritu” de las políticas, utiliza en cambio un modelo mediante few-shot learning.
La distinción es importante.
LoRA serviría para especializar un modelo en patrones de abuso que ya conocemos. El enfoque few-shot permitiría razonar a partir de unos pocos ejemplos y reconocer comportamientos que no coinciden exactamente con las infracciones ya catalogadas.
SAFE intenta así reducir uno de los problemas clásicos de cualquier sistema anti-spam: que en cuanto conocemos las reglas, podemos diseñar contenido para situarnos justo debajo de sus umbrales.
El “espíritu de las políticas” puede ser más importante que detectar una firma concreta
Este es probablemente uno de los elementos más llamativos del paper.
Google quiere identificar comportamientos que quizá no encajen perfectamente en una regla conocida, pero que siguen vulnerando la intención de la política. Es decir, sistemas capaces de comprender qué se está intentando conseguir, y no únicamente comprobar si aparece una firma previamente catalogada.
Para el spam generado mediante IA tiene bastante sentido. Podemos variar vocabulario, imágenes, estructura, duración, idioma o formato prácticamente hasta el infinito sin cambiar la función real del contenido.
Dos piezas pueden ser superficialmente distintas y, sin embargo, formar parte exactamente de la misma estrategia.
Por eso SAFE analiza lo que Google denomina “Generative Artifacts”, firmas que pueden aparecer transversalmente entre distintos canales. También busca scripts repetitivos y determinadas inconsistencias estructurales asociadas a generación automatizada.
La consecuencia para SEO no sería que Google necesite encontrar una “marca de agua de ChatGPT” dentro de nuestros textos. Un sistema suficientemente avanzado podría fijarse en patrones semánticos y operativos mucho más amplios.
El paper revela señales de infraestructura bastante concretas
Aquí el documento original aporta información que merece la pena añadir al artículo.
El Behavior Understanding Agent no observa solamente cuántas veces publica una cuenta. Google menciona expresamente señales de infraestructura como ASN y device fingerprints, junto a patrones temporales como publicaciones sincronizadas y actividad en ráfagas.
El ejemplo que utiliza el propio paper es especialmente ilustrativo: una investigación podría detectar que el 100 % de los canales analizados utilizan la misma versión del sistema operativo y publican dentro de una ventana de cinco segundos.
No significa que esos dos indicadores sean por sí solos una señal de spam. Lo interesante es el enfoque: SAFE intenta construir una huella operacional de la red.
Esto dificulta bastante más la vida a quien produce contenido abusivo a escala. Puedes pedir a un modelo que reescriba 10.000 artículos con estilos diferentes, pero ocultar completamente la infraestructura, las cadencias de publicación y las relaciones entre todas las cuentas implicadas es otro problema.
Google intenta encontrar la fábrica, no únicamente el producto defectuoso
El Channel Cluster Understanding Agent da un paso más y analiza la conectividad existente entre las diferentes cuentas del cluster.
Utiliza un sistema de relaciones basado en grafos para encontrar conexiones entre canales y examina señales capaces de revelar infraestructuras comunes. El objetivo declarado es que la investigación cubra toda la operación adversaria y no se limite a tratar cada nodo como un incidente independiente.
Creo que esta es una de las mejores formas de entender SAFE.
Un sistema tradicional puede intentar retirar una botella defectuosa de la estantería. SAFE intenta localizar la fábrica que está produciendo miles de botellas defectuosas, entender cómo funciona y descubrir qué puntos de distribución forman parte de la misma operación.
Desde el punto de vista del spam generado con IA, el cambio de escala es enorme.
SAFE también clasifica qué tipo de abuso sintético está observando
El Content Understanding Agent no devuelve simplemente un porcentaje diciendo “87 % de probabilidades de que esto sea IA”.
El paper describe una clasificación forense entre contenido auténtico y sintético, junto con la identificación de la modalidad concreta de abuso generativo. Google pone como ejemplo la suplantación sintética o Synthetic Impersonation.
Además, el agente puede identificar lagunas en las políticas y enviarlas para revisión.
Este detalle resulta bastante interesante porque muestra un sistema que no solamente aplica políticas existentes. También puede ayudar a descubrir situaciones nuevas para las que las políticas todavía no ofrecen una respuesta suficientemente clara.
Google incluso plantea que el agente pueda aprender las políticas dinámicamente
Aquí conviene diferenciar claramente entre lo que existe y lo que Google dice que quiere añadir.
El paper explica que los investigadores planean incorporar una capacidad de comprensión de políticas al Content Understanding Agent para que pueda adaptarse dinámicamente a una normativa en evolución. Es decir, esta funcionalidad aparece como trabajo futuro y no debería presentarse como una capacidad ya desplegada.
La idea, sin embargo, es reveladora.
Un sistema anti-spam tradicional necesita que sus clasificadores se adapten continuamente. Un sistema agentic podría combinar modelos especializados con una comprensión actualizada de las políticas y utilizar ese contexto para razonar sobre nuevas modalidades de abuso.
Es otra señal de que la detección está desplazándose progresivamente desde reglas rígidas hacia sistemas capaces de reunir evidencias y contextualizarlas.
Un detalle importante: el paper menciona RAG, pero no dice que SAFE utilice RAG
Aquí también conviene hilar fino.
En la sección de antecedentes, los investigadores hablan del uso de Retrieval-Augmented Generation (RAG) en trabajos anteriores para contrastar contenido con políticas y directrices cambiantes. Sin embargo, esa referencia forma parte del estado de la investigación, no de la descripción de la arquitectura implementada por SAFE.
Por tanto, yo evitaría decir que “SAFE utiliza RAG” basándonos únicamente en este documento.
Es un buen ejemplo de por qué resulta útil acudir al paper original y no quedarse únicamente con resúmenes de terceros.
La gran limitación del paper: Google no publica los resultados
Este es probablemente el matiz más importante. El abstract afirma que los primeros resultados del despliegue muestran que SAFE acelera significativamente la identificación de nuevas amenazas sintéticas y reduce el tiempo de investigación frente a los flujos con intervención humana.
Sin embargo, cuando llegamos a la sección de evaluación, no encontramos cifras.
El documento dice literalmente que se utilizarán diferentes métricas para evaluar SAFE: acuerdo con el veredicto humano, aumento del recall, eficiencia y reducción del Average Handling Time (AHT). Incluso explica que, cuando el agente no puede emitir un veredicto suficientemente sólido, la investigación generada puede seguir sirviendo para acelerar el trabajo del analista humano.
Pero no publica precisión, recall, reducción porcentual del tiempo, tamaño del conjunto de evaluación ni resultados comparativos.
Así que sabemos que el sistema ha tenido un despliegue inicial y que Google afirma haber observado mejoras, pero no podemos cuantificarlas ni evaluar de forma independiente su eficacia a partir de este paper.
Ese matiz me parece fundamental, especialmente si queremos evitar titulares del tipo “Google ya puede detectar todo el contenido generado por IA”.
SAFE tampoco parece diseñado para eliminar completamente al revisor humano
Hay otro detalle interesante dentro de las métricas de evaluación.
Google contempla expresamente situaciones en las que SAFE no consigue alcanzar un veredicto suficientemente fuerte. En esos casos, el valor del sistema consiste en recopilar evidencias y reducir el tiempo que posteriormente necesitará el investigador humano.
Esto encaja con un patrón que estamos viendo en muchos sistemas agentic empresariales: la automatización no necesita sustituir el 100 % del proceso para proporcionar un ROI considerable.
Si el agente reúne información, correlaciona señales, descarta hipótesis y prepara una investigación estructurada, puede ahorrar una parte importante del esfuerzo aunque la decisión final siga necesitando intervención humana.
Aquí SAFE resulta interesante no solo desde el punto de vista del SEO, sino también como caso de uso de Agentic AI aplicado a procesos operativos complejos.
Entonces, ¿SAFE está buscando textos creados con ChatGPT?
No es lo que demuestra este paper. De hecho, el documento habla repetidamente de synthetic media, vídeo, canales, cuentas y clusters, y la arquitectura mostrada incorpora herramientas relacionadas con el análisis de vídeo, metadatos de cuentas y comportamiento de canales. El objetivo declarado es investigar redes coordinadas de contenido sintético.
Esto no significa que técnicas equivalentes no puedan aplicarse a texto o al spam web.
Significa que deberíamos evitar dar un salto lógico demasiado grande y afirmar que SAFE es un componente que analiza automáticamente las páginas de Google Search. El paper no lo dice.
Google Research cataloga públicamente el trabajo dentro de sus áreas de Machine Intelligence y Anti Abuse, pero tampoco identifica SAFE en la publicación como una señal del algoritmo de ranking de Search.
Aquí entra en juego S-CTS, el otro sistema relacionado con “AI slop”
SAFE resulta todavía más interesante cuando lo ponemos junto a otro trabajo publicado por investigadores de Google en 2026: Scalable Cluster Termination System (S-CTS).
Ambos parten de una idea similar: el análisis de contenidos individuales puede ser insuficiente cuando la IA permite producir infinitas variaciones aparentemente únicas. Por eso resulta más eficaz ampliar el foco y analizar clusters, comportamiento coordinado, infraestructura y patrones semánticos.
En S-CTS aparecen además tecnologías como embeddings de texto, Sentence-BERT, LoRA y Automatic Prompt Optimization para detectar narrativas repetitivas y adaptarse más rápidamente a nuevas formas de contenido sintético.
Pero, de nuevo, conviene mantener la misma cautela: que Google investigue estas técnicas y las utilice en sistemas anti-abuso no significa automáticamente que cada una de ellas esté integrada como señal en Google Search.
El SEO debería preocuparse menos por el “detector de IA” y más por las huellas de la automatización
Durante bastante tiempo, buena parte de la conversación sobre IA y SEO se ha centrado en una pregunta:
¿Puede Google saber que este artículo está escrito con ChatGPT? Después de leer SAFE, esa pregunta resulta cada vez menos interesante.
Supongamos que Google no pudiera identificar con certeza quién ha escrito una determinada página. Seguiría pudiendo encontrar similitudes semánticas, cadencias de publicación artificiales, plantillas repetitivas, redes relacionadas, infraestructuras comunes o comportamiento estadísticamente improbable.
En otras palabras, no es imprescindible demostrar que una pieza concreta fue generada con IA si el sistema de producción completo deja suficientes evidencias de automatización abusiva.
Y ahí cambia bastante la conversación.
Generar 100.000 contenidos diferentes no significa generar 100.000 contenidos distintos
La IA puede producir innumerables variantes de una misma idea. Podemos cambiar palabras, ejemplos, ciudades, productos, imágenes y estructuras hasta conseguir que ningún documento sea exactamente igual a otro.
Desde una perspectiva basada únicamente en duplicidad textual, todos podrían parecer diferentes.
Pero desde una perspectiva semántica y operacional, quizá estemos viendo exactamente el mismo patrón repetido 100.000 veces.
Eso conecta muy bien con las investigaciones de Google sobre clusters de contenido sintético. El problema deja de ser la duplicación literal y pasa a ser la repetición funcional a escala.
Para determinados proyectos de SEO programático, esta diferencia debería hacernos pensar.
¿Significa SAFE que Google penaliza el contenido generado mediante IA?
No es una conclusión que podamos extraer del paper.
SAFE está diseñado para investigar abuso sintético coordinado, no para castigar el simple hecho de haber utilizado inteligencia artificial. El propio planteamiento gira alrededor de redes adversarias, contenido masivo de baja calidad, comportamiento inorgánico y evasión deliberada de sistemas de control.
Eso es muy diferente a utilizar un LLM para investigar un tema, estructurar información, generar un primer borrador, analizar entidades o mejorar un contenido creado bajo supervisión humana.
La tecnología utilizada para escribir no determina por sí sola el valor del resultado.
Lo que parece preocupar a Google es la capacidad de la IA para industrializar comportamientos abusivos a una escala que anteriormente habría sido económicamente imposible.
¿Puede SAFE estar relacionado con una Google Spam Update?
Es posible plantearlo como hipótesis, pero actualmente no podemos afirmarlo.
Sabemos por el propio paper que SAFE ha tenido un despliegue inicial y que Google afirma haber reducido los tiempos necesarios para identificar determinadas amenazas sintéticas. También sabemos que Google está desarrollando más de un sistema orientado a detectar abuso generativo a escala.
Lo que el paper no establece es que SAFE forme parte de la infraestructura de Google Search, que intervenga en el ranking de páginas web o que haya sido incorporado a una determinada Spam Update.
La proximidad entre fechas puede resultar sugerente, pero no constituye evidencia técnica.
Por eso yo separaría claramente tres niveles: sabemos que SAFE existe y ha sido desplegado; podemos observar que sus técnicas son conceptualmente relevantes para combatir spam a escala; pero no sabemos si SAFE participa en las Spam Updates de Google Search.
Lo realmente interesante para el SEO no es SAFE, sino el cambio de paradigma
Ese es el aprendizaje importante de todo esto. Durante años hemos pensado el spam principalmente a nivel de URL. Analizamos una página, decidimos si tiene calidad y repetimos el proceso millones de veces. La IA generativa obliga a mirar el problema desde otra escala.
Si un atacante puede generar infinitas variantes de contenido aparentemente único, los sistemas defensivos tienen incentivos para observar también quién produce ese contenido, qué relaciones existen entre los productores, cómo se publica, qué infraestructura comparten y qué patrones semánticos se repiten.
SAFE es un buen ejemplo de ese cambio.
No demuestra cómo funciona Google Search, pero sí muestra cómo investigadores de Google están intentando resolver un problema muy parecido al que la generación masiva de contenido plantea al ecosistema web.
Escalar valor o escalar volumen: ahí está probablemente la diferencia
La IA nos permite producir mucho más contenido que hace unos años. Eso puede ser extraordinariamente útil cuando utilizamos esa capacidad para investigar mejor, actualizar información, analizar datos, personalizar experiencias o transformar conocimiento experto en contenidos útiles.
Pero también hace posible llenar un dominio con decenas de miles de URLs que existen únicamente porque ahora generarlas prácticamente no cuesta nada.
Técnicamente ambas estrategias utilizan IA.
Desde la perspectiva del valor para el usuario, son completamente diferentes.
Y si sistemas como SAFE representan la dirección en la que está evolucionando la detección de abuso, la segunda estrategia puede dejar muchas más huellas de las que pensamos.
Quizá llevamos años haciendo la pregunta equivocada
La pregunta no debería ser solamente si Google puede detectar que una determinada frase la escribió una inteligencia artificial.
Puede que ni siquiera necesite hacerlo.
Si Google es capaz de relacionar contenido, comportamiento, infraestructura, temporalidad y conexiones entre actores, puede detectar patrones de abuso sin necesitar una prueba perfecta sobre el origen de cada frase.
SAFE convierte precisamente ese proceso en una investigación multiagente: un agente analiza el contenido, otro estudia el comportamiento, otro reconstruye las relaciones del cluster y un agente principal sintetiza todas las evidencias.
Por eso la conclusión del paper no es “Google ya sabe detectar contenido escrito por IA”.
Es bastante más interesante: Google está trabajando en sistemas que intentan comprender cómo funciona una operación de contenido sintético en su conjunto, en lugar de limitarse a juzgar cada contenido de forma aislada.
Y para quienes trabajamos en SEO, quizá ese sea el cambio que realmente deberíamos estar observando.
Información basada en las publicaciones The Synthetic Gap: Automating Forensic Investigation of «AI Slop» with the Scaled Abuse Forensics Examiner (SAFE), The Synthetic Gap: Automating Forensic Investigation of “AI Slop” with the Scaled Abuse Forensics Examiner (SAFE) – PDF, Google Has Deployed A New AI Spam Detector Called SAFE y Google Research Shows How AI Spam Can Be Detected.
