Saltar al contenido
  1. Inicio
  2. Blog
  3. Robots.txt y entrenamiento de IA
IA y buscadores2 de noviembre de 2026·9 min de lectura

La línea común de robots.txt para no entrenar a la IA: qué cambia en Google y Bing y cómo no perder visibilidad

Google prevé leer en 2027 una línea común de robots.txt para pedir que tu web no se use en el entrenamiento de modelos, y Bing separará entrenamiento y citación desde el 1 de febrero de 2027. Nada de eso está en vigor todavía, y en Google cerrar el entrenamiento puede sacarte también de Gemini.

Portada de Robots.txt y entrenamiento de IA con el logotipo de Google

Puntos clave

  • Google anunció el 30 de octubre de 2026 que soportará en 2027 un token común de robots.txt, __usage_ai-training, basado en el trabajo del grupo AIPREF de la IETF. De momento es un plan.
  • En Google, ese token sin una línea propia para Google-Extended cuenta como Google-Extended bloqueado, y Google-Extended cubre también el uso de tu web como fuente en Gemini Apps.
  • Bing respetará desde el 1 de febrero de 2027 dos preferencias separadas, entrenamiento y grounding, y desde el 1 de marzo deja de leer NoArchive y NoCache como preferencia de IA.
  • Si lo que buscas es que la IA te cite, lo prudente es no bloquear el entrenamiento en Google y revisar NoArchive y NoCache antes de marzo de 2027.

¿Qué cambia si no quieres que se use tu web para entrenar a la IA?

Viene una forma común de pedirlo, pero todavía no funciona. Google anunció el 30 de octubre de 2026 que en 2027 leerá un token de robots.txt con el que pedir que no entrenen modelos con tu web. Bing respetará desde el 1 de febrero de 2027 preferencias separadas de entrenamiento y de citación. En Google, cerrar el entrenamiento con ese token puede sacarte de Gemini.

Los dos anuncios salieron el mismo día, en el blog de Google Search Central y en el blog de Bing. Google habla de un «policy token» basado en AIPREF, el grupo de la IETF que trabaja en preferencias de uso por la IA. Lo sitúa «en 2027» y junto a otros proveedores, sin nombrarlos.

Su documentación de rastreadores, consultada el 2 de noviembre de 2026, concreta algo más. El token se llamará __usage_ai-training y Google lo soportará «a principios de 2027». Es un plan con fecha aproximada, y conviene tratarlo así.

Sobre OpenAI hay menos certeza. Según Search Engine Journal, que lo publicó el 1 de noviembre de 2026, OpenAI lo aplicará «en los próximos meses». La página original de OpenAI no nos ha cargado, así que no lo damos por hecho. De Anthropic solo podemos confirmar que el autor del borrador técnico trabaja allí.

Cómo es la línea nueva de robots.txt

La sintaxis sale de un borrador que Kevin Kelley, de Anthropic, publicó en la IETF el 30 de octubre de 2026. Se titula «Machine-Readable Training Preference Signal» y es un borrador individual que la propia IETF marca como no avalado. Caduca el 3 de mayo de 2027 si nadie lo renueva. Su ejemplo literal son estas tres líneas.

User-Agent: __usage_ai-training
Disallow: /
Allow: /press-kit/

Esas líneas piden que no se entrene con ninguna página del sitio salvo las de la carpeta /press-kit/. El borrador no añade directivas al estándar de robots.txt, el RFC 9309. Reutiliza User-Agent, Allow y Disallow, y compara el token sin distinguir mayúsculas.

Hay dos detalles que las plantillas que circulan por internet van a pasar por alto. Según el borrador, un grupo con User-Agent: * no expresa ninguna preferencia de entrenamiento, así que hay que nombrar el token. Y el token no controla el rastreo. Que un rastreador entre o no en tu web lo sigue decidiendo la línea de su propio agente.

Hay además otra propuesta sobre la mesa. El grupo de trabajo AIPREF tiene su propio documento, firmado por Gary Illyes (Google) y Martin Thomson (Mozilla). Su regla es distinta y puede ir en robots.txt o en una cabecera HTTP, con la forma Content-Usage: train-ai=n. Google nombra el token de Kelley en su documentación, pero a 2 de noviembre de 2026 ninguna de las dos sintaxis es un estándar.

¿Entrenar a la IA y aparecer citado en sus respuestas es lo mismo?

No. Son dos usos distintos de tu contenido, y cada uno se decide por separado. Entrenar es usar tus páginas para modificar los parámetros aprendidos de un modelo, según la definición del vocabulario de AIPREF. El grounding, o anclaje, es que el asistente consulte tu página al responder y la cite como fuente.

Queda una tercera cosa, la búsqueda clásica, que es la lista de resultados de Google o de Bing. Cada una se regula con mecanismos propios, y los cambios de octubre tocan solo las dos primeras.

UsoQué esCómo se controla en GoogleCómo se controla en Bing
EntrenamientoTu contenido ajusta un modelo futuroGoogle-Extended; en 2027, también el token comúnPreferencia en robots.txt o por página, desde el 1 de febrero de 2027
GroundingEl asistente lee tu página al responder y te citaEn Gemini Apps y Vertex AI, Google-Extended. AI Overviews y AI Mode van con la BúsquedaPreferencia solo por página, independiente del entrenamiento
Búsqueda clásicaAparecer en la lista de resultadosGooglebot. Google-Extended no la afectaBingbot. Sin cambios

Para casi todas las empresas con las que trabajamos, la decisión que importa es la segunda. Que un modelo futuro haya leído tu web pesa poco al lado de que Gemini o Copilot te nombren cuando un cliente pregunta por tu servicio. Lo desarrollamos en la guía de SEO para buscadores de IA, con la tabla de agentes de cada asistente.

¿Por qué en Google bloquear el entrenamiento puede sacarte de Gemini?

Porque en Google las dos decisiones dependen de la misma línea. Google no lo dice en una sola frase. Es nuestra lectura de dos páginas oficiales, consultadas el 2 de noviembre de 2026, y la presentamos como tal.

La documentación de rastreadores explica que Google-Extended decide si el contenido que rastrea Google puede usarse para entrenar futuros modelos Gemini. También decide si sirve para el grounding en Gemini Apps y en la función «Grounding with Google Search» de Vertex AI. El blog del 30 de octubre añade la otra pieza. Si una web se excluye con el token común y no dice nada de Google-Extended, Google la tratará como si lo hubiera bloqueado.

Juntas, las dos páginas llevan a una consecuencia práctica. Quien copie solo las líneas del token con Disallow: / previsiblemente dejará de ser fuente en Gemini Apps. Y quien añada un Allow para Google-Extended, que según el blog le mantiene en Gemini Apps, permite a la vez el entrenamiento de Gemini. Hoy no vemos en Google una forma de decir que no al entrenamiento y que sí a la citación en Gemini.

Lo que no cambia, según la misma documentación, es la Búsqueda. Google-Extended «no afecta a la inclusión de una web en Google Search ni es una señal de ranking», y el anuncio no menciona AI Overviews ni AI Mode. Esos resultados dependen del rastreo de Googlebot, como contamos en la guía del modo IA de Google. Si Google cambia su documentación antes de 2027, esta lectura cambiará con ella.

En Bing, NoArchive y NoCache dejan de valer para la IA el 1 de marzo de 2027

Bing trae el único cambio con fechas que obligan a moverse. Su blog del 30 de octubre de 2026 separa por primera vez dos preferencias independientes. La de entrenamiento se podrá expresar en robots.txt, con el mismo token __usage_ai-training que usan sus ejemplos, o por página, y la de grounding, solo por página. La búsqueda clásica queda igual, porque posicionarse en sus resultados no cuenta como grounding.

FechaQué pasa en Bing
15 de diciembre de 2026Se abre en Bing Webmaster Tools un ajuste temporal de grounding, solo para las webs que tengan NoArchive o NoCache en esa fecha
1 de febrero de 2027Bing empieza a respetar las preferencias nuevas de entrenamiento y de grounding
1 de marzo de 2027NoArchive y NoCache dejan de leerse como preferencia de entrenamiento o de grounding. El ajuste temporal tiene que estar registrado antes
30 de septiembre de 2027Fecha máxima del ajuste temporal, que también se acaba si Bing vuelve a rastrear la página antes

El cambio afecta a quien usa hoy noarchive o nocache para que Copilot no tome su contenido. Esa protección se apaga el 1 de marzo de 2027. Hasta entonces caben dos caminos, registrar el ajuste temporal en Bing Webmaster Tools desde el 15 de diciembre o pasar a la preferencia nueva por página. Según el blog de Bing, se escribe <meta name="Bingbot" content="ai-grounding:disallow">, o ai-training:disallow para el entrenamiento, y también vale como cabecera X-Robots-Tag.

Si tu web no lleva ninguna de las dos etiquetas, no tienes nada urgente que hacer en Bing. Desde febrero podrás decir que no al entrenamiento sin renunciar por ello a que sus respuestas te citen.

Qué conviene hacer según el tipo de empresa

La respuesta depende de qué pesa más para tu negocio, que te citen o que no usen tu contenido. Esta tabla resume lo que recomendamos a 2 de noviembre de 2026, con lo que Google y Bing han publicado.

PerfilQué buscaQué recomendamos
Pyme B2B, comercio o empresa de serviciosQue la IA la nombre como opciónDejar permitido Google-Extended y no copiar el token común sin decidirlo antes
Medio, editorial o creador de contenidoQue no se entrene con lo que publicaBloquear Google-Extended o el token asumiendo la salida de Gemini Apps, y usar en Bing la preferencia de entrenamiento
Empresa con una sección que sí quiere cederCeder solo la sala de prensa o la documentaciónUn Disallow general y un Allow por carpeta, como el ejemplo del borrador, cuando el token esté soportado

Para un medio la cuenta es otra, porque su contenido es el producto. Google ya prueba a pagar a los editores por su contenido en la IA, y esa vía puede compensar más que un bloqueo. Sea cual sea tu perfil, antes de tocar nada revisa lo que ya tienes.

  1. Abre tu robots.txt y localiza las líneas de Google-Extended, GPTBot, ClaudeBot y cualquier User-agent: * con Disallow: /.
  2. Busca noarchive y nocache en las metaetiquetas robots de tus páginas y en la cabecera X-Robots-Tag del servidor.
  3. Comprueba que el CDN o el firewall no rechazan a los rastreadores de IA como si fueran tráfico malicioso.
  4. Anota por escrito qué quieres en entrenamiento y qué en citación, proveedor por proveedor, con la fecha de la decisión.
  5. Vuelve a revisarlo en febrero de 2027, cuando Bing empiece a aplicar sus preferencias y Google concrete cómo lee el token.

En auditorías hemos encontrado webs que cerraban el paso a estos rastreadores sin saberlo, casi siempre por una regla del CDN. Por eso lo miramos en cualquier revisión de SEO técnico. El analizador de webs te dice en un par de minutos qué rastreadores de IA tiene cerrados la tuya.

Si tu objetivo es que la IA te cite, recomendamos no bloquear el entrenamiento en Google ni copiar la línea nueva hasta que Google publique cómo la aplica. Quien tenga NoArchive o NoCache debería decidir antes del 1 de marzo de 2027. El bloqueo es la parte fácil de equivocar. Lo difícil es que te elijan como fuente, y de eso se ocupa el SEO para IA, que empieza por revisar qué tienes abierto y qué no.

Preguntas frecuentes

¿Si bloqueo Google-Extended dejo de aparecer en Google o en AI Overviews?

Según la documentación de Google consultada el 2 de noviembre de 2026, Google-Extended no afecta a la inclusión en la Búsqueda ni es una señal de ranking. Lo que sí pierdes es el uso de tu web como fuente en Gemini Apps y en el grounding de Vertex AI.

¿Basta con User-agent: * y Disallow: / para que no entrenen con mi web?

Según el borrador de Kevin Kelley, ese grupo no expresa ninguna preferencia de entrenamiento: hay que nombrar el token. Encima, un Disallow general cierra la web a cualquier rastreador que lo respete, incluidos Googlebot y Bingbot, y en la práctica te saca de la búsqueda.

¿Bloquear ahora borra lo que ya se usó para entrenar?

Mejor no contar con ello. Una preferencia en robots.txt se lee en las visitas futuras del rastreador. Ni Google ni Bing dicen en sus anuncios del 30 de octubre de 2026 que vayan a retirar contenido de modelos ya entrenados.

¿Robots.txt obliga a los rastreadores a cumplir?

No. Es una petición, y el borrador de la IETF no incluye ningún mecanismo para hacerla cumplir. Google y Bing han anunciado que leerán estas preferencias, pero un bot puede ignorarlas. En ese caso, la vía es bloquearlo en el servidor, el CDN o el firewall.

¿Puedo dejar que entrenen solo con una parte de la web?

Sí, según el ejemplo del propio borrador. Basta un Disallow general para el token y un Allow para la carpeta que quieras ceder, como la sala de prensa. Tendrá efecto cuando cada proveedor soporte el token, algo que Google sitúa en 2027.

JB
Juan Berges

Juan Berges es CEO de The Baller Company y escribe sobre publicidad digital, SEO, buscadores de IA y las novedades de Google, Meta, LinkedIn y TikTok.

Visibilidad en IA

¿Qué tiene cerrado tu robots.txt?

Revisamos qué rastreadores de IA pueden leer tu web, qué decide cada línea y qué conviene cambiar para que los asistentes te citen.