¿Pueden los agentes de usuario aparecer juntos, seguidos de sus reglas comunes como en un robots.txt ?
User-agent: Googlebot
User-agent: ia_archiver #Alexa
User-agent: BingPreview #Microsoft
User-agent: bingbot #Microsoft
User-agent: MSNBot #Microsoft
User-agent: Slurp #Yahoo
User-agent: Ask Jeeves/Teoma #Ask
Disallow: /adm30_buds/
web-crawlers
robots.txt
user-agent
davidcondrey
fuente
fuente
user-agent: *seguido del rechazo? ¿La lista de agentes de usuario "permitidos" es más larga que la lista que desea rechazar?Respuestas:
Si. Suponiendo que los nombres de sus agentes estén especificados correctamente, parece que esto debería funcionar. Aquí hay un recurso si desea leer más. https://developers.google.com/webmasters/control-crawl-index/docs/robots_txt
fuente