# # robots.txt para tu blog en WordPress. # # Usar bajo propia responsabilidad, que nos conocemos }:) # http://www.sigt.net/desarrollo-web/robotstxt-para-wordpress.html # # Para permitir que el robots de AdSense pueda crawlear el sitio User-agent: Mediapartners-Google Disallow: /wp-content/plugins/ Disallow: /wp-content/themes/ Disallow: /wp-includes/ Disallow: /wp-admin/ Disallow: /wp- # Primero el contenido adjunto. User-Agent: * Allow: /wp-content/uploads/ Disallow: /iframes/ Disallow: /wp-content/plugins/ Disallow: /wp-includes/ Disallow: /wp-admin/ Allow: /wp-content/themes/ #Disallow Allow: /wp-content/plugins/contact-form-7/ Allow: /wp-content/plugins/bwp-minify/min/ Allow: /wp-content/plugins/wp-polls/images/ Allow: /wp-content/plugins/comment-rating/images/ Allow: /wp-content/plugins/wp-postratings/images/ Allow: /wp-content/plugins/comments-evolved/assets/ Allow: /wp-content/plugins/asynchronous-javascript/ Allow: /wp-includes/images/ # Tambien podemos desindexar todo lo que empiece # por wp-. Es lo mismo que los Disallow de arriba pero # incluye cosas como wp-rss.php Disallow: /wp- # # Busquedas tampoco. # Disallow: /?s= Disallow: /search # Problemas del crawler Disallow: /1014335/ Disallow: /plugins/ Disallow: /enlaces/ Disallow: /images/ Disallow: /rating_1_over Disallow: /rating_2_over # # Permitimos el feed general para Google Blogsearch. # # Impedimos que permalink/feed/ sea indexado ya que el # feed con los comentarios suele posicionarse en lugar de # la entrada y desorienta a los usuarios. # # Lo mismo con URLs terminadas en /trackback/ que solo # sirven como Trackback URI (y son contenido duplicado). # Allow: /feed/$ Allow: /comments/feed$ Allow: /comments/feed/$ Disallow: /feed Disallow: /comments/feed Disallow: /*/feed/$ Disallow: /*/feed/rss/$ Disallow: /*/trackback/$ Disallow: /*/*/feed/$ Disallow: /*/*/feed/rss/$ Disallow: /*/*/trackback/$ Disallow: /*/*/*/feed/$ Disallow: /*/*/*/feed/rss/$ Disallow: /*/*/*/trackback/$