Explicamos el porqué del archivo robots.txt y como se construye dicho archivo.

Para comenzar tenemos que comentar lo que son los robots y qué función cumplen dentro de la red de redes.
Un robot es un programa más o menos complicado que se dedica a rastrear nuestras páginas webs y guardar su contenido en una base de datos y seguir los enlaces que tengamos a otras páginas web. Esto nos beneficia pero también nos puede perjudicar, ya que a veces no nos conviene indexar ciertas páginas de nuestras webs.

Actualmente los robots actúan de tal forma que lo primero que hacen es buscar en la raíz de nuestra página si tenemos un archivo llamado robots.txt, si lo encuentra lo lee y sigue las directrices que en él se encuentran, si no lo encuentra empieza a rastrear toda la web.

Por este tema es importante crear bien este archivo y pensar que páginas queremos que sean rastreadas y cuáles no, ya que las que no sean rastreadas no serán indexadas en los navegadores.

Este archivo es muy fácil de construir tan solo tienes que saber ciertas pautas y podrás hacerlo sin problema.

El archivo robots.txt puede construirse para que se aplique solo a los robots de determinados buscadores.

Pasamos a escribir un ejemplo para ir explicando las posibilidades:

User-agent: * # aplicable a todos los robots
Disallow: / # impide la indexacion de todas las paginas

En este ejemplo los robots no podrían indexar ninguna pagina del dominio.
User-agent lo que nos dice es a que robots se les aplica las características que le siguen debajo. Si usamos el * estamos diciendo que esas reglas son aplicables para todos los robots. Pero también podemos hacerlo para determinados robots, como ves en el siguiente ejemplo:

User-agent: lycra
User-agent: BadBot
Disallow: /

En este ejemplo los robots lucra y BadBot tendría prohibida la indexación de cualquier pagina del dominio.

El disallow nos dice los archivos o carpetas que queremos que no sean indexadas. De esta forma podríamos hacer un archivo como este:

User-agent: *
Disallow: /tmp/prueba.html
Disallow: /logs

Este ejemplo lo que haría sería prohibir la indexación de la carpeta logs y el archive prueba.html a todos los robots.

Con esto ya podríamos realizar un archivo robots.txt perfectamente válido, pero también existen términos para determinar en qué horas queremos que esos robots rastreen nuestras páginas. La forma de construirlo es la siguiente:

Visit-time: 0300-0400 #esta opción obligaría a rastrear las paginas solo de 3 am a 4 am

Recuerda que las horas siempre se colocan en Greenwitch

Por otro lado podemos decirle que indexe una página o varias cada equis tiempo, para ello se utiliza la siguiente sintaxis:

Request-rate: 1/30

Siendo el 1 el número de documentos a rastrear y el 30 el tiempo que transcurre entre un rastreo y el siguiente.

Es importante saber que no puedes dejar líneas en blanco ya que no funcionaria, el robots dejaría de leer en el momento que encuentra la línea en blanco.

Otro aspecto que no he comentado antes pero que habréis notado es que los comentarios ser realizan utilizando la #.

Un ejemplo completo seria el siguiente:

User-agent: *
Disallow: /tmp/prueba.html
Disallow: /logs
Visit-time: 0300-0400

Esto permitirá a todos los robots rastrear todas las paginas menos prueba.html y la carpeta logs, además solo podrían indexar de 3 de la mañana a 4.

Alineación Vertical en CSS Permite cualquier tipo de alineación vertical, pero no está pensado para ser el equivalente a la propiedad "valign" de HTML en celdas. Puede tomar l...
How to delete messages Chat New Outlook?, step by step guide Start a new cycle of mini-guides on this occasion I will explain how to delete the history of the new chat messages from Outlook, which has sometimes ...
Google Mejora el de Cifrado HTTPS previniendo ataques.. Google ha modificado el método de encriptación utilizado por los servicios con HTTPS como Gmail, Docs o Google+, con el fin de impedir que el tráfico ...
Que es un Servidor Raíz? Un servidor raíz (root server en inglés) es el servidor de nombre de dominio (DNS) que sabe dónde están los servidores de nombres autoritarios para ca...
Google Website Optimizer la herramienta para el análisis y pruebas de sitios web Google Website Optimizer es una de las herramietnas más precisas para la optimización. Si los sitios sufren de bajas tasas de conversión, entonces es ...
La computadora Sinclair ZX81 La computadora Sinclair ZX81 era pequeña, negra y contaba con sólo 1 KB de memoria, pero hace 30 años ayudó a crear una generación de grandes programa...
Contacto --------------------
Registro de Dominios y Alojamiento Web Registramos su nombre de dominio y alojamos su web en nuestros servidores, tenemos un servicio personalizado. Caracteristicas del plan y que ...
Microsoft dice que Hotmail estuvo Caido por Culpa de un Recalentamiento en un Datacenter Si eres usuario de Hotmail o Outlook seguramente te sentiste muy frustrado con la caída del servicio ocurrida el martes, cuando Microsoft dejó sin pod...