Robots.txt Generator

Tags

Robots.txt Generator


Default - All Robots are:  
    
Crawl-Delay:
    
Sitemap: (leave blank if you don't have) 
     
Search Robots: Google
  Google Image
  Google Mobile
  MSN Search
  Yahoo
  Yahoo MM
  Yahoo Blogs
  Ask/Teoma
  GigaBlast
  DMOZ Checker
  Nutch
  Alexa/Wayback
  Baidu
  Naver
  MSN PicSearch
   
Restricted Directories: The path is relative to root and must contain a trailing slash "/"
 
 
 
 
 
 
   



Now, Create 'robots.txt' file at your root directory. Copy above text and paste into the text file.


About Robots.txt Generator

Generator del archivo Robot.txt. Este archivo es el que le dice a los buscadores que tiene que ver o indexar. El robot de Google, o GoogleBot, busca en Internet constantemente nuevo contenido. Rastrea todo tipo de webs para poder indexarlos e incluirlas en su índice.
Para que tu web pueda ser encontrada a través de Google y que empieces a tener tráfico orgánico, debes asegurarte de que tu contenido está indexado en Google. Así pues, es necesario saber si tu web está indexada y cuántas URLs.