Página inicial Explorar Ajuda
Registrar Entrar
admin
/
crawler
1
0
Fork 0
Arquivos Issues 0 Pull Requests 0 Wiki
Tree: 25110aaa43
Branches Tags
crawler
/
robots.txt

robots.txt 23 B
Histórico Raw

12 
  1. User-agent: *
    2. 

  2. Disallow:
    3.