Ga naar inhoud

robots.txt generator

Gratis online robots.txt generator. Stel toestaan/blokkeren-regels in voor zoekmachinecrawlers en sitemap-URL. Essentieel voor SEO. Verwerkt in browser.

Robots.txt-generator is een gratis online tool waarmee je eenvoudig robots.txt-bestanden maakt om de toegang van zoekmachine-crawlers te regelen. Stel Allow/Disallow-regels, sitemap-URL's en crawlvertragingen in. Verwerking in de browser zonder upload naar een server - volledig gratis voor het beheren van de crawlbaarheid van je site.

Presets
User-Agent
Crawlvertraging
Sitemap-URL
Resultaat
User-agent: *
Allow: /
lock Bestanden worden niet naar een server verzonden

Hoe gebruik je robots.txt generator?

  1. Selecteer de user agent (crawler).
  2. Stel de Allow- en Disallow-padregels in.
  3. Voeg je sitemap-URL toe en kopieer de gegenereerde robots.txt.

Veelgestelde vragen over robots.txt generator

Wat is robots.txt?

robots.txt is een tekstbestand in de root van een website dat zoekmachine-crawlers vertelt welke pagina's ze wel of niet moeten crawlen.

Kan robots.txt pagina's volledig uit de zoekresultaten verbergen?

Nee. robots.txt regelt alleen het crawlen - pagina's kunnen nog in de zoekresultaten verschijnen als er vanaf andere sites naar wordt gelinkt. Gebruik een noindex-metatag om ze volledig te verwijderen.