Gratis online robots.txt generator. Stel toestaan/blokkeren-regels in voor zoekmachinecrawlers en sitemap-URL. Essentieel voor SEO. Verwerkt in browser.
Robots.txt-generator is een gratis online tool waarmee je eenvoudig robots.txt-bestanden maakt om de toegang van zoekmachine-crawlers te regelen. Stel Allow/Disallow-regels, sitemap-URL's en crawlvertragingen in. Verwerking in de browser zonder upload naar een server - volledig gratis voor het beheren van de crawlbaarheid van je site.
Presets
User-Agent
Crawlvertraging
Sitemap-URL
Resultaat
User-agent: *
Allow: /
lock Bestanden worden niet naar een server verzonden
Hoe gebruik je robots.txt generator?
Selecteer de user agent (crawler).
Stel de Allow- en Disallow-padregels in.
Voeg je sitemap-URL toe en kopieer de gegenereerde robots.txt.
Veelgestelde vragen over robots.txt generator
Wat is robots.txt?
robots.txt is een tekstbestand in de root van een website dat zoekmachine-crawlers vertelt welke pagina's ze wel of niet moeten crawlen.
Kan robots.txt pagina's volledig uit de zoekresultaten verbergen?
Nee. robots.txt regelt alleen het crawlen - pagina's kunnen nog in de zoekresultaten verschijnen als er vanaf andere sites naar wordt gelinkt. Gebruik een noindex-metatag om ze volledig te verwijderen.