Công cụ tạo robots.txt trực tuyến miễn phí. Thiết lập quy tắc crawler và URL sitemap. Thiết yếu cho SEO. Xử lý trên trình duyệt.
Trình tạo robots.txt là công cụ trực tuyến miễn phí giúp tạo file robots.txt để kiểm soát truy cập của trình thu thập dữ liệu. Thiết lập quy tắc Allow/Disallow, URL sitemap và độ trễ thu thập. Xử lý trong trình duyệt, hoàn toàn miễn phí.
Mẫu có sẵn
User-Agent
Độ trễ thu thập
URL Sitemap
Kết quả
User-agent: *
Allow: /
lock Tệp không được gửi đến máy chủ
Cách sử dụng Tạo robots.txt?
Chọn user agent (trình thu thập).
Thiết lập quy tắc đường dẫn Allow và Disallow.
Thêm URL sitemap và sao chép robots.txt đã tạo.
Câu hỏi thường gặp về Tạo robots.txt
robots.txt là gì?
robots.txt là tệp văn bản đặt ở gốc website, cho trình thu thập dữ liệu biết trang nào nên thu thập hoặc bỏ qua.
robots.txt có thể ẩn hoàn toàn trang khỏi kết quả tìm kiếm không?
Không. robots.txt chỉ kiểm soát việc thu thập — trang vẫn có thể xuất hiện nếu được liên kết từ trang khác. Dùng thẻ meta noindex để loại bỏ hoàn toàn.