🤖 robots.txt / sitemap.xml 生成器
robots.txt 告诉爬虫哪些能抓、哪些别抓;sitemap.xml
告诉搜索引擎你有哪些页面值得索引。在这里交互式生成两者,并理解每条规则的含义。
robots.txt & sitemap.xml 生成器
交互式配置抓取规则与站点地图,实时预览并一键复制 / 下载。全程在浏览器本地完成,无网络请求。
快捷预设:
规则组 #1
Allow 路径
暂无
Disallow 路径
生成结果 robots.txt
User-agent: *
Disallow: /admin/
Sitemap: https://example.com/sitemap.xml放在哪里
robots.txt 必须放在站点根目录(如 https://example.com/robots.txt)。sitemap.xml 同样建议放根目录,并在 robots.txt 里用
Sitemap: 指明其地址,方便爬虫发现。