# 所有爬虫 User-agent: * # 抓取延迟5秒(降低爬虫速度,释放带宽) Crawl-delay: 5 # 允许抓取所有路径(你的网站没有需要禁止的) Allow: / # 禁止抓取大文件(减少带宽消耗) Disallow: /*.zip$ Disallow: /*.rar$ Disallow: /*.tar.gz$ Disallow: /_nuxt/ # Nuxt构建文件(爬虫不需要) # 禁止抓取 /about及其所有子页面 Disallow: /about/ Disallow: /about$