[更新2013]
我找不到具有针对WordPress的robots.txt文件格式的权威页面.我保证在我的网站上保留一个,但我想在堆栈溢出这里.
如果您知道自己在做什么,请在此处查看当前草稿:
其他人对此发表评论:
User-agent: *
Disallow: /cgi-bin/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins/
Disallow: /wp-content/cache/
Disallow: /wp-content/themes/
Disallow: /trackback/
Disallow: /feed/
Disallow: /comments/
Sitemap: http://domain.com/sitemap.xml
Crawl-delay: 4
Run Code Online (Sandbox Code Playgroud)