Ne *_* Kr 0 seo robots.txt web-crawler
我正在制作我的 robots.txt 文件。但我对如何禁用 Googlebot-Image 有点不安全。我想允许谷歌机器人抓取我的网站,除了我在下面做的禁止。这是我做的:
User-agent: Googlebot
Disallow:
Disallow: /courses/
Disallow: /portfolio/portfolio-template.php/
User-agent: Googlebot-Image
Disallow:
/images/graphics/erhvervserfaring/
/images/graphics/uddannelse/
sitemap: http://www.example.com/sitemap.xml
Run Code Online (Sandbox Code Playgroud)
应该将 User-agent:Googlebot
和User-agent: Googlebot-Image
写在一起,所以是这个?:
用户代理:Googlebot-Image 用户代理:Googlebot 禁止:
Disallow: /courses/
/portfolio/portfolio-template.php/
/images/graphics/erhvervserfaring/
/images/graphics/uddannelse/
Run Code Online (Sandbox Code Playgroud)
小智 5
不,您应该将它们与 Disallow 信息分开编写。此外,您也应该复制 Disallow 信息。
User-agent: Googlebot-Image
Disallow: /courses/
Disallow: /portfolio/portfolio-template.php/
Disallow: /images/graphics/erhvervserfaring/
Disallow: /images/graphics/uddannelse/
User-agent: Googlebot
Disallow: /courses/
Disallow: /portfolio/portfolio-template.php/
Disallow: /images/graphics/erhvervserfaring/
Disallow: /images/graphics/uddannelse/
Run Code Online (Sandbox Code Playgroud)
作为参考,你可以在他们的 robots.txt 中看到Facebook和苹果做了什么。