robots.txt 中的顺序重要吗?

Sid*_*Sid 4 robots.txt

我的 robots.txt 如下:

User-agent: *
Disallow: /user/*
Disallow: /invitations/*
Disallow: /api/*

#Adsense crawler
User-agent: Mediapartners-Google
Disallow:
Run Code Online (Sandbox Code Playgroud)

“Mediapartners-Google”抓取工具真的可以扫描所有页面吗?或者我的 robots.txt 的第一行将User-agent: *阻止所有抓取工具(包括“Mediapartners-Google”)访问上面提到的根,即使文件末尾有以下几行:

User-agent: Mediapartners-Google
Disallow:
Run Code Online (Sandbox Code Playgroud)

换句话说 - robots.txt 中的规则顺序重要吗 - 就像我的情况一样?

Sid*_*Sid 6

看来我已经找到答案了。答案是 - 顺序并不重要,因为:

在具有多个用户代理指令的 robots.txt 文件中,每个禁止或允许规则仅适用于该特定换行符分隔集中指定的用户代理。如果文件包含适用于多个用户代理的规则,则爬网程序将仅关注(并遵循其中的指令)最具体的一组指令。

来源: https: //moz.com/learn/seo/robotstxt