mic*_*ael 5 robots.txt google-crawlers google-index
我的 robots.txt 文件的内容本身实际上已编入索引并显示在 Google 搜索结果中。例如,只有谷歌而不是雅虎。 我真的认为谷歌应该明白不要索引我的机器人文件的内容,因为它只是告诉谷歌什么不要索引!我在这里错过了什么吗?
sas*_*cha 2
这很正常。我的也于几个月前被索引。我认为这是爬虫的问题。编辑:顺便说一句,您可以删除网站管理员工具网站上的链接。
归档时间:
14 年 前
查看次数:
3006 次
最近记录:
13 年,12 月 前