搜索引擎机器人如何工作?

Din*_*ino 0 indexing search bots web-crawler

机器人(搜索引擎的索引)如何编程以及它们如何运作?

Mar*_*ett 5

10转到网页并获取HTML.
20索引页面中的所有内容
30查找该页面中的所有链接
40对于页面中的每个链接转到10