深度解析： Understanding the Mechanics of Google's Crawler Distribution 。 Spider Pool 是 搜索引擎 为了 Efficiently Process Gigantic Volumes of Websites 而 Created System。它将 网页 分配给 不同的爬虫 ，以 最大化抓取速度 。 Spider Pool Applications| Algorithm Updates 、网站优化 、搜索结果排名 等 Key