如何做搜索引擎蜘蛛日志分析
搜索引擎蜘蛛日志文件是一种非常强大但未被站长充分利用的文件,分析它可以获取有关每个搜索引擎如何爬取网站内容的相关信息点,及查看搜索引擎蜘蛛在一段时间内的行为。
| IP地址(173) | 服务器名称 | 所属国家 |
|---|---|---|
| 51.52.86.158 | ? | GB |
| 91.193.166.194 | skuns.zoral.com.ua | UA |
| 107.22.137.149 | ec2-107-22-137-149.compute-1.amazonaws.com | US |
| 23.23.27.206 | ec2-23-23-27-206.compute-1.amazonaws.com | US |
| 91.84.223.170 | 91.84.223.170 | UK |
| IP地址(10) | 服务器名称 | 所属国家 |
|---|---|---|
| 54.224.62.135 | ec2-54-224-62-135.compute-1.amazonaws.com | US |
| 35.153.134.140 | ec2-35-153-134-140.compute-1.amazonaws.com | US |
| 18.234.245.196 | ec2-18-234-245-196.compute-1.amazonaws.com | US |
| 54.157.27.155 | ec2-54-157-27-155.compute-1.amazonaws.com | US |
| 54.152.244.139 | ec2-54-152-244-139.compute-1.amazonaws.com | US |
| IP地址(1) | 服务器名称 | 所属国家 |
|---|---|---|
| 52.90.230.67 | ec2-52-90-230-67.compute-1.amazonaws.com | US |
| IP地址(110) | 服务器名称 | 所属国家 |
|---|---|---|
| 185.184.157.95 | ? | US |
| 185.184.157.81 | ? | US |
| 185.184.157.102 | ? | US |
| 185.184.157.90 | ? | US |
| 185.184.157.94 | ? | US |
| IP地址(10) | 服务器名称 | 所属国家 |
|---|---|---|
| 54.205.69.117 | ec2-54-205-69-117.compute-1.amazonaws.com | US |
| 174.129.69.144 | ec2-174-129-69-144.compute-1.amazonaws.com | US |
| 54.197.15.135 | ec2-54-197-15-135.compute-1.amazonaws.com | US |
| 50.19.2.248 | ec2-50-19-2-248.compute-1.amazonaws.com | US |
| 23.20.52.49 | ec2-23-20-52-49.compute-1.amazonaws.com | US |
| IP地址(4) | 服务器名称 | 所属国家 |
|---|---|---|
| 52.203.8.219 | ec2-52-203-8-219.compute-1.amazonaws.com | US |
| 50.19.96.213 | ec2-50-19-96-213.compute-1.amazonaws.com | US |
| 23.20.235.176 | ec2-23-20-235-176.compute-1.amazonaws.com | US |
| 107.20.14.241 | ec2-107-20-14-241.compute-1.amazonaws.com | US |
| IP地址(1) | 服务器名称 | 所属国家 |
|---|---|---|
| 23.20.235.176 | ec2-23-20-235-176.compute-1.amazonaws.com | US |
| IP地址(3) | 服务器名称 | 所属国家 |
|---|---|---|
| 174.129.111.149 | ec2-174-129-111-149.compute-1.amazonaws.com | US |
| 174.129.90.83 | ec2-174-129-90-83.compute-1.amazonaws.com | US |
| 75.101.196.118 | ec2-75-101-196-118.compute-1.amazonaws.com | US |
一般不需要拦截,尤其是如果你自己也受益于搜索引擎优化服务。不过,如果你担心服务器资源占用等问题,且您都不使用这些工具,当然也可以选择拦截它们。
您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 linkdexbot 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。
# robots.txt # 下列代码一般情况可以拦截该代理 User-agent: linkdexbot Disallow: /
您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。
Linkdex是一个企业级平台,将团队管理软件与搜索引擎优化工具结合起来。有时,Linkdex会抓取网站以了解反向链接情况,或为Linkdex的用户收集信息,以便他们能够改进其网站和SEO策略。
与某些爬虫不同,Linkdex的机器人不会随意在互联网上抓取信息。Linkdex只抓取Linkdex的用户认为相关的网页。
如果您的网站已被抓取,Linkdex的机器人将出现在您的分析/服务器日志中,并提供以下详细信息。
Mozilla/5.0 (compatible; linkdexbot/2.0; +https://www.linkdex.com/en-us/about/bots/)
Mozilla/5.0 (compatible; linkdexbot/2.1; +https://www.linkdex.com/en-us/about/bots/) Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_1 like Mac OS X; en-us) AppleWebKit/532.9 (KHTML, like Gecko) Version/4.0.5 Mobile/8B117 Safari/6531.22.7 (compatible; linkdexbot-Mobile/2.1; +https://www.linkdex.com/en-us/about/bots/)
Mozilla/5.0 (compatible; linkdexbot/2.2; +https://www.linkdex.com/en-us/about/bots/)
Linkdex将尊重您在robots.txt文件中列出的抓取频率限制。Linkdex的抓取速度也相对较慢,通常在各网页之间最多等待5秒钟。这可确保您的网站性能不受任何影响。
如果您想讨论Linkdex的网站爬虫,请给Linkdex发电子邮件:support@linkdex.com,并在主题栏中注明网站爬虫。