linkdexbot

linkdexbot蜘蛛/爬虫属于营销类型,由Analytics SEO Ltd t/a Authoritas开发运行。您可以继续阅读下方信息,以深入了解linkdexbot基本信息,用户代理和访问控制等。

基本信息

linkdexbot的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
linkdexbot
类型
营销
开发商
Analytics SEO Ltd t/a Authoritas
当前状态
活动

用户代理

关于linkdexbot蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
linkdex.com/v2.0
用户代理字符串
linkdex.com/v2.0
首次出现
2011-04-04 20:25:26
最后出现
2019-11-19 17:19:49
遵循robots.txt
未知
来源
IP地址(173) 服务器名称 所属国家
51.52.86.158 ? GB
91.193.166.194 skuns.zoral.com.ua UA
107.22.137.149 ec2-107-22-137-149.compute-1.amazonaws.com US
23.23.27.206 ec2-23-23-27-206.compute-1.amazonaws.com US
91.84.223.170 91.84.223.170 UK
用户代理字符串
Mozilla/5.0 (compatible; linkdexbot/2.2; +http://www.linkdex.com/bots/)
首次出现
2014-11-08 07:50:00
最后出现
2018-12-18 19:56:34
遵循robots.txt
未知
来源
IP地址(10) 服务器名称 所属国家
54.224.62.135 ec2-54-224-62-135.compute-1.amazonaws.com US
35.153.134.140 ec2-35-153-134-140.compute-1.amazonaws.com US
18.234.245.196 ec2-18-234-245-196.compute-1.amazonaws.com US
54.157.27.155 ec2-54-157-27-155.compute-1.amazonaws.com US
54.152.244.139 ec2-54-152-244-139.compute-1.amazonaws.com US
用户代理字符串
linkdex.com/2.0 Client Check v2.0
首次出现
2018-05-18 17:06:08
最后出现
2018-05-25 00:10:16
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
52.90.230.67 ec2-52-90-230-67.compute-1.amazonaws.com US
用户代理字符串
Mozilla/5.0 (compatible; linkdexbot/2.0; +http://www.linkdex.com/about/bots/)
首次出现
2013-07-13 14:42:40
最后出现
2014-04-06 13:35:53
遵循robots.txt
未知
来源
IP地址(110) 服务器名称 所属国家
185.184.157.95 ? US
185.184.157.81 ? US
185.184.157.102 ? US
185.184.157.90 ? US
185.184.157.94 ? US
用户代理字符串
Mozilla/5.0 (compatible; linkdexbot/2.0; +http://www.linkdex.com/about/bots/)
首次出现
2013-07-13 14:42:40
最后出现
2014-04-06 13:35:53
遵循robots.txt
未知
来源
IP地址(10) 服务器名称 所属国家
54.205.69.117 ec2-54-205-69-117.compute-1.amazonaws.com US
174.129.69.144 ec2-174-129-69-144.compute-1.amazonaws.com US
54.197.15.135 ec2-54-197-15-135.compute-1.amazonaws.com US
50.19.2.248 ec2-50-19-2-248.compute-1.amazonaws.com US
23.20.52.49 ec2-23-20-52-49.compute-1.amazonaws.com US
用户代理字符串
Mozilla/5.0 (compatible; linkdexbot/2.1; +http://www.linkdex.com/about/bots/)
首次出现
2013-10-04 13:25:18
最后出现
2013-09-30 15:21:18
遵循robots.txt
未知
来源
IP地址(4) 服务器名称 所属国家
52.203.8.219 ec2-52-203-8-219.compute-1.amazonaws.com US
50.19.96.213 ec2-50-19-96-213.compute-1.amazonaws.com US
23.20.235.176 ec2-23-20-235-176.compute-1.amazonaws.com US
107.20.14.241 ec2-107-20-14-241.compute-1.amazonaws.com US
用户代理字符串
Mozilla/5.0 (compatible; linkdexbot/2.1; +http://www.linkdex.com/about/bots/)
首次出现
2013-10-04 13:25:18
最后出现
2013-09-30 15:21:18
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
23.20.235.176 ec2-23-20-235-176.compute-1.amazonaws.com US
用户代理字符串
linkdexbot/Nutch-1.0-dev (http://www.linkdex.com/; crawl at linkdex dot com)
首次出现
2009-05-11 05:50:00
最后出现
2009-04-14 13:02:28
遵循robots.txt
未知
来源
IP地址(3) 服务器名称 所属国家
174.129.111.149 ec2-174-129-111-149.compute-1.amazonaws.com US
174.129.90.83 ec2-174-129-90-83.compute-1.amazonaws.com US
75.101.196.118 ec2-75-101-196-118.compute-1.amazonaws.com US

访问控制

了解如何控制linkdexbot访问权限,避免linkdexbot抓取行为不当。

是否拦截linkdexbot?

一般不需要拦截,尤其是如果你自己也受益于搜索引擎优化服务。不过,如果你担心服务器资源占用等问题,且您都不使用这些工具,当然也可以选择拦截它们。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 linkdexbot 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: linkdexbot
Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

更多信息

什么是Linkdex?

Linkdex是一个企业级平台,将团队管理软件与搜索引擎优化工具结合起来。有时,Linkdex会抓取网站以了解反向链接情况,或为Linkdex的用户收集信息,以便他们能够改进其网站和SEO策略。

为什么抓取我的网站?

与某些爬虫不同,Linkdex的机器人不会随意在互联网上抓取信息。Linkdex只抓取Linkdex的用户认为相关的网页。

如果您的网站已被抓取,Linkdex的机器人将出现在您的分析/服务器日志中,并提供以下详细信息。

  • linkdexbot v2.0检查网页之间的链接。这有助于我们建立一个新鲜、准确的网站之间的链接情况。
    Mozilla/5.0 (compatible; linkdexbot/2.0; +https://www.linkdex.com/en-us/about/bots/)
  • linkdexbot v2.1是我们更通用的网站爬虫,帮助营销人员检测网站页面的技术问题,有两个版本:标准网络搜索和移动搜索配置。
    Mozilla/5.0 (compatible; linkdexbot/2.1; +https://www.linkdex.com/en-us/about/bots/)
    Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_1 like Mac OS X; en-us) AppleWebKit/532.9 (KHTML, like Gecko) Version/4.0.5 Mobile/8B117 Safari/6531.22.7 (compatible; linkdexbot-Mobile/2.1; +https://www.linkdex.com/en-us/about/bots/)

     

  • linkdexbot v2.2检查被搜索引擎排名的网页内容。这有助于我们确定谁是有影响力的网站、品牌和撰写不同主题的作者。
    Mozilla/5.0 (compatible; linkdexbot/2.2; +https://www.linkdex.com/en-us/about/bots/)
  • 早期版本的机器人名称为linkdex.com/v2.0和linkdex.com/v2.1

负责任的抓取

Linkdex将尊重您在robots.txt文件中列出的抓取频率限制。Linkdex的抓取速度也相对较慢,通常在各网页之间最多等待5秒钟。这可确保您的网站性能不受任何影响。

联系信息

如果您想讨论Linkdex的网站爬虫,请给Linkdex发电子邮件:support@linkdex.com,并在主题栏中注明网站爬虫。

常见蜘蛛/爬虫

Common Spiders
RidderBot
RidderBot蜘蛛/爬虫属于营销类型,由Ridder开发运行。您可以继续阅读下方信息,以深入了解RidderBot基本信息,用户代理和访问控制等。
Upsales bot
Upsales bot蜘蛛/爬虫属于营销类型,由Upsales Nordic AB开发运行。您可以继续阅读下方信息,以深入了解Upsales bot基本信息,用户代理和访问控制等。
HealRWorld
HealRWorld蜘蛛/爬虫属于营销类型,由HealRWorld LLC.开发运行。您可以继续阅读下方信息,以深入了解HealRWorld基本信息,用户代理和访问控制等。
Scope3
Scope3蜘蛛/爬虫属于营销类型,由Scope3, PBC.开发运行。您可以继续阅读下方信息,以深入了解Scope3基本信息,用户代理和访问控制等。
MercuryLeads/1.0
MercuryLeads/1.0蜘蛛/爬虫属于营销类型,由Mercury Leads开发运行。您可以继续阅读下方信息,以深入了解MercuryLeads/1.0基本信息,用户代理和访问控制等。
mediaboardbot
mediaboardbot蜘蛛/爬虫属于营销类型,由Mediaboard s.r.o.开发运行。您可以继续阅读下方信息,以深入了解mediaboardbot基本信息,用户代理和访问控制等。
HaloScan bot
HaloScan bot蜘蛛/爬虫属于营销类型,由ARCHI301开发运行。您可以继续阅读下方信息,以深入了解HaloScan bot基本信息,用户代理和访问控制等。
Matchory Bot
Matchory Bot蜘蛛/爬虫属于营销类型,由Matchory GmbH开发运行。您可以继续阅读下方信息,以深入了解Matchory Bot基本信息,用户代理和访问控制等。

相关文章

Related Articles