CliqzBot

CliqzBot蜘蛛/爬虫属于搜索引擎类型,由Cliqz GmbH开发运行。您可以继续阅读下方信息,以深入了解CliqzBot基本信息,用户代理和访问控制等。

基本信息

CliqzBot的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
CliqzBot
类型
搜索引擎
开发商
Cliqz GmbH
当前状态
无效

用户代理

关于CliqzBot蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
Cliqzbot/3.0
用户代理字符串
Mozilla/5.0 (compatible; Cliqzbot/3.0; +http://cliqz.com/company/cliqzbot)
首次出现
2019-09-26 04:58:22
最后出现
2020-07-19 17:46:39
遵循robots.txt
未知
来源
IP地址(797) 服务器名称 所属国家
94.130.151.221 ? DE
49.12.103.216 ? DE
94.130.57.70 ? DE
18.197.67.59 ec2-18-197-67-59.eu-central-1.compute.amazonaws.com DE
18.195.161.90 ec2-18-195-161-90.eu-central-1.compute.amazonaws.com DE
3.127.152.202 ec2-3-127-152-202.eu-central-1.compute.amazonaws.com DE
54.93.85.16 ec2-54-93-85-16.eu-central-1.compute.amazonaws.com DE
18.194.176.241 ec2-18-194-176-241.eu-central-1.compute.amazonaws.com DE
18.197.171.221 ec2-18-197-171-221.eu-central-1.compute.amazonaws.com DE
54.93.100.241 ec2-54-93-100-241.eu-central-1.compute.amazonaws.com DE
用户代理字符串
Mozilla/5.0 (compatible; Cliqzbot/2.0; http://cliqz.com/company/cliqzbot)
首次出现
2018-12-25 16:16:17
最后出现
2019-05-30 23:04:51
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
18.130.143.40 ec2-18-130-143-40.eu-west-2.compute.amazonaws.com GB
18.184.188.1 ec2-18-184-188-1.eu-central-1.compute.amazonaws.com DE
54.144.108.245 ec2-54-144-108-245.compute-1.amazonaws.com US
3.121.215.220 ec2-3-121-215-220.eu-central-1.compute.amazonaws.com DE
35.180.253.138 ec2-35-180-253-138.eu-west-3.compute.amazonaws.com FR
35.159.53.93 ec2-35-159-53-93.eu-central-1.compute.amazonaws.com DE
3.93.68.174 ec2-3-93-68-174.compute-1.amazonaws.com US
3.89.222.179 ec2-3-89-222-179.compute-1.amazonaws.com US
107.23.61.67 ec2-107-23-61-67.compute-1.amazonaws.com US
3.120.244.183 ec2-3-120-244-183.eu-central-1.compute.amazonaws.com DE
35.156.208.200 ec2-35-156-208-200.eu-central-1.compute.amazonaws.com DE
用户代理字符串
Mozilla/5.0 (compatible; Cliqzbot/2.0; http://cliqz.com/company/cliqzbot)
首次出现
2018-12-25 16:16:17
最后出现
2019-05-30 23:04:51
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
35.156.208.200 ec2-35-156-208-200.eu-central-1.compute.amazonaws.com DE
用户代理字符串
Mozilla/5.0 (compatible; Cliqzbot/1.0 +http://cliqz.com/company/cliqzbot)
首次出现
2015-07-07 09:25:00
最后出现
2017-02-22 12:20:15
遵循robots.txt
未知
来源
IP地址(3919) 服务器名称 所属国家
35.158.179.246 ec2-35-158-179-246.eu-central-1.compute.amazonaws.com DE
35.158.194.233 ec2-35-158-194-233.eu-central-1.compute.amazonaws.com DE
35.158.213.153 ec2-35-158-213-153.eu-central-1.compute.amazonaws.com DE
54.209.101.13 ec2-54-209-101-13.compute-1.amazonaws.com US
54.165.3.186 ec2-54-165-3-186.compute-1.amazonaws.com US
35.158.206.147 ec2-35-158-206-147.eu-central-1.compute.amazonaws.com DE
35.158.198.33 ec2-35-158-198-33.eu-central-1.compute.amazonaws.com DE
35.158.182.159 ec2-35-158-182-159.eu-central-1.compute.amazonaws.com DE
35.158.154.41 ec2-35-158-154-41.eu-central-1.compute.amazonaws.com DE
52.57.191.77 ec2-52-57-191-77.eu-central-1.compute.amazonaws.com DE
52.29.204.38 ec2-52-29-204-38.eu-central-1.compute.amazonaws.com DE
35.157.58.197 ec2-35-157-58-197.eu-central-1.compute.amazonaws.com US
35.157.166.193 ec2-35-157-166-193.eu-central-1.compute.amazonaws.com US
35.157.49.113 ec2-35-157-49-113.eu-central-1.compute.amazonaws.com DE
35.156.174.230 ec2-35-156-174-230.eu-central-1.compute.amazonaws.com US
35.157.178.43 ec2-35-157-178-43.eu-central-1.compute.amazonaws.com US
35.157.178.194 ec2-35-157-178-194.eu-central-1.compute.amazonaws.com US
35.157.6.195 ec2-35-157-6-195.eu-central-1.compute.amazonaws.com US
35.157.178.221 ec2-35-157-178-221.eu-central-1.compute.amazonaws.com DE
35.157.178.16 ec2-35-157-178-16.eu-central-1.compute.amazonaws.com DE
用户代理字符串
Mozilla/5.0 (compatible; Cliqzbot/1.0 +http://cliqz.com/company/cliqzbot)
首次出现
2015-07-07 09:25:00
最后出现
2017-02-22 12:20:15
遵循robots.txt
未知
来源
IP地址(3919) 服务器名称 所属国家
52.29.204.38 ec2-52-29-204-38.eu-central-1.compute.amazonaws.com DE
35.157.58.197 ec2-35-157-58-197.eu-central-1.compute.amazonaws.com US
35.157.166.193 ec2-35-157-166-193.eu-central-1.compute.amazonaws.com US
35.157.49.113 ec2-35-157-49-113.eu-central-1.compute.amazonaws.com DE
35.156.174.230 ec2-35-156-174-230.eu-central-1.compute.amazonaws.com US
35.157.178.43 ec2-35-157-178-43.eu-central-1.compute.amazonaws.com US
35.157.178.194 ec2-35-157-178-194.eu-central-1.compute.amazonaws.com US
35.157.6.195 ec2-35-157-6-195.eu-central-1.compute.amazonaws.com US
35.157.178.221 ec2-35-157-178-221.eu-central-1.compute.amazonaws.com DE
35.157.178.16 ec2-35-157-178-16.eu-central-1.compute.amazonaws.com DE
用户代理字符串
Cliqzbot/0.1 (+http://cliqz.com/company/cliqzbot)
首次出现
2013-11-11 13:50:00
最后出现
2014-08-05 05:45:25
遵循robots.txt
未知
来源
IP地址(41) 服务器名称 所属国家
85.214.34.142 h2216768.stratoserver.net DE
81.169.224.239 h2190702.stratoserver.net DE
85.214.35.52 h2216777.stratoserver.net DE
81.169.240.61 h2244465.stratoserver.net DE
85.214.34.172 h2216762.stratoserver.net DE
81.169.236.194 h2247565.stratoserver.net DE
85.214.36.9 h2216731.stratoserver.net DE
81.169.245.209 h2237920.stratoserver.net DE
85.214.34.220 h2216774.stratoserver.net DE
81.169.236.221 h2247568.stratoserver.net DE
用户代理字符串
Cliqzbot
首次出现
2014-01-24 15:27:22
最后出现
2014-02-13 14:28:58
遵循robots.txt
未知
来源
IP地址(44) 服务器名称 所属国家
54.198.216.1 ec2-54-198-216-1.compute-1.amazonaws.com US
54.242.169.166 ec2-54-242-169-166.compute-1.amazonaws.com US
54.224.144.19 ec2-54-224-144-19.compute-1.amazonaws.com US
54.196.114.96 ec2-54-196-114-96.compute-1.amazonaws.com US
54.204.230.93 ec2-54-204-230-93.compute-1.amazonaws.com US
23.20.92.1 ec2-23-20-92-1.compute-1.amazonaws.com US
54.80.132.70 ec2-54-80-132-70.compute-1.amazonaws.com US
50.17.63.21 ec2-50-17-63-21.compute-1.amazonaws.com US
54.227.210.107 ec2-54-227-210-107.compute-1.amazonaws.com US
54.205.24.129 ec2-54-205-24-129.compute-1.amazonaws.com US
107.22.155.173 ec2-107-22-155-173.compute-1.amazonaws.com US
54.226.14.237 ec2-54-226-14-237.compute-1.amazonaws.com US
54.196.41.191 ec2-54-196-41-191.compute-1.amazonaws.com US
50.16.77.161 ec2-50-16-77-161.compute-1.amazonaws.com US
54.204.136.208 ec2-54-204-136-208.compute-1.amazonaws.com US
54.196.226.28 ec2-54-196-226-28.compute-1.amazonaws.com US
50.19.144.149 ec2-50-19-144-149.compute-1.amazonaws.com US
54.198.197.37 ec2-54-198-197-37.compute-1.amazonaws.com US
54.197.109.6 ec2-54-197-109-6.compute-1.amazonaws.com US
54.80.127.71 ec2-54-80-127-71.compute-1.amazonaws.com US
54.237.85.140 ec2-54-237-85-140.compute-1.amazonaws.com US
54.242.121.169 ec2-54-242-121-169.compute-1.amazonaws.com US
54.234.238.253 ec2-54-234-238-253.compute-1.amazonaws.com US
54.226.56.203 ec2-54-226-56-203.compute-1.amazonaws.com US
54.197.92.79 ec2-54-197-92-79.compute-1.amazonaws.com US
用户代理字符串
Cliqzbot/0.1 (+http://cliqz.com +cliqzbot@cliqz.com)
首次出现
2013-10-15 15:10:00
最后出现
2013-10-08 12:58:10
遵循robots.txt
未知
来源
IP地址(7) 服务器名称 所属国家
52.28.135.166 ec2-52-28-135-166.eu-central-1.compute.amazonaws.com DE
52.28.145.148 ec2-52-28-145-148.eu-central-1.compute.amazonaws.com DE
52.28.158.181 ec2-52-28-158-181.eu-central-1.compute.amazonaws.com DE
52.28.166.22 ec2-52-28-166-22.eu-central-1.compute.amazonaws.com DE
52.28.171.26 ec2-52-28-171-26.eu-central-1.compute.amazonaws.com DE
81.169.171.248 h2237995.stratoserver.net DE
85.214.240.18 h2216551.stratoserver.net DE
52.28.129.10 ec2-52-28-129-10.eu-central-1.compute.amazonaws.com DE
85.214.210.240 h2216548.stratoserver.net DE
81.169.237.221 h2247631.stratoserver.net DE
85.214.34.241 h2216753.stratoserver.net DE
85.214.35.165 h2216746.stratoserver.net DE
81.169.240.47 h2244546.stratoserver.net DE
85.214.218.4 h2216554.stratoserver.net DE
81.169.245.53 h2237879.stratoserver.net DE
85.214.253.23 h2216557.stratoserver.net DE
85.214.35.31 h2216765.stratoserver.net DE
81.169.245.48 h2238103.stratoserver.net DE
85.214.229.175 h2219923.stratoserver.net DE
85.214.35.24 h2216756.stratoserver.net DE
85.214.34.172 h2216762.stratoserver.net DE
85.214.35.37 h2216759.stratoserver.net DE
85.214.200.7 h2216560.stratoserver.net DE
81.169.252.245 h2219903.stratoserver.net DE
81.169.240.45 h2244495.stratoserver.net DE
85.214.34.231 h2216771.stratoserver.net DE
81.169.239.195 h2244402.stratoserver.net FR
用户代理字符串
Cliqzbot/0.1 (+http://cliqz.com +cliqzbot@cliqz.com)
首次出现
2013-10-15 15:10:00
最后出现
2013-10-08 12:58:10
遵循robots.txt
未知
来源
IP地址(7) 服务器名称 所属国家
85.214.200.7 h2216560.stratoserver.net DE
85.214.229.175 h2219923.stratoserver.net DE
85.214.34.172 h2216762.stratoserver.net DE
85.214.35.165 h2216746.stratoserver.net DE
85.214.35.24 h2216756.stratoserver.net DE
85.214.35.37 h2216759.stratoserver.net DE
81.169.252.245 h2219903.stratoserver.net DE
用户代理字符串
Cliqz Bot (+http://www.cliqz.com)
首次出现
2013-09-27 08:30:08
最后出现
2013-09-22 02:04:29
遵循robots.txt
未知
来源
IP地址(5) 服务器名称 所属国家
85.214.34.241 h2216753.stratoserver.net DE
85.214.35.24 h2216756.stratoserver.net DE
85.214.35.57 h2216749.stratoserver.net DE
85.214.35.71 h2216737.stratoserver.net DE
46.163.120.136 vcs.win.cmp.hosteurope.de DE

访问控制

了解如何控制CliqzBot访问权限,避免CliqzBot抓取行为不当。

是否拦截CliqzBot?

一般不要拦截。搜索引擎爬虫为搜索引擎提供动力,是用户发现您网站的有效途径。事实上,拦截搜索引擎爬虫可能会严重减少网站的自然流量。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 CliqzBot 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

	# robots.txt
	# 下列代码一般情况可以拦截该代理
	
	User-agent: CliqzBot
	Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

常见蜘蛛/爬虫

Common Spiders
fynd.bot crawler
fynd.bot crawler蜘蛛/爬虫属于搜索引擎类型,由fynd.bot开发运行。您可以继续阅读下方信息,以深入了解fynd.bot crawler基本信息,用户代理和访问控制等。
Alibaba crawler
Alibaba crawler蜘蛛/爬虫属于搜索引擎类型,由Alibaba Group开发运行。您可以继续阅读下方信息,以深入了解Alibaba crawler基本信息,用户代理和访问控制等。
Googlebot
GoogleBot蜘蛛/爬虫属于搜索引擎类型,由Google Inc.开发运行。您可以继续阅读下方信息,以深入了解GoogleBot基本信息,用户代理和访问控制等。
Swisscows Crawler
Swisscows Crawler蜘蛛/爬虫属于搜索引擎类型,由Swisscows AG开发运行。您可以继续阅读下方信息,以深入了解Swisscows Crawler基本信息,用户代理和访问控制等。
star-finder.de Bot
star-finder.de Bot蜘蛛/爬虫属于搜索引擎类型,由projektnet开发运行。您可以继续阅读下方信息,以深入了解star-finder.de Bot基本信息,用户代理和访问控制等。
SeznamBot
SeznamBot蜘蛛/爬虫属于搜索引擎类型,由Seznam.cz, a.s.开发运行。您可以继续阅读下方信息,以深入了解SeznamBot基本信息,用户代理和访问控制等。
MojeekBot
MojeekBot蜘蛛/爬虫属于搜索引擎类型,由Mojeek Ltd.开发运行。您可以继续阅读下方信息,以深入了解MojeekBot基本信息,用户代理和访问控制等。
Bravebot
Bravebot蜘蛛/爬虫属于搜索引擎类型,由Brave Software Inc.开发运行。您可以继续阅读下方信息,以深入了解Bravebot基本信息,用户代理和访问控制等。

相关文章

Related Articles
利用OpenAI Agent SDK防护机制确保教育支持系统的完整性特色图
利用OpenAI Agent SDK防护机制确保教育支持系统的完整性
随着 OpenAI Agent SDK 的发布,开发人员现在拥有了构建智能系统的强大工具。其中最重要的一项功能是 Guardrails(防护机制),它可以过滤不需要的请求,帮助维护系统的完整性。这一功能在教育环境中尤为重要,因为在教育环境中,区分真正的学习支持和试图绕过学术道德的行为可能具有挑战性。 在本文中,我将展示一个在教育支持助理中使用 Guardrails 的实用而有影响力的案例。通过利用 Guardrails,我成功地阻止了不恰当的作业辅导请求,同时确保了真正的概念学习问题得到有效处理。 学习目标 了解 Guardrails 通过过滤不适当的请求来维护人工智能完整性的作用。 探索在教…