AspiegelBot

AspiegelBot蜘蛛/爬虫属于其他类型,由Huawei Technologies Co., Ltd.开发运行。您可以继续阅读下方信息,以深入了解AspiegelBot基本信息,用户代理和访问控制等。

基本信息

AspiegelBot的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
AspiegelBot
类型
其他
开发商
Huawei Technologies Co., Ltd.
当前状态
活动

用户代理

关于AspiegelBot蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
AspiegelBot mobile
用户代理字符串
Mozilla/5.0 (Linux; Android 7.0;) AppleWebKit/537.36 (KHTML, like Gecko) Mobile Safari/537.36 (compatible; AspiegelBot)
首次出现
2020-03-06 15:14:47
最后出现
2021-07-31 14:13:54
遵循robots.txt
未知
来源
IP地址(9993) 服务器名称 所属国家
178.219.125.34 host-178.219.125.34-c3.net.pl PL
185.233.27.244 host-185-233-27-244.fiberlink.pl PL
83.1.97.156 83.1.97.156 PL
196.19.207.143 196.19.207.143 US
196.19.207.130 196.19.207.130 DE
114.119.164.34 ecs-114-119-164-34.compute.hwclouds-dns.com CN
114.119.166.99 ecs-114-119-166-99.compute.hwclouds-dns.com CN
114.119.160.180 ecs-114-119-160-180.compute.hwclouds-dns.com CN
114.119.165.135 ecs-114-119-165-135.compute.hwclouds-dns.com CN
114.119.162.59 ecs-114-119-162-59.compute.hwclouds-dns.com CN
用户代理字符串
Mozilla/5.0 (compatible;AspiegelBot)
首次出现
2020-03-05 07:38:35
最后出现
2021-03-22 12:22:09
遵循robots.txt
未知
来源
IP地址(3243) 服务器名称 所属国家
114.119.166.221 ecs-114-119-166-221.compute.hwclouds-dns.com CN
49.74.23.193 ? CN
114.119.165.202 ecs-114-119-165-202.compute.hwclouds-dns.com CN
114.119.162.106 ecs-114-119-162-106.compute.hwclouds-dns.com CN
114.119.165.22 ecs-114-119-165-22.compute.hwclouds-dns.com CN
114.119.161.206 ecs-114-119-161-206.compute.hwclouds-dns.com CN
114.119.163.237 ecs-114-119-163-237.compute.hwclouds-dns.com CN
114.119.163.49 ecs-114-119-163-49.compute.hwclouds-dns.com CN
114.119.163.189 ecs-114-119-163-189.compute.hwclouds-dns.com CN
114.119.164.100 ecs-114-119-164-100.compute.hwclouds-dns.com CN

访问控制

了解如何控制AspiegelBot访问权限,避免AspiegelBot抓取行为不当。

是否拦截AspiegelBot?

对于未知蜘蛛或者爬虫。它的用途对网站来说可能是好的,也可能是坏的,这取决于它是什么。所以说,这需要站长进一步分析判断这些尚不明确的爬虫行为,再作最终决定。 但,根据以往的经验,未声明行为目的及未命名的蜘蛛爬虫,通常都有不可告人的秘密,我们理应对其行为进行控制,比如拦截。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 AspiegelBot 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: AspiegelBot
Disallow: /
# robots.txt # 下列代码一般情况可以拦截该代理 User-agent: AspiegelBot Disallow: /
# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: AspiegelBot
Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

常见蜘蛛/爬虫

Common Spiders
Fraunhofer crawler
Fraunhofer crawler蜘蛛/爬虫属于其他类型,由Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V.开发运行。您可以继续阅读下方信息,以深入了解Fraunhofer crawler基本信息,用户代理和访问控制等。
companyspotter
companyspotter蜘蛛/爬虫属于其他类型,由CompanySpotter BV开发运行。您可以继续阅读下方信息,以深入了解companyspotter基本信息,用户代理和访问控制等。
DataForSeo bot
DataForSeo bot蜘蛛/爬虫属于其他类型,由DataForSEO OU开发运行。您可以继续阅读下方信息,以深入了解DataForSeo bot基本信息,用户代理和访问控制等。
CloudFlare crawler
CloudFlare crawler蜘蛛/爬虫属于其他类型,由CloudFlare, Inc.开发运行。您可以继续阅读下方信息,以深入了解CloudFlare crawler基本信息,用户代理和访问控制等。
Odin
Odin蜘蛛/爬虫属于其他类型,由Cyble, Inc.开发运行。您可以继续阅读下方信息,以深入了解Odin基本信息,用户代理和访问控制等。
Chrome Privacy Preserving Prefetch Proxy
Chrome Privacy Preserving Prefetch Proxy蜘蛛/爬虫属于其他类型,由Google Inc.开发运行。您可以继续阅读下方信息,以深入了解Chrome Privacy Preserving Prefetch Proxy基本信息,用户代理和访问控制等。
EFF crawler
EFF crawler蜘蛛/爬虫属于其他类型,由Electronic Frontier Foundation开发运行。您可以继续阅读下方信息,以深入了解EFF crawler基本信息,用户代理和访问控制等。
Modat crawler
Modat crawler蜘蛛/爬虫属于其他类型,由Modat B.V.开发运行。您可以继续阅读下方信息,以深入了解Modat crawler基本信息,用户代理和访问控制等。

相关文章

Related Articles