GulperBot

GulperBot蜘蛛/爬虫由CS Stony Brook University开发运行。您可以继续阅读下方信息,以深入了解GulperBot基本信息,用户代理和访问控制等。

基本信息

GulperBot的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
GulperBot
开发商
CS Stony Brook University
当前状态
活动

用户代理

关于GulperBot蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
Gulper Web Bot 0.2.4
用户代理字符串
Gulper Web Bot 0.2.4 (www.ecsl.cs.sunysb.edu/~maxim/cgi-bin/Link/GulperBot)
首次出现
2022-08-08 12:19:50
最后出现
2024-11-30 05:50:44
遵循robots.txt
未知
来源
IP地址(8) 服务器名称 所属国家
89.207.131.169 servi.ouups.fr NL
18.188.48.120 ec2-18-188-48-120.us-east-2.compute.amazonaws.com US
67.220.86.160 67.220.86.160 US
3.220.230.129 ec2-3-220-230-129.compute-1.amazonaws.com US
18.191.199.208 ec2-18-191-199-208.us-east-2.compute.amazonaws.com US
103.43.18.250 103.43.18.250 CN
205.209.120.238 205.209.120.238 US
176.123.7.98 176.123.7.98 MD

访问控制

了解如何控制GulperBot访问权限,避免GulperBot抓取行为不当。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 GulperBot 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: GulperBot
Disallow: /
# robots.txt # 下列代码一般情况可以拦截该代理 User-agent: GulperBot Disallow: /
# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: GulperBot
Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

常见蜘蛛/爬虫

Common Spiders
Crawler-IP-Fetcher
Crawler-IP-Fetcher蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解Crawler-IP-Fetcher基本信息,用户代理和访问控制等。
OpenRobotsTxt Crawler
OpenRobotsTxt Crawler蜘蛛/爬虫属于工具类型,由Majestic-12 Ltd开发运行。您可以继续阅读下方信息,以深入了解OpenRobotsTxt Crawler基本信息,用户代理和访问控制等。
RAPEF crawler
RAPEF crawler蜘蛛/爬虫属于工具类型,由RAPEF.INFO开发运行。您可以继续阅读下方信息,以深入了解RAPEF crawler基本信息,用户代理和访问控制等。
DARPResearchBot
DARPResearchBot蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解DARPResearchBot基本信息,用户代理和访问控制等。
Google-NotebookLM
Google-NotebookLM蜘蛛/爬虫属于工具类型,由Google Inc.开发运行。您可以继续阅读下方信息,以深入了解Google-NotebookLM基本信息,用户代理和访问控制等。
MistralAI crawler
MistralAI crawler蜘蛛/爬虫属于AI助手类型,由Mistral AI开发运行。您可以继续阅读下方信息,以深入了解MistralAI crawler基本信息,用户代理和访问控制等。
xfa1
xfa1蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解xfa1基本信息,用户代理和访问控制等。
Fraunhofer crawler
Fraunhofer crawler蜘蛛/爬虫属于其他类型,由Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V.开发运行。您可以继续阅读下方信息,以深入了解Fraunhofer crawler基本信息,用户代理和访问控制等。

相关文章

Related Articles