AntBot

AntBot蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解AntBot基本信息,用户代理和访问控制等。

基本信息

AntBot的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
AntBot
类型
爬虫
开发商
Unknown Author
当前状态
活动

用户代理

关于AntBot蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
AntBot
用户代理字符串
AntBot
首次出现
2023-10-17 22:51:36
最后出现
2023-11-05 16:00:56
遵循robots.txt
未知
来源
IP地址(91) 服务器名称 所属国家
83.149.125.220 hosted-by.leaseweb.com NL
69.55.58.107 69.55.58.107 US
69.55.58.103 69.55.58.103 US
69.55.58.105 69.55.58.105 US
69.55.58.104 69.55.58.104 US
用户代理字符串
Ant.com beta/1.0 (Crawling antmarks; https://www.ant.com; admin@ant.com)
首次出现
2018-10-21 07:03:24
最后出现
2023-02-01 22:01:14
遵循robots.txt
来源
IP地址(1) 服务器名称 所属国家
185.120.68.164 185.120.68.164 CZ
用户代理字符串
Ant.com/1.0 (Crawling antmarks; https://www.ant.com; admin@ant.com)
首次出现
2017-11-07 05:14:50
最后出现
2017-11-07 05:14:50
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
185.120.68.164 185.120.68.164 CZ
用户代理字符串
Mozilla/5.0 (compatible; AntBot/1.0; +http://www.ant.com/)
首次出现
2010-11-10 22:08:59
最后出现
2011-01-06 16:26:50
遵循robots.txt
未知
来源
IP地址(7) 服务器名称 所属国家
83.149.125.220 hosted-by.leaseweb.com NL
69.55.58.102 69.55.58.102 US
69.55.58.103 69.55.58.103 US
69.55.58.105 69.55.58.105 US
69.55.58.106 69.55.58.106 US
用户代理字符串
Mozilla/5.0 (compatible; AntBot/1.0; +http://www.ant.com/)
首次出现
2010-11-10 22:08:59
最后出现
2011-01-06 16:26:50
遵循robots.txt
未知
来源
IP地址(6) 服务器名称 所属国家
69.55.58.106 69.55.58.106 US
69.55.58.107 69.55.58.107 US
69.55.58.108 69.55.58.108 US
69.55.58.102 69.55.58.102 US
69.55.58.103 69.55.58.103 US
用户代理字符串
AntBot/Ant-Nutch-1.1 (Ant Nutch Crawler; http://www.ant.com; crawler@ant.com)
首次出现
2010-09-28 13:27:27
最后出现
2010-09-29 14:04:45
遵循robots.txt
未知
来源
IP地址(3) 服务器名称 所属国家
69.55.58.103 69.55.58.103 US
69.55.58.105 69.55.58.105 US
69.55.58.107 69.55.58.107 US
用户代理字符串
Ant/Ant-Nutch-1.1 (Ant Nutch Crawler; http://www.ant.com; crawler@ant.com)
首次出现
2010-08-03 02:52:04
最后出现
2010-09-16 07:38:02
遵循robots.txt
未知
来源
IP地址(8) 服务器名称 所属国家
69.55.58.104 69.55.58.104 US
69.55.58.105 69.55.58.105 US
69.55.58.106 69.55.58.106 US
69.55.58.107 69.55.58.107 US
69.55.58.108 69.55.58.108 US

访问控制

了解如何控制AntBot访问权限,避免AntBot抓取行为不当。

是否拦截AntBot?

可以考虑拦截。。爬虫通常会下载公开的互联网内容,这些内容默认情况下可以免费访问。不过,如果你不希望你的内容被用于未经授权的目的,你应该拦截它们。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 AntBot 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: AntBot
Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

更多信息

有了Ant.com,搜索网络从未如此简单。Ant.com还为你提供了将所有你喜欢的网页添加到书签的可能性,并可以访问它们…

Ant.com提供的产品包括:

  • ANT.COM ADDON:把书签变成你的个人搜索引擎!
  • VIDEO DOWNLOADER:一键下载网络上的所有视频!
  • VIDEO CONVERTER:在这个在线工具的帮助下转换视频。

常见蜘蛛/爬虫

Common Spiders

相关文章

Related Articles