BuiltWith crawler

BuiltWith crawler蜘蛛/爬虫属于工具类型,由BuiltWith Pty Ltd开发运行。您可以继续阅读下方信息,以深入了解BuiltWith crawler基本信息,用户代理和访问控制等。

基本信息

BuiltWith crawler的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
BuiltWith crawler
类型
工具
开发商
BuiltWith Pty Ltd
当前状态
活动

用户代理

关于BuiltWith crawler蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
BW/1.3
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.3; rb.gy/qyzae5) Chrome/124.0.0.0 Safari/537.36
首次出现
2024-12-21 00:06:04
最后出现
2025-01-09 11:57:45
遵循robots.txt
未知
来源
IP地址(25) 服务器名称 所属国家
35.217.18.157 157.18.217.35.bc.googleusercontent.com FI
34.0.211.53 53.211.0.34.bc.googleusercontent.com ES
35.219.245.138 ? IT
34.0.158.203 ? US
35.212.171.43 43.171.212.35.bc.googleusercontent.com US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.2; rb.gy/oupwis) Chrome/84.0.4147.105 Safari/537.36
首次出现
2024-04-26 12:28:40
最后出现
2024-05-03 05:34:32
遵循robots.txt
未知
来源
IP地址(224) 服务器名称 所属国家
35.210.108.76 ? BE
35.207.212.6 ? IN
35.217.68.215 ? US
3.78.247.129 ec2-3-78-247-129.eu-central-1.compute.amazonaws.com DE
35.217.33.216 ? FI
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; 0756356a4e) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-02-05 17:19:17
最后出现
2022-08-27 04:15:09
遵循robots.txt
未知
来源
IP地址(7) 服务器名称 所属国家
35.217.51.214 ? FI
3.128.79.74 ec2-3-128-79-74.us-east-2.compute.amazonaws.com US
35.87.86.67 ec2-35-87-86-67.us-west-2.compute.amazonaws.com US
18.216.214.63 ec2-18-216-214-63.us-east-2.compute.amazonaws.com US
35.208.60.118 ? US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; 8b8d52af0d) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-02-05 15:07:51
最后出现
2022-08-27 00:01:52
遵循robots.txt
未知
来源
IP地址(7) 服务器名称 所属国家
35.211.224.135 ? US
35.215.51.71 ? CA
54.171.212.141 ec2-54-171-212-141.eu-west-1.compute.amazonaws.com IE
3.143.239.95 ec2-3-143-239-95.us-east-2.compute.amazonaws.com US
34.222.190.88 ec2-34-222-190-88.us-west-2.compute.amazonaws.com US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; 50dcc0e8d1) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-02-03 15:26:50
最后出现
2022-08-24 02:53:03
遵循robots.txt
未知
来源
IP地址(8) 服务器名称 所属国家
35.213.167.52 ? SG
44.200.61.147 ec2-44-200-61-147.compute-1.amazonaws.com US
35.208.170.235 ? ?
34.253.228.106 ec2-34-253-228-106.eu-west-1.compute.amazonaws.com IE
35.84.2.231 ec2-35-84-2-231.us-west-2.compute.amazonaws.com US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; 22542faf4a) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-02-02 12:55:12
最后出现
2022-08-22 15:46:54
遵循robots.txt
未知
来源
IP地址(7) 服务器名称 所属国家
35.212.239.193 ? US
35.217.92.253 ? US
35.84.189.251 ec2-35-84-189-251.us-west-2.compute.amazonaws.com US
35.217.23.45 ? FI
35.217.36.186 ? FI
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; f7a1fd935a) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-01-23 05:55:22
最后出现
2022-08-20 16:49:24
遵循robots.txt
未知
来源
IP地址(9) 服务器名称 所属国家
35.210.151.25 ? BE
35.211.177.192 ? US
3.99.174.5 ec2-3-99-174-5.ca-central-1.compute.amazonaws.com CA
35.217.0.133 ? FI
3.15.149.246 ec2-3-15-149-246.us-east-2.compute.amazonaws.com US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; a2244af186) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-01-26 03:07:25
最后出现
2022-08-11 11:15:17
遵循robots.txt
未知
来源
IP地址(7) 服务器名称 所属国家
35.206.153.39 ? BE
35.215.117.69 ? US
13.210.79.45 ec2-13-210-79-45.ap-southeast-2.compute.amazonaws.com AU
35.215.64.144 ? US
104.45.194.225 ? US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; 85f6ace805) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-01-19 13:56:44
最后出现
2022-08-06 22:34:46
遵循robots.txt
未知
来源
IP地址(7) 服务器名称 所属国家
35.217.123.100 ? US
35.206.194.63 ? TW
35.213.211.88 ? AU
3.126.55.41 ec2-3-126-55-41.eu-central-1.compute.amazonaws.com DE
3.23.92.26 ec2-3-23-92-26.us-east-2.compute.amazonaws.com US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; 6fd1c55da3) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-02-09 11:10:21
最后出现
2022-07-22 17:54:06
遵循robots.txt
未知
来源
IP地址(6) 服务器名称 所属国家
35.212.72.131 131.72.212.35.bc.googleusercontent.com US
35.213.223.219 219.223.213.35.bc.googleusercontent.com AU
35.213.234.99 99.234.213.35.bc.googleusercontent.com AU
35.213.133.191 191.133.213.35.bc.googleusercontent.com SG
35.213.241.103 103.241.213.35.bc.googleusercontent.com AU
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S; 57a74ea5be) Chrome/84.0.4147.105 Safari/537.36
首次出现
2022-03-02 00:10:31
最后出现
2022-07-13 18:01:14
遵循robots.txt
未知
来源
IP地址(9) 服务器名称 所属国家
35.87.64.110 ec2-35-87-64-110.us-west-2.compute.amazonaws.com US
35.214.190.203 ? NL
35.212.179.95 ? US
44.200.185.9 ec2-44-200-185-9.compute-1.amazonaws.com US
3.138.204.69 ec2-3-138-204-69.us-east-2.compute.amazonaws.com US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S) Chrome/74.0.3729.131 Safari/537.36
首次出现
2020-04-29 05:40:31
最后出现
2022-03-02 16:02:33
遵循robots.txt
未知
来源
IP地址(10) 服务器名称 所属国家
104.45.194.225 104.45.194.225 US
44.230.202.248 ec2-44-230-202-248.us-west-2.compute.amazonaws.com US
35.208.51.137 137.51.208.35.bc.googleusercontent.com US
35.219.139.221 221.139.219.35.bc.googleusercontent.com US
3.144.1.0 ec2-3-144-1-0.us-east-2.compute.amazonaws.com US
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S) Chrome/84.0.4147.105 Safari/537.36
首次出现
2020-08-09 13:37:16
最后出现
2022-03-02 06:08:50
遵循robots.txt
未知
来源
IP地址(230) 服务器名称 所属国家
35.217.31.190 ? FI
35.211.95.9 ? US
35.217.92.253 ? US
35.213.167.52 ? SG
35.206.153.39 ? BE
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BW/1.1; bit.ly/2W6Px8S) Chrome/84.0.4147.105 Safari/537.36
首次出现
2020-08-09 13:37:16
最后出现
2022-03-02 06:08:50
遵循robots.txt
未知
来源
IP地址(10) 服务器名称 所属国家
35.213.167.52 ? SG
35.219.137.69 69.137.219.35.bc.googleusercontent.com US
51.161.15.95 elmo.builtwith.xyz FR
35.215.8.122 ? US
35.213.241.103 ? AU
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BuiltWith/1.0; +http://builtwith.com/biup) Chrome/74.0.3729.131 Safari/537.36
首次出现
2019-12-01 18:40:16
最后出现
2020-06-17 03:25:44
遵循robots.txt
未知
来源
IP地址(24) 服务器名称 所属国家
37.225.8.119 public-gprs549174.centertel.pl PL
31.0.40.226 apn-31-0-40-226.dynamic.gprs.plus.pl PL
37.225.8.85 public-gprs549140.centertel.pl PL
37.248.224.10 apn-37-248-224-10.data.lycamobile.pl PL
31.0.47.86 apn-31-0-47-86.dynamic.gprs.plus.pl PL
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BuiltWith/1.0; +http://builtwith.com/biup) Chrome/74.0.3729.131 Safari/537.36
首次出现
2019-12-01 18:40:16
最后出现
2020-06-17 03:25:44
遵循robots.txt
未知
来源
IP地址(10) 服务器名称 所属国家
52.53.243.114 ec2-52-53-243-114.us-west-1.compute.amazonaws.com US
18.228.219.23 ec2-18-228-219-23.sa-east-1.compute.amazonaws.com BR
3.249.36.83 ec2-3-249-36-83.eu-west-1.compute.amazonaws.com US
3.112.27.172 ec2-3-112-27-172.ap-northeast-1.compute.amazonaws.com JP
18.229.140.74 ec2-18-229-140-74.sa-east-1.compute.amazonaws.com BR
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BuiltWith/1.1; http://builtwith.com/biup) Chrome/74.0.3729.131 Safari/537.36
首次出现
2020-04-25 23:30:12
最后出现
2020-04-25 23:30:16
遵循robots.txt
未知
来源
IP地址(10) 服务器名称 所属国家
3.235.85.188 ec2-3-235-85-188.compute-1.amazonaws.com US
3.231.57.174 ec2-3-231-57-174.compute-1.amazonaws.com US
18.237.179.230 ec2-18-237-179-230.us-west-2.compute.amazonaws.com US
34.222.64.224 ec2-34-222-64-224.us-west-2.compute.amazonaws.com US
63.33.190.92 ec2-63-33-190-92.eu-west-1.compute.amazonaws.com IE
用户代理字符串
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BuiltWith/1.1; http://builtwith.com/biup) Chrome/74.0.3729.131 Safari/537.36
首次出现
2020-04-25 23:30:12
最后出现
2020-04-25 23:30:16
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
34.220.63.207 ec2-34-220-63-207.us-west-2.compute.amazonaws.com US
用户代理字符串
Mozilla/5.0 (X11; Ubuntu; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko; compatible; BuiltWith/1.0; +http://builtwith.com/biup) Chrome/60.0.3112.101 Safari/537.36
首次出现
2020-01-18 05:54:29
最后出现
2020-03-25 21:20:22
遵循robots.txt
未知
来源
IP地址(3) 服务器名称 所属国家
54.90.56.51 ec2-54-90-56-51.compute-1.amazonaws.com US
158.69.52.114 bst.builtwith.xyz CA
13.250.125.83 ec2-13-250-125-83.ap-southeast-1.compute.amazonaws.com SG
用户代理字符串
Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.13 (KHTML, like Gecko) Chrome/9.0.597.107 Safari/534.13 BuiltWith/1.2
首次出现
2019-09-19 23:51:44
最后出现
2019-09-19 23:51:44
遵循robots.txt
未知
来源
IP地址(10) 服务器名称 所属国家
195.242.80.29 195.242.80.29 UA
195.242.80.91 195.242.80.91 UA
195.242.80.31 195.242.80.31 UA
195.242.80.130 195.242.80.130 UA
195.242.80.92 195.242.80.92 UA
用户代理字符串
builtwith
首次出现
2017-07-04 08:12:54
最后出现
2017-07-04 08:12:54
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
151.80.98.81 ns3052559.ip-151-80-98.eu FR

访问控制

了解如何控制BuiltWith crawler访问权限,避免BuiltWith crawler抓取行为不当。

是否拦截BuiltWith crawler?

可能不需要。工具类型爬虫通常为网站所有者使用此类工具对网站进行相关服务请求才会出现。当然,实际情况需站长判断后再作决定。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 BuiltWith crawler 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: BuiltWith crawler
Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

常见蜘蛛/爬虫

Common Spiders

相关文章

Related Articles