rogerbot
rogerbot蜘蛛/爬蟲屬於營銷型別，由SEOmoz, Inc.開發執行。您可以繼續閱讀下方資訊，以深入瞭解rogerbot基本資訊，使用者代理和訪問控制等。
基本資訊
rogerbot的基本資訊如下表。但部分不是很規範的蜘蛛和爬蟲，可能存在資訊不明的情況。
- 蜘蛛/爬蟲名稱
- rogerbot
- 型別
- 營銷
- 開發商
-
SEOmoz, Inc.
- 當前狀態
-
活動
使用者代理
關於rogerbot蜘蛛或者爬蟲的使用者代理字串，IP地址和伺服器，所在地等資訊如下表格所示：
rogerbot/1.1
-
rogerbot/1.1
-
rogerbot/1.1
-
rogerbot/1.1
-
rogerbot/1.0
-
rogerbot/1.2
-
rogerbot/1.2
-
rogerbot/1.0
-
rogerbot
-
rogerbot/1.0
-
rogerbot/1.0
-
rogerbot/1.0
-
rogerbot/1.1
-
rogerbot/1.1
-
rogerbot/1.1
-
rogerbot/1.0
-
rogerbot/1.0
-
rogerbot/1.0
-
rogerbot/1.0
- 使用者代理字串
- rogerbot/1.1 (http://moz.com/help/guides/search-overview/crawl-diagnostics#more-help, rogerbot-crawler+pr4-crawler-15@moz.com)
- 首次出現
- 2015-12-16 09:01:00
- 最後出現
- 2018-08-24 17:07:03
- 遵循robots.txt
- 是
- 來源
-
| IP地址(10) |
伺服器名稱 |
所屬國家 |
| 54.190.17.136 |
ec2-54-190-17-136.us-west-2.compute.amazonaws.com |
US |
| 54.186.155.251 |
ec2-54-186-155-251.us-west-2.compute.amazonaws.com |
US |
| 35.172.221.211 |
ec2-35-172-221-211.compute-1.amazonaws.com |
US |
| 54.89.58.201 |
ec2-54-89-58-201.compute-1.amazonaws.com |
US |
| 54.164.144.208 |
ec2-54-164-144-208.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.1 (http://moz.com/help/pro/what-is-rogerbot-, rogerbot-crawler+madagascar@moz.com)
- 首次出現
- 2017-09-22 06:04:29
- 最後出現
- 2018-07-27 08:00:55
- 遵循robots.txt
- 未知
- 來源
-
| IP地址(2) |
伺服器名稱 |
所屬國家 |
| 76.101.32.252 |
c-76-101-32-252.hsd1.fl.comcast.net |
US |
| 52.34.55.53 |
ec2-52-34-55-53.us-west-2.compute.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.1 (http://moz.com/help/guides/search-overview/crawl-diagnostics#more-help, rogerbot-crawler+pr4-crawler-15@moz.com)/Nutch-1.13
- 首次出現
- 2017-04-14 12:38:02
- 最後出現
- 2017-04-14 21:31:47
- 遵循robots.txt
- 未知
- 來源
-
| IP地址(8) |
伺服器名稱 |
所屬國家 |
| 162.243.200.157 |
? |
US |
| 162.243.199.229 |
? |
US |
| 162.243.200.235 |
? |
US |
| 162.243.206.65 |
? |
US |
| 162.243.203.224 |
? |
US |
- 使用者代理字串
- Mozilla/5.0 (compatible; rogerBot/1.0; UrlCrawler; http://www.seomoz.org/dp/rogerbot)
- 首次出現
- 2013-05-01 08:01:00
- 最後出現
- 2017-03-19 05:10:56
- 遵循robots.txt
- 是
- 來源
-
| IP地址(10) |
伺服器名稱 |
所屬國家 |
| 52.207.205.34 |
ec2-52-207-205-34.compute-1.amazonaws.com |
US |
| 34.205.171.252 |
ec2-34-205-171-252.compute-1.amazonaws.com |
US |
| 52.3.226.221 |
ec2-52-3-226-221.compute-1.amazonaws.com |
US |
| 52.91.61.125 |
ec2-52-91-61-125.compute-1.amazonaws.com |
US |
| 52.90.135.72 |
ec2-52-90-135-72.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.2 (http://moz.com/help/pro/what-is-rogerbot-, rogerbot-crawler+phaser-testing-crawler-01@moz.com)
- 首次出現
- 2016-11-18 00:24:02
- 最後出現
- 2016-12-08 06:51:08
- 遵循robots.txt
- 是
- 來源
-
| IP地址(12) |
伺服器名稱 |
所屬國家 |
| 147.182.133.255 |
147.182.133.255 |
US |
| 147.182.183.106 |
147.182.183.106 |
US |
| 143.198.179.231 |
exsmtp-02.globalexpo.in |
US |
| 143.244.145.100 |
143.244.145.100 |
US |
| 157.230.94.164 |
? |
US |
- 使用者代理字串
- rogerbot/1.2 (http://moz.com/help/pro/what-is-rogerbot-, rogerbot-crawler+phaser-testing-crawler-01@moz.com)
- 首次出現
- 2016-11-18 00:24:02
- 最後出現
- 2016-12-08 06:51:08
- 遵循robots.txt
- 是
- 來源
-
| IP地址(1) |
伺服器名稱 |
所屬國家 |
| 54.227.104.174 |
ec2-54-227-104-174.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.0 (http://moz.com/help/pro/what-is-rogerbot-, rogerbot-wherecat@moz.com
- 首次出現
- 2016-12-04 11:34:32
- 最後出現
- 2016-12-04 11:34:32
- 遵循robots.txt
- 未知
- 來源
-
| IP地址(1) |
伺服器名稱 |
所屬國家 |
| 54.91.111.234 |
ec2-54-91-111-234.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot
- 首次出現
- 2016-11-09 19:23:00
- 最後出現
- 2016-11-14 01:23:16
- 遵循robots.txt
- 未知
- 來源
-
| IP地址(6) |
伺服器名稱 |
所屬國家 |
| 54.242.79.115 |
ec2-54-242-79-115.compute-1.amazonaws.com |
US |
| 88.99.36.150 |
? |
DE |
| 54.161.37.219 |
ec2-54-161-37-219.compute-1.amazonaws.com |
US |
| 52.91.9.35 |
ec2-52-91-9-35.compute-1.amazonaws.com |
US |
| 52.91.242.113 |
ec2-52-91-242-113.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.0 (http://moz.com/help/pro/what-is-rogerbot-, rogerbot-wherecat@moz.com)
- 首次出現
- 2014-02-28 07:10:00
- 最後出現
- 2016-09-26 05:55:02
- 遵循robots.txt
- 是
- 來源
-
| IP地址(10) |
伺服器名稱 |
所屬國家 |
| 209.249.5.253 |
253.dhcp.office.sjc3.us.mfnx.net |
US |
| 209.249.5.249 |
249.dhcp.office.sjc3.us.mfnx.net |
US |
| 209.249.5.254 |
254.dhcp.office.sjc3.us.mfnx.net |
US |
| 209.249.5.252 |
252.dhcp.office.sjc3.us.mfnx.net |
US |
| 209.249.5.251 |
251.dhcp.office.sjc3.us.mfnx.net |
US |
- 使用者代理字串
- rogerbot/1.0 (http://moz.com/help/pro/what-is-rogerbot-, rogerbot-crawler+shiny@moz.com)
- 首次出現
- 2013-08-21 03:16:23
- 最後出現
- 2016-09-12 18:27:13
- 遵循robots.txt
- 是
- 來源
-
| IP地址(3) |
伺服器名稱 |
所屬國家 |
| 209.133.111.215 |
209.133.111.215.available.above.net |
US |
| 208.184.81.30 |
208.184.81.30.IPYX-077165-ZYO.above.net |
US |
| 128.177.124.30 |
128.177.124.30.available.zip.zayo.com |
US |
- 使用者代理字串
- rogerbot/1.0 (http://moz.com/help/pro/what-is-rogerbot-, rogerbot-crawler+partager@moz.com)
- 首次出現
- 2016-02-05 08:45:00
- 最後出現
- 2016-04-29 15:26:59
- 遵循robots.txt
- 是
- 來源
-
| IP地址(1) |
伺服器名稱 |
所屬國家 |
| 23.22.148.199 |
ec2-23-22-148-199.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.1 (http://moz.com/help/guides/search-overview/crawl-diagnostics#more-help, rogerbot-crawler+pr2-crawler-05@moz.com)
- 首次出現
- 2016-02-05 07:05:00
- 最後出現
- 2016-01-19 23:28:09
- 遵循robots.txt
- 是
- 使用者代理字串
- rogerbot/1.1 (http://moz.com/help/guides/search-overview/crawl-diagnostics#more-help, rogerbot-crawler+pr4-crawler-11@moz.com)
- 首次出現
- 2015-12-03 10:10:00
- 最後出現
- 2015-12-03 08:42:57
- 遵循robots.txt
- 是
- 來源
-
| IP地址(22) |
伺服器名稱 |
所屬國家 |
| 52.202.61.55 |
ec2-52-202-61-55.compute-1.amazonaws.com |
US |
| 54.190.17.136 |
ec2-54-190-17-136.us-west-2.compute.amazonaws.com |
US |
| 54.186.155.251 |
ec2-54-186-155-251.us-west-2.compute.amazonaws.com |
US |
| 35.172.221.211 |
ec2-35-172-221-211.compute-1.amazonaws.com |
US |
| 54.89.58.201 |
ec2-54-89-58-201.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.1 (http://moz.com/help/guides/search-overview/crawl-diagnostics#more-help, rogerbot-crawler+pr4-crawler-11@moz.com)
- 首次出現
- 2015-12-03 10:10:00
- 最後出現
- 2015-12-03 08:42:57
- 遵循robots.txt
- 是
- 來源
-
| IP地址(1) |
伺服器名稱 |
所屬國家 |
| 54.147.189.251 |
ec2-54-147-189-251.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.0 (http://www.seomoz.org/dp/rogerbot, rogerbot-wherecat@moz.com)
- 首次出現
- 2013-12-12 10:25:00
- 最後出現
- 2013-12-11 10:57:13
- 遵循robots.txt
- 是
- 來源
-
| IP地址(1) |
伺服器名稱 |
所屬國家 |
| 23.20.147.78 |
ec2-23-20-147-78.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.0 (http://www.seomoz.org/dp/rogerbot, rogerbot-crawler+shiny@seomoz.org)
- 首次出現
- 2013-04-02 09:05:00
- 最後出現
- 2013-08-15 00:19:55
- 遵循robots.txt
- 是
- 來源
-
| IP地址(4) |
伺服器名稱 |
所屬國家 |
| 174.129.163.246 |
ec2-174-129-163-246.compute-1.amazonaws.com |
US |
| 184.73.51.161 |
ec2-184-73-51-161.compute-1.amazonaws.com |
US |
| 208.184.81.30 |
208.184.81.30.IPYX-077165-ZYO.above.net |
US |
| 54.242.216.138 |
ec2-54-242-216-138.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.0 (http://www.seomoz.org/dp/rogerbot, rogerbot-crawler@seomoz.org)
- 首次出現
- 2012-09-20 21:10:00
- 最後出現
- 2012-09-16 14:12:54
- 遵循robots.txt
- 是
- 來源
-
| IP地址(31) |
伺服器名稱 |
所屬國家 |
| 209.133.111.211 |
209.133.111.211.available.above.net |
US |
| 52.207.205.34 |
ec2-52-207-205-34.compute-1.amazonaws.com |
US |
| 34.205.171.252 |
ec2-34-205-171-252.compute-1.amazonaws.com |
US |
| 52.3.226.221 |
ec2-52-3-226-221.compute-1.amazonaws.com |
US |
| 52.91.61.125 |
ec2-52-91-61-125.compute-1.amazonaws.com |
US |
- 使用者代理字串
- rogerbot/1.0 (http://www.seomoz.org/dp/rogerbot, rogerbot-crawler@seomoz.org)
- 首次出現
- 2012-09-20 21:10:00
- 最後出現
- 2012-09-16 14:12:54
- 遵循robots.txt
- 是
- 來源
-
| IP地址(2) |
伺服器名稱 |
所屬國家 |
| 23.22.206.6 |
ec2-23-22-206-6.compute-1.amazonaws.com |
US |
| 50.19.146.208 |
ec2-50-19-146-208.compute-1.amazonaws.com |
US |
訪問控制
瞭解如何控制rogerbot訪問許可權，避免rogerbot抓取行為不當。
是否攔截rogerbot？
一般不需要攔截，尤其是如果你自己也受益於搜尋引擎優化服務。不過，如果你擔心伺服器資源佔用等問題，且您都不使用這些工具，當然也可以選擇攔截它們。
通過Robots.txt攔截
您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 rogerbot 或限制其訪問許可權。我們建議安裝 Spider Analyser
外掛，以檢查它是否真正遵循這些規則。
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: rogerbot
Disallow: /
您無需手動執行此操作，可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。
