heritrix

heritrix蜘蛛/爬蟲屬於快照型別,由Internet Archive開發執行。您可以繼續閱讀下方資訊,以深入瞭解heritrix基本資訊,使用者代理和訪問控制等。

基本資訊

heritrix的基本資訊如下表。但部分不是很規範的蜘蛛和爬蟲,可能存在資訊不明的情況。
蜘蛛/爬蟲名稱
heritrix
型別
快照
開發商
Internet Archive
當前狀態
活動

使用者代理

關於heritrix蜘蛛或者爬蟲的使用者代理字串,IP地址和伺服器,所在地等資訊如下表格所示:
heritrix/2.0.2
使用者代理字串
Mozilla/5.0 (compatible; heritrix/2.0.2 +http://seekda.com)
首次出現
2009-06-12 23:31:43
最後出現
2021-09-30 05:21:35
遵循robots.txt
未知
來源
IP地址(2) 伺服器名稱 所屬國家
167.99.89.94 167.99.89.94 GB
78.46.75.108 ngbits.de PH
使用者代理字串
Mozilla/5.0 (compatible; heritrix/3.0.0-SNAPSHOT-20091120.021634 +http://crawler.archive.org)
首次出現
2009-11-20 22:09:05
最後出現
2009-11-24 17:32:55
遵循robots.txt
未知
來源
IP地址(1) 伺服器名稱 所屬國家
207.241.228.146 ia360902.us.archive.org US
使用者代理字串
Mozilla/5.0 (compatible; heritrix/1.14.3.r6601 +http://www.buddybuzz.net/yptrino)
首次出現
2009-11-22 12:06:53
最後出現
2009-11-22 12:06:53
遵循robots.txt
未知
來源
IP地址(1) 伺服器名稱 所屬國家
12.175.178.250 dev-ypapi01.v.wc1.yp.com US
使用者代理字串
Mozilla/5.0 (compatible; heritrix/1.14.2 +http://rjpower.org)
首次出現
2009-08-26 13:58:03
最後出現
2009-08-26 13:58:06
遵循robots.txt
未知
來源
IP地址(1) 伺服器名稱 所屬國家
216.165.108.146 216.165.108.146 US
使用者代理字串
Mozilla/5.0 (compatible; heritrix/1.14.3 +http://archive.org)
首次出現
2009-06-01 19:55:00
最後出現
2009-06-11 09:06:50
遵循robots.txt
未知
來源
IP地址(2) 伺服器名稱 所屬國家
78.99.69.17 adsl-dyn17.78-99-69.t-com.sk DE
147.229.210.52 a02-0810d.kn.vutbr.cz CZ

訪問控制

瞭解如何控制heritrix訪問許可權,避免heritrix抓取行為不當。

是否攔截heritrix?

這取決於你。數字存檔通常是為了儲存歷史記錄。如果你出於某種原因不想成為歷史記錄的一部分,你可以攔截這型別的蜘蛛爬蟲。

通過Robots.txt攔截

您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 heritrix 或限制其訪問許可權。我們建議安裝 Spider Analyser 外掛,以檢查它是否真正遵循這些規則。

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: heritrix
Disallow: /
# robots.txt # 下列程式碼一般情況可以攔截該代理 User-agent: heritrix Disallow: /
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: heritrix
Disallow: /

您無需手動執行此操作,可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。

常見蜘蛛/爬蟲

Common Spiders
Googlebot
GoogleBot蜘蛛/爬蟲屬於搜尋引擎型別,由Google Inc.開發執行。您可以繼續閱讀下方資訊,以深入瞭解GoogleBot基本資訊,使用者代理和訪問控制等。
SeznamBot
SeznamBot蜘蛛/爬蟲屬於搜尋引擎型別,由Seznam.cz, a.s.開發執行。您可以繼續閱讀下方資訊,以深入瞭解SeznamBot基本資訊,使用者代理和訪問控制等。
WordPress.com bots
WordPress.com bots蜘蛛/爬蟲屬於資訊流型別,由Automattic Inc.開發執行。您可以繼續閱讀下方資訊,以深入瞭解WordPress.com bots基本資訊,使用者代理和訪問控制等。
Hatena
Hatena蜘蛛/爬蟲屬於快照型別,由Hatena Co., Ltd.開發執行。您可以繼續閱讀下方資訊,以深入瞭解Hatena基本資訊,使用者代理和訪問控制等。
hyperhost.ua crawler
hyperhost.ua crawler蜘蛛/爬蟲屬於快照型別,由HyperHost Ukraine開發執行。您可以繼續閱讀下方資訊,以深入瞭解hyperhost.ua crawler基本資訊,使用者代理和訪問控制等。
bingbot
Bingbot蜘蛛/爬蟲屬於搜尋引擎型別,由Microsoft Corporation.開發執行。您可以繼續閱讀下方資訊,以深入瞭解Bingbot基本資訊,使用者代理和訪問控制等。
PhantomJsCloud.com
PhantomJsCloud.com蜘蛛/爬蟲屬於快照型別,由Novaleaf Software Co. Ltd.開發執行。您可以繼續閱讀下方資訊,以深入瞭解PhantomJsCloud.com基本資訊,使用者代理和訪問控制等。
Daumoa
Daumoa蜘蛛/爬蟲屬於搜尋引擎型別,由Kakao Corp.開發執行。您可以繼續閱讀下方資訊,以深入瞭解Daumoa基本資訊,使用者代理和訪問控制等。

相關文章

Related Articles