TestBot

TestBot蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解TestBot基本資訊,使用者代理和訪問控制等。

基本資訊

TestBot的基本資訊如下表。但部分不是很規範的蜘蛛和爬蟲,可能存在資訊不明的情況。
蜘蛛/爬蟲名稱
TestBot
型別
爬蟲
開發商
Unknown Author
當前狀態
活動

使用者代理

關於TestBot蜘蛛或者爬蟲的使用者代理字串,IP地址和伺服器,所在地等資訊如下表格所示:
ThinkBot/0.3.0
使用者代理字串
Mozilla/5.0 (compatible; ThinkBot/0.3.0; +In_the_test_phase,_if_the_spider_brings_you_trouble,_please_add_our_IP_to_the_blacklist._Thank_you.)
首次出現
2021-06-05 02:07:21
最後出現
2021-08-12 03:17:05
遵循robots.txt
未知
來源
IP地址(5) 伺服器名稱 所屬國家
118.24.106.70 118.24.106.70 CN
132.232.75.2 132.232.75.2 CN
175.24.232.97 175.24.232.97 CN
139.155.30.159 139.155.30.159 CN
132.232.81.163 132.232.81.163 CN
使用者代理字串
Mozilla/5.0 (compatible; TkBot/0.1; +In_the_test_phase,_if_the_spider_brings_you_trouble,_please_add_our_IP_to_the_blacklist._Thank_you.)
首次出現
2021-04-16 02:21:07
最後出現
2021-04-21 16:56:34
遵循robots.txt
未知
來源
IP地址(2) 伺服器名稱 所屬國家
118.24.106.70 118.24.106.70 CN
139.155.16.233 139.155.16.233 CN
使用者代理字串
Mozilla/5.0 (compatible; TestBot/0.1; +In_the_test_phase,_if_the_spider_brings_you_trouble,_please_add_our_IP_to_the_blacklist._Thank_you.)
首次出現
2020-12-18 05:30:50
最後出現
2021-03-09 01:25:07
遵循robots.txt
未知
來源
IP地址(6) 伺服器名稱 所屬國家
81.69.254.180 81.69.254.180 CN
139.155.54.119 139.155.54.119 CN
106.53.82.40 106.53.82.40 CN
132.232.81.163 132.232.81.163 CN
139.155.16.233 139.155.16.233 CN
106.53.83.56 106.53.83.56 CN

訪問控制

瞭解如何控制TestBot訪問許可權,避免TestBot抓取行為不當。

是否攔截TestBot?

可以考慮攔截。。爬蟲通常會下載公開的網際網路內容,這些內容預設情況下可以免費訪問。不過,如果你不希望你的內容被用於未經授權的目的,你應該攔截它們。

通過Robots.txt攔截

您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 TestBot 或限制其訪問許可權。我們建議安裝 Spider Analyser 外掛,以檢查它是否真正遵循這些規則。

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: TestBot
Disallow: /
# robots.txt # 下列程式碼一般情況可以攔截該代理 User-agent: TestBot Disallow: /
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: TestBot
Disallow: /

您無需手動執行此操作,可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。

常見蜘蛛/爬蟲

Common Spiders
Crawler-IP-Fetcher
Crawler-IP-Fetcher蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解Crawler-IP-Fetcher基本資訊,使用者代理和訪問控制等。
DARPResearchBot
DARPResearchBot蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解DARPResearchBot基本資訊,使用者代理和訪問控制等。
xfa1
xfa1蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解xfa1基本資訊,使用者代理和訪問控制等。
MassScanner
MassScanner蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解MassScanner基本資訊,使用者代理和訪問控制等。
robots-bulk-crawler
robots-bulk-crawler蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解robots-bulk-crawler基本資訊,使用者代理和訪問控制等。
studyBot
studyBot蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解studyBot基本資訊,使用者代理和訪問控制等。
AASA-Bot
AASA-Bot蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解AASA-Bot基本資訊,使用者代理和訪問控制等。
Tranco Crawler
Tranco Crawler蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解Tranco Crawler基本資訊,使用者代理和訪問控制等。

相關文章

Related Articles