TestBot

TestBot蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解TestBot基本資訊,使用者代理和訪問控制等。

基本資訊

TestBot的基本資訊如下表。但部分不是很規範的蜘蛛和爬蟲,可能存在資訊不明的情況。
蜘蛛/爬蟲名稱
TestBot
型別
爬蟲
開發商
Unknown Author
當前狀態
活動

使用者代理

關於TestBot蜘蛛或者爬蟲的使用者代理字串,IP地址和伺服器,所在地等資訊如下表格所示:
ThinkBot/0.3.0
使用者代理字串
Mozilla/5.0 (compatible; ThinkBot/0.3.0; +In_the_test_phase,_if_the_spider_brings_you_trouble,_please_add_our_IP_to_the_blacklist._Thank_you.)
首次出現
2021-06-05 02:07:21
最後出現
2021-08-12 03:17:05
遵循robots.txt
未知
來源
IP地址(5) 伺服器名稱 所屬國家
118.24.106.70 118.24.106.70 CN
132.232.75.2 132.232.75.2 CN
175.24.232.97 175.24.232.97 CN
139.155.30.159 139.155.30.159 CN
132.232.81.163 132.232.81.163 CN
使用者代理字串
Mozilla/5.0 (compatible; TkBot/0.1; +In_the_test_phase,_if_the_spider_brings_you_trouble,_please_add_our_IP_to_the_blacklist._Thank_you.)
首次出現
2021-04-16 02:21:07
最後出現
2021-04-21 16:56:34
遵循robots.txt
未知
來源
IP地址(2) 伺服器名稱 所屬國家
118.24.106.70 118.24.106.70 CN
139.155.16.233 139.155.16.233 CN
使用者代理字串
Mozilla/5.0 (compatible; TestBot/0.1; +In_the_test_phase,_if_the_spider_brings_you_trouble,_please_add_our_IP_to_the_blacklist._Thank_you.)
首次出現
2020-12-18 05:30:50
最後出現
2021-03-09 01:25:07
遵循robots.txt
未知
來源
IP地址(6) 伺服器名稱 所屬國家
81.69.254.180 81.69.254.180 CN
139.155.54.119 139.155.54.119 CN
106.53.82.40 106.53.82.40 CN
132.232.81.163 132.232.81.163 CN
139.155.16.233 139.155.16.233 CN
106.53.83.56 106.53.83.56 CN

訪問控制

瞭解如何控制TestBot訪問許可權,避免TestBot抓取行為不當。

是否攔截TestBot?

可以考慮攔截。。爬蟲通常會下載公開的網際網路內容,這些內容預設情況下可以免費訪問。不過,如果你不希望你的內容被用於未經授權的目的,你應該攔截它們。

通過Robots.txt攔截

您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 TestBot 或限制其訪問許可權。我們建議安裝 Spider Analyser 外掛,以檢查它是否真正遵循這些規則。

# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: TestBot
Disallow: /

您無需手動執行此操作,可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。

常見蜘蛛/爬蟲

Common Spiders
Seamus
Seamus蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解Seamus基本資訊,使用者代理和訪問控制等。
SupaGuard
SupaGuard蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解SupaGuard基本資訊,使用者代理和訪問控制等。
employer-address-finder
employer-address-finder蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解employer-address-finder基本資訊,使用者代理和訪問控制等。
SocialMediaScrapperv2
SocialMediaScrapperv2蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解SocialMediaScrapperv2基本資訊,使用者代理和訪問控制等。
DomainCrawler
DomainCrawler蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解DomainCrawler基本資訊,使用者代理和訪問控制等。
ComplianceChecker
ComplianceChecker蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解ComplianceChecker基本資訊,使用者代理和訪問控制等。
BusinessNameBot
BusinessNameBot蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解BusinessNameBot基本資訊,使用者代理和訪問控制等。
BitFire-IconUpscaler
BitFire-IconUpscaler蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解BitFire-IconUpscaler基本資訊,使用者代理和訪問控制等。

相關文章

Related Articles