如何做搜尋引擎蜘蛛日誌分析
搜尋引擎蜘蛛日誌檔案是一種非常強大但未被站長充分利用的檔案，分析它可以獲取有關每個搜尋引擎如何爬取網站內容的相關資訊點，及檢視搜尋引擎蜘蛛在一段時間內的行為。
| IP地址(25) | 伺服器名稱 | 所屬國家 |
|---|---|---|
| 54.243.132.119 | ec2-54-243-132-119.compute-1.amazonaws.com | US |
| 54.232.96.90 | ec2-54-232-96-90.sa-east-1.compute.amazonaws.com | BR |
| 54.248.224.98 | ec2-54-248-224-98.ap-northeast-1.compute.amazonaws.com | JP |
| 54.251.113.38 | ec2-54-251-113-38.ap-southeast-1.compute.amazonaws.com | SG |
| 35.154.74.169 | ec2-35-154-74-169.ap-south-1.compute.amazonaws.com | US |
| 54.252.96.247 | ec2-54-252-96-247.ap-southeast-2.compute.amazonaws.com | AU |
| 35.157.8.157 | ec2-35-157-8-157.eu-central-1.compute.amazonaws.com | US |
| 54.246.107.43 | ec2-54-246-107-43.eu-west-1.compute.amazonaws.com | IE |
| 52.60.85.69 | ec2-52-60-85-69.ca-central-1.compute.amazonaws.com | US |
| 54.245.241.22 | ec2-54-245-241-22.us-west-2.compute.amazonaws.com | US |
| 54.241.7.11 | ec2-54-241-7-11.us-west-1.compute.amazonaws.com | US |
| 140.213.164.190 | 140.213.164.190 | ID |
通常不需要，如果您不需要此類監控服務，在服務提供網站移除您的網站即可。
您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 GotSiteMonitor 或限制其訪問許可權。我們建議安裝 Spider Analyser 外掛，以檢查它是否真正遵循這些規則。
# robots.txt # 下列程式碼一般情況可以攔截該代理 User-agent: GotSiteMonitor Disallow: /
您無需手動執行此操作，可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。
GotSiteMonitor網站監控 – 監控您的網站正常執行時間和HTTP/FTP/SMTP/POP3服務，支援實時電話和簡訊提醒。
您可以使用這個免費的網站監控器在幾分鐘內開始監控你的網站。當你的網站出現故障時，收到即時警報。
全球監測網路
網站監測
伺服器監控
即時通知
監測報告
