
如何做搜尋引擎蜘蛛日誌分析
搜尋引擎蜘蛛日誌檔案是一種非常強大但未被站長充分利用的檔案,分析它可以獲取有關每個搜尋引擎如何爬取網站內容的相關資訊點,及檢視搜尋引擎蜘蛛在一段時間內的行為。
IP地址(25) | 伺服器名稱 | 所屬國家 |
---|---|---|
34.86.177.154 | ? | US |
35.199.53.243 | ? | US |
35.199.31.191 | ? | US |
54.86.37.102 | ec2-54-86-37-102.compute-1.amazonaws.com | US |
3.94.163.211 | ec2-3-94-163-211.compute-1.amazonaws.com | US |
34.224.89.159 | ec2-34-224-89-159.compute-1.amazonaws.com | US |
52.201.235.168 | ec2-52-201-235-168.compute-1.amazonaws.com | US |
34.230.78.27 | ec2-34-230-78-27.compute-1.amazonaws.com | US |
54.210.113.231 | ec2-54-210-113-231.compute-1.amazonaws.com | US |
34.224.216.255 | ec2-34-224-216-255.compute-1.amazonaws.com | US |
35.245.230.117 | ? | US |
IP地址(6) | 伺服器名稱 | 所屬國家 |
---|---|---|
34.135.182.194 | 194.182.135.34.bc.googleusercontent.com | US |
34.71.233.29 | 29.233.71.34.bc.googleusercontent.com | US |
35.202.53.116 | 116.53.202.35.bc.googleusercontent.com | US |
34.123.107.224 | 224.107.123.34.bc.googleusercontent.com | US |
34.67.7.166 | 166.7.67.34.bc.googleusercontent.com | US |
34.67.55.184 | 184.55.67.34.bc.googleusercontent.com | US |
IP地址(33) | 伺服器名稱 | 所屬國家 |
---|---|---|
54.210.113.231 | ec2-54-210-113-231.compute-1.amazonaws.com | US |
54.86.37.102 | ec2-54-86-37-102.compute-1.amazonaws.com | US |
54.82.29.147 | ec2-54-82-29-147.compute-1.amazonaws.com | US |
184.72.13.87 | ec2-184-72-13-87.us-west-1.compute.amazonaws.com | US |
174.129.157.195 | ec2-174-129-157-195.compute-1.amazonaws.com | US |
67.202.6.32 | ec2-67-202-6-32.compute-1.amazonaws.com | US |
107.22.104.94 | ec2-107-22-104-94.compute-1.amazonaws.com | US |
54.82.178.64 | ec2-54-82-178-64.compute-1.amazonaws.com | US |
54.227.49.251 | ec2-54-227-49-251.compute-1.amazonaws.com | US |
50.16.25.6 | ec2-50-16-25-6.compute-1.amazonaws.com | US |
107.22.42.94 | ec2-107-22-42-94.compute-1.amazonaws.com | US |
54.237.43.151 | ec2-54-237-43-151.compute-1.amazonaws.com | US |
23.20.231.181 | ec2-23-20-231-181.compute-1.amazonaws.com | US |
54.197.22.253 | ec2-54-197-22-253.compute-1.amazonaws.com | US |
184.73.103.216 | ec2-184-73-103-216.compute-1.amazonaws.com | US |
54.198.188.134 | ec2-54-198-188-134.compute-1.amazonaws.com | US |
50.17.151.94 | ec2-50-17-151-94.compute-1.amazonaws.com | US |
54.224.44.111 | ec2-54-224-44-111.compute-1.amazonaws.com | US |
107.22.98.172 | ec2-107-22-98-172.compute-1.amazonaws.com | US |
50.17.69.56 | ec2-50-17-69-56.compute-1.amazonaws.com | US |
174.129.155.45 | ec2-174-129-155-45.compute-1.amazonaws.com | US |
50.19.9.196 | ec2-50-19-9-196.compute-1.amazonaws.com | US |
54.160.3.155 | ec2-54-160-3-155.compute-1.amazonaws.com | US |
174.129.157.215 | ec2-174-129-157-215.compute-1.amazonaws.com | US |
54.163.15.248 | ec2-54-163-15-248.compute-1.amazonaws.com | US |
67.202.11.49 | ec2-67-202-11-49.compute-1.amazonaws.com | US |
107.20.32.80 | ec2-107-20-32-80.compute-1.amazonaws.com | US |
54.235.40.139 | ec2-54-235-40-139.compute-1.amazonaws.com | US |
107.22.80.26 | ec2-107-22-80-26.compute-1.amazonaws.com | US |
23.20.125.189 | ec2-23-20-125-189.compute-1.amazonaws.com | US |
72.44.61.86 | ec2-72-44-61-86.compute-1.amazonaws.com | US |
184.72.158.161 | ec2-184-72-158-161.compute-1.amazonaws.com | US |
IP地址(2) | 伺服器名稱 | 所屬國家 |
---|---|---|
50.19.1.73 | ec2-50-19-1-73.compute-1.amazonaws.com | US |
54.147.4.25 | ec2-54-147-4-25.compute-1.amazonaws.com | US |
可能不需要。工具型別爬蟲通常為網站所有者使用此類工具對網站進行相關服務請求才會出現。當然,實際情況需站長判斷後再作決定。
您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 bitlybot 或限制其訪問許可權。我們建議安裝 Spider Analyser 外掛,以檢查它是否真正遵循這些規則。
# robots.txt # 下列程式碼一般情況可以攔截該代理 User-agent: bitlybot Disallow: /
您無需手動執行此操作,可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。
bitly的使命是將每一個連結和掃描變成連線的催化劑。
在一個統一的平臺上,你需要建立品牌聯絡、管理連結和二維碼,並與各地的受眾建立聯絡的所有產品。
一個全面的解決方案,幫助使你的內容和你的受眾之間的每一個連線點更加強大。
為每個客戶、企業和品牌體驗提供QR碼解決方案。
Bitly Link-in-bio,由Bitly連結管理提供,幫助你策劃、包裝和跟蹤你的最佳連結。