omgilibot

omgilibot蜘蛛/爬蟲屬於搜尋引擎型別,由Webz.io開發執行。您可以繼續閱讀下方資訊,以深入瞭解omgilibot基本資訊,使用者代理和訪問控制等。

基本資訊

omgilibot的基本資訊如下表。但部分不是很規範的蜘蛛和爬蟲,可能存在資訊不明的情況。
蜘蛛/爬蟲名稱
omgilibot
型別
搜尋引擎
開發商
Webz.io
當前狀態
活動

使用者代理

關於omgilibot蜘蛛或者爬蟲的使用者代理字串,IP地址和伺服器,所在地等資訊如下表格所示:
omgilibot/0.5
使用者代理字串
omgili/0.5 +http://omgili.com
首次出現
2016-02-12 08:25:00
最後出現
2024-12-30 17:28:04
遵循robots.txt
來源
IP地址(96) 伺服器名稱 所屬國家
212.29.233.215 ? IL
212.235.15.142 mgmteth0-rsp1-cpu0-1-agr3.ptk.nv.net.il IL
212.29.233.217 ? IL
82.166.33.76 82-166-33-76.barak-online.net IL
212.235.15.144 mgmteth0-rsp1-cpu0-1-agr4.ptk.nv.net.il IL
212.235.15.135 mgmteth0-rsp0-cpu0-1-gw2.ptk.nv.net.il IL
212.235.15.143 mgmteth0-rsp0-cpu0-1-agr4.ptk.nv.net.il IL
212.235.15.137 mgmt-gw2.ptk.nv.net.il IL
212.29.221.100 212-29-221-100.barak.net.il IL
212.29.233.218 212.29.233.218 IL
212.29.221.111 212-29-221-111.barak.net.il IL
62.90.13.229 62-90-13-229.barak.net.il IL
212.235.15.155 ? IL
212.29.233.219 ? IL
212.235.15.157 ? ?
212.29.221.97 212-29-221-97.barak.net.il IL
212.235.15.153 212.235.15.153 IL
82.166.33.72 82-166-33-72.barak-online.net IL
212.29.221.106 212-29-221-106.barak.net.il IL
212.29.221.105 212-29-221-105.barak.net.il IL
212.235.15.159 ? IL
82.166.33.75 82-166-33-75.barak-online.net IL
82.166.33.74 82-166-33-74.barak-online.net IL
212.235.15.148 212.235.15.148 IL
212.235.15.136 mgmteth0-rsp1-cpu0-1-gw2.ptk.nv.net.il IL
212.29.221.101 212-29-221-101.barak.net.il IL
212.29.221.98 212-29-221-98.barak.net.il IL
62.90.131.202 62-90-131-202.barak-online.net IL
212.235.15.140 ? IL
212.29.221.102 212-29-221-102.barak.net.il IL
212.29.233.216 212.29.233.216 IL
62.90.13.230 62-90-13-230.barak.net.il IL
212.235.15.138 212.235.15.138 IL
212.29.233.223 ? IL
212.29.233.209 ? IL
212.29.221.109 212-29-221-109.barak.net.il IL
212.235.15.129 ? IL
212.29.233.213 ? IL
212.29.221.107 212-29-221-107.barak.net.il IL
212.235.15.141 mgmteth0-rsp0-cpu0-1-agr3.ptk.nv.net.il IL
212.235.15.132 ? IL
212.29.233.212 ? IL
212.29.233.214 212.29.233.214 IL
62.90.13.231 62-90-13-231.barak.net.il IL
82.166.33.73 82-166-33-73.barak-online.net IL
212.29.233.222 ? IL
212.235.15.130 ? IL
212.235.15.150 ipeng-pc.ptk.nv.net.il IL
212.29.221.103 212-29-221-103.barak.net.il IL
212.235.15.139 ? IL
212.235.15.134 ? IL
212.235.15.131 ? IL
212.235.15.152 212.235.15.152 IL
212.235.15.146 mgmt-agr4.ptk.nv.net.il IL
212.29.233.208 ? IL
212.29.233.211 ? IL
199.203.99.114 goldenpages-http2.ser.netvision.net.il IL
199.203.99.125 tnuva-tlvsif.ser.netvision.net.il IL
199.203.99.117 dspis-fw1.ser.netvision.net.il IL
199.203.99.122 jb-fw2a.ser.netvision.net.il IL
82.166.33.79 82-166-33-79.barak-online.net IL
199.203.99.123 ? IL
使用者代理字串
omgilibot/0.4 +http://omgili.com
首次出現
2013-12-11 10:15:00
最後出現
2016-02-11 09:38:56
遵循robots.txt
未知
來源
IP地址(2) 伺服器名稱 所屬國家
62.0.1.90 62.0.1.90 IL
199.203.61.29 odap-199-203-61-29.bb.netvision.net.il US

訪問控制

瞭解如何控制omgilibot訪問許可權,避免omgilibot抓取行為不當。

是否攔截omgilibot?

一般不要攔截。搜尋引擎爬蟲為搜尋引擎提供動力,是使用者發現您網站的有效途徑。事實上,攔截搜尋引擎爬蟲可能會嚴重減少網站的自然流量。

通過Robots.txt攔截

您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 omgilibot 或限制其訪問許可權。我們建議安裝 Spider Analyser 外掛,以檢查它是否真正遵循這些規則。

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: omgilibot
Disallow: /
# robots.txt # 下列程式碼一般情況可以攔截該代理 User-agent: omgilibot Disallow: /
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: omgilibot
Disallow: /

您無需手動執行此操作,可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。

更多資訊

如果你正在閱讀這篇文章,可能是因為你遇到了Omgilibot–也許是在你的網路分析或伺服器日誌中(使用者代理:omgili/0.5 +https://omgili.com)–並求助於谷歌來決定這個爬蟲是一個應該被允許隨心所欲的仁慈生物,還是更邪惡的東西,應該被永遠驅逐出你的伺服器。

這篇文章將告訴你關於Omgili Bot的一切。

Omgili是一個白帽網路爬蟲,被世界頂級公司使用,併為你帶來巨大的流量。

更詳細地說,Omgili Bot是Webz.io十年前開發的網路爬蟲,用於支援Omgili搜尋引擎

今天,這個機器人為Webz.io提供動力,這是一項網路抓取服務,被世界領先的媒體監測和研究機構以及成千上萬的開發人員所使用。

通過索引您的網站,Webz.io使Hootsuite、Sprinklr和NetBase等服務–所有這些服務都依賴於Omgili的抓取的網路資料–能夠在您的網站中找到相關資訊,並將其連結到您的網站上,為您帶來流量。這也使這些公司不必建立自己的爬蟲,這顯然會進一步佔用您網站的資源。

Omgili會盡其所能地發揮其作用。

Omgili機器人會有效地抓取您的網站,並儘量減少它對您的基礎設施的資源要求。Webz.io有專門的開發人員,他們整天都在做這件事。

然而,偶爾也會發生一些小插曲–所以,如果Webz.io的機器人成為了資源大戶,拖累了您的網站,請告訴webz.io,webz.io會找到一個解決方案。

Omgilibot知道什麼時候它不被需要。

如果您不喜歡Omgilibot在您的網站上閒逛,您可以直接告訴webz.io,或者通過您的robots.txt檔案告訴webz.io–webz.io會各走各路,不會有任何不愉快(好吧,也許會有一些不愉快)。

你可以在這裡閱讀更多關於阻止Omgili機器人的資訊。webz.io致力於與webz.io抓取的網站以互利的方式合作,並始終遵守這些要求。

Omgilibot會抓取哪些網站?

一般來說,機器人會嘗試抓取它遇到的任何東西,但Omgilibot主要關注以下內容。

  • 新聞網站
  • 部落格
  • 評論
  • 電子商務
  • 留言板和線上討論

如果你的網站屬於這些類別之一,你可能會遇到Omgilibot。它很友好,所以不要猶豫,跟它打招呼吧!

Omgili對收集到的資料做了什麼?

抓取您的網站後,Webz.io將其編入索引,並通過Webz.io的API進行訪問,成千上萬的個人、公司、研究機構或政府機構都在使用該API,以更好地瞭解網路。

為什麼您要讓Omgilibot抓取您的網站?

簡而言之:

  • Omgilibot將您的網站連線到數百個應用程式、服務和市場,如Hootsuite和Sprinklr,然後它們可以連結回您,有可能將成千上萬的相關訪問者送到您的網路屬性上
  • 如果您的網站上有廣告,被這些服務所關注和連結,可以增加您對廣告商的吸引力和網站的收入。
  • Omgili的建立是為了儘量減少它所抓取的網站的資源佔用。
  • Webz.io正在不斷地改進Omgili,並願意接受您對機器人及其運作方式的任何反饋。

常見蜘蛛/爬蟲

Common Spiders
Mithril
Mithril蜘蛛/爬蟲屬於搜尋引擎型別,由University of Michigan開發執行。您可以繼續閱讀下方資訊,以深入瞭解Mithril基本資訊,使用者代理和訪問控制等。
fynd.bot crawler
fynd.bot crawler蜘蛛/爬蟲屬於搜尋引擎型別,由fynd.bot開發執行。您可以繼續閱讀下方資訊,以深入瞭解fynd.bot crawler基本資訊,使用者代理和訪問控制等。
Alibaba crawler
Alibaba crawler蜘蛛/爬蟲屬於搜尋引擎型別,由Alibaba Group開發執行。您可以繼續閱讀下方資訊,以深入瞭解Alibaba crawler基本資訊,使用者代理和訪問控制等。
Googlebot
GoogleBot蜘蛛/爬蟲屬於搜尋引擎型別,由Google Inc.開發執行。您可以繼續閱讀下方資訊,以深入瞭解GoogleBot基本資訊,使用者代理和訪問控制等。
Swisscows Crawler
Swisscows Crawler蜘蛛/爬蟲屬於搜尋引擎型別,由Swisscows AG開發執行。您可以繼續閱讀下方資訊,以深入瞭解Swisscows Crawler基本資訊,使用者代理和訪問控制等。
star-finder.de Bot
star-finder.de Bot蜘蛛/爬蟲屬於搜尋引擎型別,由projektnet開發執行。您可以繼續閱讀下方資訊,以深入瞭解star-finder.de Bot基本資訊,使用者代理和訪問控制等。
SeznamBot
SeznamBot蜘蛛/爬蟲屬於搜尋引擎型別,由Seznam.cz, a.s.開發執行。您可以繼續閱讀下方資訊,以深入瞭解SeznamBot基本資訊,使用者代理和訪問控制等。
MojeekBot
MojeekBot蜘蛛/爬蟲屬於搜尋引擎型別,由Mojeek Ltd.開發執行。您可以繼續閱讀下方資訊,以深入瞭解MojeekBot基本資訊,使用者代理和訪問控制等。

相關文章

Related Articles