PetalBot 是 Petal 搜索引擎(華為花瓣搜索引擎)的自動(dòng)程序。PetalBot 的功能是訪問(wèn) PC 網(wǎng)站和移動(dòng)網(wǎng)站,并建立索引數(shù)據(jù)庫(kù),使用戶可以在 Petal 搜索引擎中搜索您網(wǎng)站的內(nèi)容。
PetalBot 帶給 Web 服務(wù)器多少壓力
為了獲得對(duì)目標(biāo)資源更好的檢索結(jié)果,PetalBot 需要保持一定程度的網(wǎng)站爬網(wǎng)。我們力求不給網(wǎng)站帶來(lái)不合理的負(fù)擔(dān),我們將根據(jù)服務(wù)器容量,網(wǎng)站質(zhì)量和網(wǎng)站更新等綜合因素進(jìn)行調(diào)整。如果 PetalBot 的訪問(wèn)有任何不合理的行為,請(qǐng)將您的疑慮發(fā)送至 search@aspiegel.com。
如何阻止 PetalBot 訪問(wèn)您的站點(diǎn)
PetalBot 符合 Internet 機(jī)器人協(xié)議。您可以使用 robots.txt 文件完全阻止 PetalBot訪問(wèn)您的網(wǎng)站,或阻止 PetalBot 訪問(wèn)您網(wǎng)站上的某些文件。
User-agent: petalbot
Disallow: /
如果還是禁止不了,可以選擇nginx規(guī)則禁止訪問(wèn),如下:
if ($http_user_agent ~* "petalbot") {
return 403;
}