女同免费毛片在线播放,免费无码专区毛片高潮喷水,年轻漂亮少妇私密精油按摩保养 ,老师在办公室被躁在线观看,久久婷婷人人澡人爽人人喊

首頁(yè)/ 站長(zhǎng)工具/ {notempty name="current_name"} 搜索引擎蜘蛛大全 {notempty name="$current_name"} /petalbot

petalbot

PetalBot 是 Petal 搜索引擎(華為花瓣搜索引擎)的自動(dòng)程序。PetalBot 的功能是訪問(wèn) PC 網(wǎng)站和移動(dòng)網(wǎng)站,并建立索引數(shù)據(jù)庫(kù),使用戶可以在 Petal 搜索引擎中搜索您網(wǎng)站的內(nèi)容。

PetalBot 帶給 Web 服務(wù)器多少壓力

為了獲得對(duì)目標(biāo)資源更好的檢索結(jié)果,PetalBot 需要保持一定程度的網(wǎng)站爬網(wǎng)。我們力求不給網(wǎng)站帶來(lái)不合理的負(fù)擔(dān),我們將根據(jù)服務(wù)器容量,網(wǎng)站質(zhì)量和網(wǎng)站更新等綜合因素進(jìn)行調(diào)整。如果 PetalBot 的訪問(wèn)有任何不合理的行為,請(qǐng)將您的疑慮發(fā)送至 search@aspiegel.com。

如何阻止 PetalBot 訪問(wèn)您的站點(diǎn)

PetalBot 符合 Internet 機(jī)器人協(xié)議。您可以使用 robots.txt 文件完全阻止 PetalBot訪問(wèn)您的網(wǎng)站,或阻止 PetalBot 訪問(wèn)您網(wǎng)站上的某些文件。

User-agent: petalbot

Disallow: /

如果還是禁止不了,可以選擇nginx規(guī)則禁止訪問(wèn),如下:

if ($http_user_agent ~* "petalbot") {

 return 403;

}

補(bǔ)充糾錯(cuò)
上一蜘蛛: grapeshot
下一蜘蛛: SEOkicks-Robot