PetalBot 是 Petal 搜索引擎(華為花瓣搜索引擎)的自動程序。PetalBot 的功能是訪問 PC 網(wǎng)站和移動網(wǎng)站,并建立索引數(shù)據(jù)庫,使用戶可以在 Petal 搜索引擎中搜索您網(wǎng)站的內(nèi)容。
PetalBot 帶給 Web 服務器多少壓力
為了獲得對目標資源更好的檢索結(jié)果,PetalBot 需要保持一定程度的網(wǎng)站爬網(wǎng)。我們力求不給網(wǎng)站帶來不合理的負擔,我們將根據(jù)服務器容量,網(wǎng)站質(zhì)量和網(wǎng)站更新等綜合因素進行調(diào)整。如果 PetalBot 的訪問有任何不合理的行為,請將您的疑慮發(fā)送至 search@aspiegel.com。
如何阻止 PetalBot 訪問您的站點
PetalBot 符合 Internet 機器人協(xié)議。您可以使用 robots.txt 文件完全阻止 PetalBot訪問您的網(wǎng)站,或阻止 PetalBot 訪問您網(wǎng)站上的某些文件。
User-agent: petalbot
Disallow: /
如果還是禁止不了,可以選擇nginx規(guī)則禁止訪問,如下:
if ($http_user_agent ~* "petalbot") {
return 403;
}